7月3日,快手安全中心发布最新一期“AI魔改”视频专项治理公告。公告显示,今年6月,平台共处置“AI魔改”类型违规内容1908条,其中重点治理方向包括对经典动画《葫芦兄弟》《熊出没》及名著《西游记》中经典角色进行歪曲、篡改或传递不良价值观的不当改编行为。快手方面表示,相关违规内容已被全部下线,后续将持续加大技术审核与人工巡查力度,防止类似问题反复出现。

经典IP遭“魔改”:从《葫芦娃》到《西游记》无一幸免

随着生成式人工智能技术的快速普及,利用AI工具对经典影视作品、动画形象进行二次创作已成为短视频平台上的常见现象。然而,部分创作者出于博取流量、吸引眼球等目的,所制作的“魔改”内容严重偏离原著精神,甚至涉及低俗、暴力、色情等不良元素。

此次快手公布的典型案例中,首当其冲的是经典动画《葫芦兄弟》。部分创作者利用AI生成技术,将葫芦娃七兄弟的形象进行极端扭曲,或为其添加与现实价值观相悖的性格设定,甚至篡改原有故事情节,将原本团结对抗妖精的剧情改编为粗俗、荒诞的闹剧。另一部国产经典动画《熊出没》也遭遇类似命运,熊大、熊二及光头强的形象被过度丑化,故事内核被彻底解构。

更令人担忧的是对四大名著之一《西游记》的“魔改”。一些AI生成的短视频将孙悟空、唐僧等经典角色塑造为暴力、贪婪或充满恶意的人物,严重违背原著中“悟空从桀骜不驯到修成正果”的成长主线,甚至出现“唐僧贪财好色”“悟空欺压凡人”等违背基本人物设定的情节,传递错误的价值导向。

快手安全中心:坚决打击AI滥用,维护文化经典

在公告中,快手安全中心明确表示,经典作品是中华民族的文化瑰宝,承载着几代人的集体记忆与情感认同。利用AI技术对这些作品进行不当改编,不仅损害了原著的知识产权和艺术价值,更可能对青少年群体产生误导,扰乱网络内容生态。

为此,快手平台已建立专门的AI内容审核机制,通过“技术识别+人工复核”的双重手段,对涉及经典IP改编的AI视频进行全面筛查。对于确认存在歪曲人物形象、篡改故事情节、传递不良价值观的内容,平台将采取包括但不限于下架视频、限制流量、封禁账号在内的处罚措施。

数据显示,6月份被处置的1908条“AI魔改”内容中,近七成集中在上述三部经典作品。快手方面表示,未来还将持续扩大监测范围,将包括《大闹天宫》《黑猫警长》等在内的一批国产经典动画纳入重点保护名单。

专家观点:AI创作需守住底线,平台治理刻不容缓

中国传媒大学文化产业管理学院副教授王毅在接受记者采访时指出,短视频平台上的“AI魔改”现象本质上是对传统文化符号的“无序解构”。“经典IP是经过时间检验的文化资产,它们承载着正向的价值观和美学教育功能。当AI技术被用来随意篡改这些形象时,实际上是在消解一代人的共同记忆,甚至可能引发版权纠纷。”

王毅认为,平台方采取果断措施进行治理是必要且及时的。“快手此次的专项治理公告,体现了头部短视频平台对AI内容治理的责任担当。但仅依靠平台自查还不够,需要行业协会、版权方以及监管部门协同发力,尽快出台针对AI生成内容的标准与规范。”

行业观察:AI视频治理难题待解,版权与创新如何平衡

值得关注的是,AI“魔改”内容治理面临着技术层面的挑战。由于AI生成内容数量巨大、形态多样,且创作工具不断迭代,单纯依靠人工审核难以实现全覆盖。部分创作者甚至利用“测试”“恶搞”等名义打擦边球,使平台治理面临“发现难、判定难、取证难”的困境。

另一方面,如何区分正常的AI创意改编与恶意“魔改”,也是摆在平台面前的一道难题。业内普遍认为,健康的AI二次创作应当尊重原著精神,并在此基础上进行合理创新,而非单纯追求猎奇、低俗的感官刺激。

快手方面在公告中表示,将持续优化AI内容识别算法,同时欢迎用户通过举报渠道共同监督。平台也呼吁广大创作者文明使用AI工具,在技术浪潮中守住创作底线,让AI真正成为传承和弘扬中华优秀传统文化的助手,而非破坏者。

截至发稿时,快手安全中心尚未公布7月份的最新治理数据,但表示相关专项工作将常态化进行,形成对“AI魔改”行为的长效高压态势。