群发资讯网

AI魔改视频到处泛滥,经典人物被乱改,该管管了

刷短视频的时候,不少人都刷到过这样一类视频:熟悉的经典角色,样貌没变,剧情却完全变了样。林黛玉不再多愁善感,改成大力士倒拔垂杨柳;诸葛亮不在军营谋划,对着镜头直播带货;唐僧师徒一改原著设定,变成充满江湖气息的角色。这些靠AI工具快速合成、颠覆原作的内容,就是大家常说的AI魔改。如今这类内容在网上越来越多,相关乱象,也慢慢受到大家的关注。

很多创作者打出“二创”“搞笑玩梗”的旗号,批量制作这类魔改视频。门槛低、出片快,配上猎奇的剧情,很容易拿到流量。普通网友第一眼看着新鲜好玩,随手点赞转发,不知不觉就帮这类内容扩大了传播范围。不少账号已经形成固定套路,专门盯着四大名著、老影视剧、经典动画下手,批量产出低质魔改内容,靠流量变现。
不少人会疑惑,同样是二次创作,怎么区分正常二创和违规的AI魔改?其实二者有着清晰的边界。合规的二创,大多是解读剧情、剪辑混剪、做影评点评,尊重原作的人物内核,不会刻意歪曲、丑化角色。而AI魔改的核心,是保留原作人物形象,强行改写人设,用低俗、荒诞的剧情制造反差感,单纯追求猎奇效果,甚至加入暴力、诡异的情节,完全背离原作想要传递的内涵。
这类内容看似只是娱乐,背后藏着不少实实在在的隐患。
首当其冲的是版权和肖像相关的风险。根据著作权相关规定,未经授权截取影视剧画面、人物形象用来魔改传播,即便不直接售卖,靠流量获取收益,也容易触碰侵权红线。哪怕是流传很久的经典文学IP,原作的精神内核也受保护,随意歪曲篡改,侵害作品完整权。如果使用演员的面部形象做换脸合成,还会涉及肖像权问题。

其次,对青少年的影响不容忽视。小孩子对经典故事、历史人物的认知还没有成型,很容易把魔改后的虚假剧情当成真实内容。长期看这类颠倒人设的视频,容易混淆经典原著、历史故事原本的样子,形成错位的认知。还有部分魔改内容悄悄夹杂邪典、惊悚画面,潜移默化影响孩子的价值观。
除此之外,AI魔改的范围不只是经典影视。还有人利用这项技术编造虚假灾害画面、伪造热点事件、仿冒他人形象,生成不实信息,容易误导大众,引发不必要的恐慌,扰乱正常的网络信息秩序 。
针对持续蔓延的乱象,相关部门已经启动专项治理行动。按照国家广播电视总局部署,今年开展的AI魔改视频专项治理,重点清理篡改四大名著、历史题材、革命题材、英模形象的违规内容。网信部门的清朗行动,也把AI魔改、虚假合成内容列为整治重点。不少平台同步跟进,定期清理违规视频、处置批量发布魔改内容的账号,公开典型案例进行警示。有数据显示,仅9月,重点视听平台就清理相关违规视频近13000条,处置一批违规账号 。

治理过程里,网上也有不同的声音。一部分网友觉得只是娱乐玩梗,没必要管得太严;更多网友支持规范整治,认为玩梗要有底线,经典文化不该被无底线解构。客观来看,技术本身没有好坏,AI给内容创作带来了很多新思路,优质的AI二创同样值得鼓励,整治针对的,是没有边界、违背公序良俗、侵害他人权益的滥用行为,不是一刀切禁止所有AI创作。
现在也有配套规则约束深度合成内容,按照要求,AI生成的图片、视频,需要按规定标注AI生成标识,方便大家辨别真伪。但在实际传播中,有不少制作者会刻意去掉水印、隐瞒AI合成的事实,刻意模糊真假边界,增加辨别难度。平台也在不断升级技术,用识别模型筛查魔改、换脸类违规内容,完善举报通道,压缩违规内容的生存空间。
想要管好AI魔改乱象,单靠监管和平台还不够,需要多方一起发力。
对于内容创作者来说,要守住创作底线,分清娱乐和篡改的边界,使用素材尽量取得授权,不拿经典IP、历史人物做低俗化恶搞,发布AI合成内容主动标注来源。

平台要持续压实主体责任,优化审核机制,重点关注面向未成年人的内容,及时下架违规作品,对屡教不改的账号从严处置。
而作为普通网友,我们也可以提高自己的辨别能力。刷到反差感极强、剧情离谱的角色改编视频,多留一个心眼,不要轻易当成原著故事转发。家长可以多引导孩子阅读原著,建立对经典人物的正确认知,帮孩子区分趣味短视频和真实的文学故事。遇到明显恶搞、低俗、虚假的AI魔改内容,可以通过平台渠道举报。
科技向前走,规则和认知也要跟上。AI是创作工具,不该变成随意解构经典、制造虚假信息的手段。好玩的内容可以有,但不能丢掉底线,尊重版权、敬畏文化、守住公序良俗,才能让AI技术真正服务于优质内容创作,让网络空间多一些健康正向的作品。