当《哪吒之魔童闹海》登顶全球动画电影票房冠军时，AI技术也没闲着，哪吒、敖丙等经典角色被“魔改”得面目全非。时而街边撸串，时而T台走秀，甚至扛起机关枪扫射……这些离谱的画面，正是AI魔改视频的“杰作”。尽管广电总局发布了针对“AI魔改”的管理新规，但记者调查发现，互联网上仍频繁出现AI魔改的音频、视频，影视角色、明星、企业家都成了被恶搞的对象。
乱象：哪吒“被玩坏”，AI魔改无底线
1. 哪吒扛起机关枪，经典角色被恶搞
“天雷滚滚我好怕怕，劈得我浑身掉渣渣。”电影中的经典台词一出，哪吒却手持机关枪在土肥坡对着土拨鼠狂轰滥炸。市民陈女士看到这样的视频，哭笑不得：“要不是我看过电影，真会以为这是真的。”更离谱的是，哪吒还出现在现代城市场景中，被一位穿着西服的老奶奶抱着过马路。陈女士气愤地说：“这样的视频绝不能让孩子看到，会影响他们的价值观。”
2. 申公豹变“鸡汤大师”，网友被误导
在另一条高赞视频中，申公豹戴上墨镜、穿上西装，穿梭在写字楼中，嘴里还念叨着“凡是让你不惜代价的，你就是那个代价”等鸡汤语录。一些不明真相的网友留言：“越来越喜欢申公豹，太通透了！”殊不知，这些台词都是AI生成的，与原片毫无关系。
起底：9块9让“雷军”带货，AI声音克隆成生意
9块9克隆声音，名人“被代言”
记者调查发现，只需花费9块9，就能让雷军、马云、刘强东等知名企业家“开口”说话。在电商平台上，提供AI声音克隆服务的商家比比皆是。记者花费9.9元下单，提供了一段雷军的音频和文案，不到半小时，商家就生成了一条高度仿真的“克隆版雷军”语音：“各位米粉和女性朋友们，今天我们要做一件重新定义‘安心’的事……”
瑞莱智慧联合创始人萧子豪指出，AI工具的易获取性和低使用门槛，是AI魔改视频泛滥的重要原因。对于有一定技术基础的个人或公司来说，只需花费万余元，就能在家中配置一台小型服务器，生成各种AI音视频内容。然而，AI工具的中性属性也使其容易被不良动机的人滥用。
如何避免AI工具被滥用？
1. 平台责任：显著标注AI生成内容
萧子豪认为，平台应尽可能对所有AI生成内容进行明显标注，并提醒用户进行交叉验证，避免被误导甚至遭遇诈骗风险。然而，目前各平台对此的投入还远远不够。
2. 技术溯源：治理AI魔改的难点
AI魔改的治理面临诸多挑战，尤其是侵权主体及其手段的隐蔽性。记者体验发现，非会员用户制作的AI生成视频会自动打上水印，但只需花费少量会员费，就能实现无水印。萧子豪指出：“当你看到一段AI魔改视频时，早已不知转手了多少次，最初制作这个视频的人和AI工具也极难溯源。”
3. 雷军建议：加强AI换脸拟声的治理
小米创始人雷军发文建议，应明确AI换脸拟声应用的边界红线，完善侵权证据规则，加大对利用AI技术实施犯罪行为的处罚力度。他还建议，相关部门应支持平台企业开发精准识别AI深度合成内容的技术能力，优化巡查审核机制、投诉举报机制和应急处理机制，确保及时阻断问题内容传播。
AI技术的进步为内容创作带来了无限可能，但也带来了滥用和侵权的风险。从哪吒扛起机关枪到雷军“被代言”，AI魔改视频的泛滥不仅损害了经典角色的形象，也误导了观众，甚至可能引发法律纠纷。
如何避免AI工具被滥用？这不仅需要平台的严格审核和显著标注，还需要技术的进一步发展和法律的完善。正如雷军所说，AI工具是中性的，关键在于如何使用。只有在技术、平台和法律的共同努力下，才能让AI技术真正服务于创新，而不是沦为恶搞和侵权的工具。
原创文章，作者：极速时讯，如若转载，请注明出处：https://www.ia1v.com/news/2017.html
