封杀上千账号，抖音打击“于东来们”

来源：新浪财经

　　文|《BUG》栏目 罗宁

　　继雷军之后，胖东来创始人于东来，成为又一位被AI仿冒伤害的名人。

　　今日，抖音集团副总裁李亮披露：今年一季度，抖音平台上出现了大量利用人工智能（AI）技术仿冒胖东来创始人于东来的语音和形象，进行违规营销带货的账号和内容。截至目前已封禁了1000多个此类仿冒账号，并将相关线索移交给监管部门处理。

　　《BUG》栏目发现，在闲鱼等第三方交易平台，AI换脸的个性化定制工具不仅大量存在，甚至价格低至2元，这让AI仿冒名人视频的成本变得极低。另一方面，AI仿冒名人的内容层出不穷，甚至造成大量用户上当受骗。

　　在行业专家看来，随着AI工具的不断迭代，其仿冒程度越来越难以肉眼察觉，平台方需要用技术的手段快速辨识，以避免持续危害个人和企业形象。

　　胖东来与雷军的反击

　　AI仿冒的于东来究竟对企业造成多大影响？关于这一点，早在2024年11月，胖东来商贸集团就发布声明，谴责网络上出现的侵权行为。

　　胖东来官方表示，公司在第三方网络平台发现多个账号未经授权，擅自利用AI技术生成于东来先生的声音，并对胖东来享有著作权的视频内容进行非法剪辑篡改，添加AI合成声音和误导性文案后发布，导致公众产生混淆和误解。

　　胖东来方面严正表示，上述行为已侵犯了于东来先生的人格权和公司的著作权，对企业品牌形象造成了消极影响，公司对此予以严厉谴责。胖东来要求相关账号立即停止侵权，并声明将采取法律手段追究严重侵权者的责任，以维护自身合法权益。

　　今年2月，胖东来再次发布“关于侵权行为的处理公示”，重申仍有不法商家通过AI仿冒于东来的声音和肖像进行营销，使消费者误以为相关产品出自胖东来，以此牟利。胖东来强调这种行为不仅侵犯了于东来的肖像权，还涉嫌虚假宣传，公司法务部门已通过法律途径进行追责维权，为最大限度防止公众被误导。可见，胖东来在将近一年的时间里持续关注并打击AI仿冒行为，展现出维护企业声誉的坚定决心。

　　实际上，类似情况并不局限于胖东来，同为企业家的雷军也饱受AI仿冒视频之苦。

　　近两年，雷军在短视频平台上的“AI分身”一度泛滥成灾，甚至有人利用他的形象进行不当牟利。面对这种情况，雷军一方面在网络上呼吁网友停止传播此类恶搞视频，另一方面积极借助法律和政策途径寻求保护。今年全国人大会议上，雷军提交的建议中就包括加强“AI换脸拟声”领域的监管。

　　他指出，目前AI换脸、拟声技术被不法分子滥用的情况非常严重，已成为侵犯公民权利的重灾区，需要从立法和执法层面加大治理力度。

　　AI换脸，价格低至2元

　　实际上，近年来，不法分子借助深度伪造（Deepfake）等生成式AI技术，模仿于东来、雷军等人的外貌和声音制作虚假内容不仅成本非常低廉，并且已经很成熟。

　　《BUG》栏目发现，在闲鱼等第三方平台上，“AI换人物”“替换视频”等相关工具起步价低至2元。有商家向《BUG》栏目表示，自己家的销量很高，购买之后不仅可以将照片、视频中的人物换脸，还能通过教其他人学习来赚钱。该商家提到，“普通1分钟视频，2小时内出片。皮肤纹理、光影过渡超自然。”并且还表示“想换啥都可以，做到个性化定制。”

　　实际上，类似这样的产品在第三方平台并不少见，在B站、小红书等平台也有不少教程。一些发布教程的内容也提到，类似工具都能制作以假乱真的音视频，但这也为不法分子提供了可乘之机。

　　抖音集团副总裁李亮就指出，现在AI造假的门槛越来越低，做一条“以假乱真”的视频成本变得更低了。很多时候，AI生成的画面与声音看起来就像真的一样，对普通消费者来说，怎么去分辨真假就成了一个新问题。如果不注意，就可能被虚假的宣传误导，甚至花钱买到不靠谱的东西。他还提到，有商家、达人借普通公众对农作物知识了解不多，用AI生成的视频来误导用户下单。视频里展示的农作物产量和生长规律，和现实农业完全不符，但普通消费者难以辨别。

　　行业分析师张书乐就认为，在AI工具没有普及的时期，除了正常引用名人名言外，也有曲解、截取乃至编造名人名言的方式去博取关注的行为，但如今，这类工具的成熟以及低门槛化，让不法分子有了可乘之机，通过生成视频造成一种“名人真的说过”这样的假象，从而蹭热点、引流量、博关注，进而通过违规引流变现成所谓销量。只能说，编造名言，古已有之；利益驱动，今日更甚。

　　张书乐表示，只有魔法才能打败魔法。AI生成名人视频，随着工具的不断迭代，其仿冒程度越来越难以肉眼察觉，就如过去编造名人名言难以求证一样，常人乃至资深编辑都很难有效辨别，要杜绝此类内容，除了依靠群众举报、编辑慧眼，更需要提高人工智能对此类生成视频的“机器识别”能力，如此才能在这类视频出现之初，就迅速在平台上予以根除。此外，对频繁造假的账号和关联账号，平台方需要用技术的手段快速辨识，并予以封禁，以雷霆之怒，让其不敢跨越雷池。