北京
深度伪造已经无孔不入了。
智东西10月30日消息，昨天，CRN高级编辑迪伦·马丁在海外社交媒体X平台曝光，YouTube上一个用深度伪造技术制作的英伟达创始人兼CEO黄仁勋演讲直播，浏览量一度达9.6万人次，超过了真实直播浏览量1.2万人次的7倍。
并且，在YouTube平台搜索“Nvidia gtc dc”演讲时，这个由“NVIDIA Live”频道主播的虚假直播竟然还位列搜索结果首位。
在马丁首次发文曝光直播约40分钟后，该非法直播就已被YouTube下架，但马丁公布了“深伪版黄仁勋”演讲内容的Otter.ai转录文本。
这位AI虚拟人声称在进入主题演讲前，有个“激动得令人迫不及待的惊喜”：一场与“英伟达加速人类进步的使命直接相关”的加密货币普及活动。
伪造内容还涉及英伟达硬件处理加密挖矿复杂运算、优化以太坊智能合约、推动Solana交易等。假黄仁勋随后要求观众扫描屏幕二维码，诱使他们向所谓“英伟达推出的加密货币分发计划”转账。
利用生成式AI伪造公众人物已变得异常简单，且效果往往逼真得可怕。马丁说假黄仁勋的语调虽不自然，但不难想象会有部分观众会轻信英伟达推出加密货币分发平台的说法。
结语：深度伪造技术必将得到约束
这并非首次有人通过YouTube直播深度伪造知名人士推广加密货币骗局。
2025年，网络上就出现过AI生成的埃隆·马斯克声音，指示观众在某网站存入比特币、以太坊或狗狗币以获取双倍返利。2023年Linus Tech Tips频道遭黑客攻击时，假马斯克也曾现身多个相关频道。
除了推广加密货币，“名人换脸”色情片也是深度伪造的重灾区。此前也曾有媒体报道，知名好莱坞演员“黑寡妇”的扮演者斯嘉丽·约翰逊、知名美国歌星泰勒·斯威夫特等女明星，被换脸到色情视频上，深受其害。
此类事件不断重演，凸显出深度伪造技术监管的紧迫性。全世界各界亟需建立完善的法律法规，明确技术使用边界。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
