AI换脸、变声技术存安全风险，阿里腾讯字节快手等被约谈

" 蚂蚁呀嘿 " 这类 AI 换脸技术的应用今后要被纳入严管范畴了。

3 月 18 日，中国网信网发文称，阿里巴巴、腾讯、字节跳动、映客、小米、快手、鲸准数服、云账户、喜马拉雅、网易云音乐、去演等 11 家企业被地方网信、公关机关约谈。

背景是要加强对语音社交软件和涉 " 深度伪造 " 技术的互联网新技术新应用安全评估工作。

文章称，按《网络安全法》《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》等要求，要求上述企业认真开展安全评估，完善风险防控机制和措施，并对安全评估中发现的安全隐患及时采取有效整改措施，切实履行企业信息内容安全主体责任。

此前《解放军报》曾刊文指出，深度伪造技术是能够将个人的声音、面部表情及身体动作拼接合成虚假内容的人工智能技术。

深度伪造技术最常见方式是 AI 换脸技术，此外还包括语音模拟、人脸合成、视频生成等。它的出现使得篡改或生成高度逼真且难以甄别的音视频内容成为可能，观察者最终无法通过肉眼明辨真伪。

前段时间火爆全网的 " 蚂蚁呀嘿 " 便属于深度伪造技术的范畴。仅凭一款 AI 换脸 APP，用户就可低门槛地制作任何照片人物的动态视频。

抖音平台显示，截至 3 月 18 日，平台中带有 " 蚂蚁呀嘿 " 标签的视频播放总量已高达 32.8 亿次。

不过随着 " 蚂蚁呀嘿 " 的火爆，各地公安部门也在社交平台中纷纷发布警惕信息，指出 AI 换脸技术背后隐藏着很大安全隐患，不仅可能造成个人隐私数据泄露，甚至可能被不法分子用于伪造照片、视频来实施电信网络诈骗。

语音模拟技术同样如此。

警方曾介绍称，骗子通过技术手段盗取用户微信号后，可通过提取用户历史语音记录来模拟合成指定的语音包，用于向其他好友索要借款和转账。

例如在 2020 年 9 月，海口市民刘先生微信收到 " 准妹夫 " 的借钱信息。对方开门见山要借 300 元，还发了一条 2 秒长的语音：" 是我本人 "。刘先生转账后，对方又表示实际要借 3000 元，还继续以类似的语音博取信任，直到收到 " 准妹夫 " 微信号被盗的消息后，多次转账的刘先生才知被骗。

另外骗子也可以通过骚扰电话等方式，录音提取某人的声音，并对素材进行合成，用伪造的声音实施进一步的诈骗等。

基于此，中国网信网文章强调称，互联网信息服务提供者应当针对相关技术自行开展安全评估，对评估结果负责，并向网信部门和公安机关提交报告。网信部门和公安机关根据对安全评估报告的书面审查情况，认为有必要的，应当依据各自职责对互联网信息服务提供者开展现场检查。

文章也表示，未来国家互联网信息办公室、公安部将继续指导各地网信部门和公安机关加大巡查检查力度，督促属地互联网企业严格遵守相关法律法规，积极主动履行安全管理义务，切实履行企业主体责任，共同维护网络传播秩序，营造良好网络生态。

附全文：

为加强对具有舆论属性或社会动员能力的互联网信息服务和相关新技术新应用的安全管理，规范互联网信息服务活动，切实维护国家安全、社会秩序和公共利益，近日，国家互联网信息办公室、公安部指导各地网信部门、公安机关加强对语音社交软件和涉 " 深度伪造 " 技术的互联网新技术新应用安全评估工作。

针对近期未履行安全评估程序的语音社交软件和涉 " 深度伪造 " 技术的应用，国家互联网信息办公室、公安部指导北京、天津、上海、浙江、广东等地方网信部门、公安机关依法约谈映客、小米、快手、字节跳动、鲸准数服、云账户、喜马拉雅、阿里巴巴、网易云音乐、腾讯、去演等 11 家企业，督促其按照《网络安全法》《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》等法律法规及政策要求，认真开展安全评估，完善风险防控机制和措施，并对安全评估中发现的安全隐患及时采取有效整改措施，切实履行企业信息内容安全主体责任。

根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》要求，出现具有舆论属性或社会动员能力的信息服务上线，或者信息服务增设相关功能；使用新技术新应用，使信息服务的功能属性、技术实现方式、基础资源配置等发生重大变更；用户规模显著增加等情形，互联网信息服务提供者应当自行开展安全评估，对评估结果负责，并向网信部门和公安机关提交报告。网信部门和公安机关根据对安全评估报告的书面审查情况，认为有必要的，应当依据各自职责对互联网信息服务提供者开展现场检查。

下一步，国家互联网信息办公室、公安部将继续指导各地网信部门和公安机关加大巡查检查力度，督促属地互联网企业严格遵守相关法律法规，积极主动履行安全管理义务，切实履行企业主体责任，共同维护网络传播秩序，营造良好网络生态。

ZAKER 新闻出品

文 / 曾宪天 实习生陈荣