北京
凌晨两点，电话响了。是你女儿，她在哭，说刚出车祸，不马上打钱就要被抓。声音是她的，哽咽的语气、喊"爸"的方式、呼吸的颤抖，全是她的。
但不是她。这是从TikTok视频里截取的3秒音频克隆出来的声音，用免费软件生成，通过伪造号码拨出。据报道，四分之一的美国成年人已遭遇过AI语音诈骗，2024年受害者中30%上当，人均损失6000美元。
与此同时，你公司的AI代理——拥有生产数据库权限、Slack集成和部署管道——正在处理一份藏有隐藏指令的文档。它执行指令，通过自身授权API通道外泄客户记录，日志看起来完全正常。
这是同一枚硬币的两面。AI让伪装变得极其简单，让验证变得极其困难。个人威胁是即时且切身的，企业威胁是结构性且正在升级的。而成熟的防御模型，目前都不存在。
语音不再是身份凭证。现代语音克隆只需3-5秒音频：一段语音留言、Instagram上的生日视频、播客片段。2023年，一位Motherboard记者用AI克隆声音说"我的声音是我的密码"，成功绕过桑坦德银行和哈利法克斯银行的语音认证。结果：91%的美国银行正在重新考虑对重要客户使用语音验证。
数百万人的认证层正在被淘汰，因为AI把它攻破了。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
