北京
一个潮湿的七月午后，佛罗里达州多佛市，82岁的祖母莎伦·布赖特韦尔接起电话，听到电话那头传来女儿的哭声。那声音如此真切——抽泣、哽咽、哀求，没有半点可疑。女儿说，自己出了车祸，车里的孕妇受了伤，很快会有律师联系她。布赖特韦尔养大这个女儿，曾轻轻摇晃她入睡，半个世纪里听过她无数次哭泣，她认得那声音里每一丝颤抖。于是，她做了一件任何母亲都会做的事：取出信封里的现金，将1.5万美元交给了上门取钱的快递员。等女儿安然无恙地出现在她面前时，钱和快递员早已消失无踪。 她听到的并不是女儿的声音。那是一个由生成式模型合成的产物——模型从公共互联网上抓取的音频片段中提取素材，可能来自一条社交媒体帖子，也可能只是一段语音留言，甚至只是几秒钟的日常对话。而电话里的惊恐和眼泪，不过是模型顺手加上的情感模拟。整场演出的成本，只有几美分。过去18个月里，各大消费者研究机构反复测试过这类工具，得出的结论一致：只要30秒的源材料，就能克隆出一个毫无防备者的声音。一些学术演示甚至只用3秒就做到了。 这正是这场骗局最令人不安的地方，也是美国正在悄悄经历的最奇怪的欺诈疫情之一。2024年，美国老年人报告的诈骗损失接近50亿美元，而联邦贸易委员会自己都认为，这一数字被严重低估了。该机构2025年12月提交给国会的报告估计，60岁以上美国人因欺诈而蒙受的真实损失，远比这个数字高得多。 那天下午，布赖特韦尔听到的，是技术被滥用时最冰冷的声音——一个母亲出于本能的信任，被一小段合成音频彻底击穿。而这样的故事，正在全美无数家庭中反复上演。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
