河北
进入这个行业之前，我曾在一家大型商业银行从事金融犯罪合规工作三年，这意味着我见过的欺诈和诈骗案例比大多数人一辈子见过的都多。这让我本能地对任何声称能逼真模仿人声的东西保持警惕，因此，当Kyutai发布Pocket TTS——一个小到可以在CPU上运行的语音克隆模型时，我得亲自试试，而不是光看视频就信了。
从一个空白终端到克隆出跟我一模一样的声音，前后不到十五分钟，这让我比预想中不安得多。我不禁要问，面对生成式AI浪潮可能带来的冲击，银行的安全基础设施到底准备好了没有。
安装速度快得令人担忧
只要有台笔记本电脑、能上网，谁都能做到
我就直说了吧，我是这么设置的。我没有逆向工程任何东西，也不需要懂命令行就能跑起来。我让Google Gemini引导我完成设置，它就给了我一套完整、正确的操作步骤来安装软件包、修复Windows未自动处理的PATH问题、录制干净的样本，并运行一条命令。真的就这么简单。整个过程完全不需要任何技术专长。只需要找对LLM、问对问题、照着做就行，事后看来，这确实拉低了银行安全基础设施通常预设恶意行为者所具备的技术门槛。
接下来的技术步骤同样没什么惊喜，甚至更平淡。其中包括运行：
pip install pocket-tts
然后只做了一处 PATH 修复，就这么简单，我就可以开始克隆了。我录了二十秒自己说话的声音，把 .WAV 文件剪短到五秒，然后拿我这段录音当参考语音，跑了一条生成命令。第一次运行的时候停下来先下载了模型本身，大约 200MB，是从 Hugging Face 拉的。到这一步，我就可以正式跑模型了。
五秒音频，就能克隆出以假乱真的声音
只要一颗便宜的锐龙CPU就够了
模型缓存完成后，跑起来几乎就是一瞬间的事。我的终端显示提示处理时间恰好为46毫秒，平均生成步骤时间为15毫秒。我输入想要的句子，运行命令，我甚至还没来得及把手从键盘上拿开，音频就已经准备好了。这一切都在我的锐龙5 7600 CPU上运行，完全没用到独立显卡。这也在意料之中，因为Kyutai的文档同样指出，在他们的测试中，GPU加速在开发过程中没有带来明显的差别，因为模型已经足够小，几个CPU核心就完全够用了。
这套方案的效率和成本让我一直无法忽视。大多数形式的欺诈一直都需要付出“耐心”的代价。此前，深度伪造音频诈骗依赖预先录制的片段，生成速度慢，反而给了受害者犹豫的时间，也让受害者在直觉感到不对劲时有机会做出反应。执行起来也很繁琐、很耗资源，而且每次都不一定能完美复制。一个能够在毫秒内克隆声音的模型消除了这段缓冲时间，并在此过程中加剧了风险。
语音验证系统尚未对此做好准备
安全基础设施必须迅速跟上
在许多零售银行中，基于电话的语音身份验证通常被归类为高级别安全验证机制。通过这一级别的安全验证后，用户就能执行很多在其他较低级别安全认证下无法操作的事项。其中有些操作会给客户带来严重的实质性风险，比如可以发起转账、更改账户地址、改寄补办的借记卡或信用卡、变更企业银行账户的授权签字人，甚至修改网银访问权限。银行之所以常用这套系统，是因为语音验证用的是生物特征认证，而这类认证通常属于较高的安全级别。
更严重的是，仅仅五秒钟的音频片段就可能被提取出来——来源可以是语音信箱问候语、社交媒体视频，或者未经同意录下的电话通话。现在，这些样本似乎都足以合成出匹配的语音，因为这种合成显然几毫秒就能完成。这本身已经够糟了，但接下来的事同样让人担心。一旦通过了安全验证流程（通常由自动IVR系统处理），来电者在接下来的对话中就可以直接换回自己的声音。
出于公共利益考虑，现在对声纹身份验证的信任应该大幅降低
许多处理敏感数据的机构，如银行、保险公司和政府机构，依赖基于语音的各类验证系统，并认为它们是可靠的，因为这些系统依据的是独特的生物特征。长期以来，这些机构似乎还一直认为，要想逼真地伪造人声，所需的资源是网络威胁行为者和欺诈者根本不具备的。如果情况确实如此，这一假设可能不再成立，这些机构就必须重新审视它们赖以设定风险偏好的验证系统。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
