北京
WhatsApp正在测试一项名为Scam Alert（诈骗警报）的可选功能，利用端侧机器学习模型，在用户收到非联系人发来的消息时，识别其中可能存在的诈骗模式并发出警告。这项功能目前处于有限测试阶段，其配套的技术方案也同步公开，核心思路是在设备本地完成消息内容分类，同时借助机密计算、差分隐私和透明度机制来衡量模型表现，并防止针对特定用户的定向模型投递。
功能机制：本地模型识别，警告仅发送方不可见
用户启用Scam Alert后，设备会下载一个体积较小的机器学习模型。对于来自非联系人的新消息，模型会基于对话结构和语言信号进行评估。Meta方面表示，该模型使用的训练数据，来自用户此前向WhatsApp举报的诈骗对话中观察到的模式。
一旦模型判定某条消息疑似诈骗，用户会看到一条警告提示，这条警告不会显示给消息的发送方。用户可以选择屏蔽、举报该对话，或者继续聊天。如果用户认为某段对话没有问题，也可以将其标记为“可信”，此后Scam Alert不会再对该对话发出提醒。作为可选项，用户还可以把来自可信对话的最后5条消息分享给WhatsApp，用于帮助改进这一功能。
隐私架构：分类与统计分离，多重机制保护数据
这套方案的关键设计，在于把消息分类和性能衡量两个环节彻底分开。设备端会先把警告事件和用户操作在本地聚合成计数数据，再通过Oblivious HTTP中继和匿名凭证进行传输，最终在机密虚拟机（一种可信执行环境）内完成处理。客户端在传输数据前，会先验证机密环境中运行的代码，并检查隐私参数是否符合要求。聚合过程还设置了最小群体阈值和差分隐私机制，WhatsApp最终只能获取近似的群体级统计数据，无法定位到个人。
Meta对模型分发环节同样做了安全边界处理。每个生产或实验版本的模型及其SHA-256哈希值，在部署前都会发布到第三方追加式透明账本上。客户端在加载模型前，会依次验证账本条目、模型签名、新鲜度和哈希值。模型下载过程使用匿名凭证和OHTTP，实验分组则在本地完成，这意味着服务器无法针对某个特定用户选择特定的模型版本。
技术底座：源自PAPAYA联邦分析系统
这套方案的底层技术，建立在Meta此前发布的PAPAYA联邦分析系统之上。该系统在USENIX NSDI 2025会议上发表，利用可信执行环境和设备端处理来实现隐私保护的联邦分析，并将分析工作负载与联邦学习明确区分。Scam Alert把这一基础框架应用到了消费级消息系统中，在这个场景下，遥测数据本身就被视为敏感信息。
类似的思路在Google Messages中也有体现。Google Messages提供针对诈骗和钓鱼的实时垃圾信息防护功能，同样使用隐私保护机制进行检测，Google也公开了部分消息安全功能的设备端检测方案。两者的实现方式在架构边界和处理的数据类型上存在差异，但都指向同一个方向：在保护用户隐私的前提下，利用端侧智能对抗日益复杂的诈骗手段。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
