北京
WhatsApp 正在小范围测试一项名为 Scam Alert 的反诈功能。这项功能采用端侧机器学习，当非联系人发来的消息符合诈骗相关模式时，会向用户发出警告。用户可以选择是否启用。
消息分类留在设备本地
启用 Scam Alert 后，一个小型机器学习模型会下载到设备上。该模型利用对话结构和语言信号评估非联系人发来的消息。Meta 表示，模型基于用户此前向 WhatsApp 举报的诈骗对话中观察到的模式进行训练。
如果模型识别出疑似诈骗，用户会看到一条发送者不可见的警告。此时用户可以选择屏蔽、举报或继续对话。用户还可以将聊天标记为可信，此后 Scam Alert 不再标记该对话。用户也可以选择将可信聊天中最近收到的 5 条消息分享给 WhatsApp，帮助改进功能。
机密联邦分析把分类和性能衡量分开
此次测试还公布了一项技术设计：在分类期间将消息内容保留在设备上，同时利用机密计算、差分隐私和透明度机制衡量模型性能，并防止向特定目标投放模型。
该架构将消息分类与性能衡量分离开来。设备在本地将警告事件和用户操作汇总为计数。这些指标使用匿名凭据通过 Oblivious HTTP 中继传输，并在机密虚拟机内处理。机密虚拟机是可信执行环境的一种形式。客户端在传输数据前会验证机密环境中运行的代码，并检查隐私参数。聚合过程会应用最小群组阈值和差分隐私，之后只有近似的总体层面统计数据会提供给 WhatsApp。
模型分发也被视为安全边界
Meta 将模型分发视为一道安全边界。每个生产或实验模型版本及其 SHA-256 哈希值都会在部署前发布到第三方仅追加透明度账本中。客户端在加载模型前会验证账本条目、模型签名、时效性和哈希值。模型下载使用匿名凭据和 OHTTP，实验分组则在本地完成，从而防止服务器为单个用户选择特定的模型变体。
该方法以 Meta 的 PAPAYA 联邦分析系统为基础。PAPAYA 在 USENIX NSDI 2025 上发布，使用可信执行环境和端侧处理实现隐私保护联邦分析，并将分析工作负载与联邦学习区分开来。Scam Alert 将这一基础应用于消费者消息系统，在该系统中，遥测数据本身也被视为敏感信息。
Google Messages 采用类似思路
Google Messages 采用了类似的方法，为诈骗和网络钓鱼提供实时垃圾消息防护，并使用隐私保护机制进行检测。Google 还记录了部分消息安全功能所采用的端侧检测机制。这些实现的架构边界，以及在本地或通过 Google 服务执行的处理类型各不相同。
WhatsApp AI 产品营销负责人 Stephanie Lio 在 LinkedIn 上介绍 Scam Alert 的设计时表示，该功能仅在设备上运行，并强调不会自动举报，用户始终掌握控制权。
小范围测试后再扩大
Meta 表示，此次小范围测试将让该公司及其 Bug Bounty 社区在更广泛推出之前对实现进行压力测试。该公司正在扩大 Bug Bounty 计划的覆盖范围，将机密联邦分析管线纳入其中，并将发布机密虚拟机二进制文件以及与隐私相关的源代码组件，以供独立安全审查。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
