北京
“我们理解，家长收到警报时可能会非常不安。”Meta在宣布一项新安全功能时这样表示。当地时间周四，该公司正式上线了针对青少年用户的自杀与自残预警机制：一旦青少年在Meta AI聊天中谈及自杀或自残相关话题，系统便会向父母发送警报。
这并非简单粗暴的关键词拦截。Meta透露，已经部署了专门的AI系统，用于识别青少年明确提及自我伤害的对话。为了避免技术误报给家庭带来不必要的恐慌，这套系统标记的每一段对话都会先提交给人工审核，再由审核人员决定是否发出警报。如果对话的真实意图难以确定，团队会采取更谨慎的做法——直接通知家长。Meta坦言，家长有时可能会收到最终证明没有风险的警报，但“现阶段应当从更谨慎的标准开始，并继续观察实际效果，确保尺度合适”。
目前，这项警报功能已经面向美国、英国、澳大利亚和加拿大使用Instagram家长监督功能的家长开放，预计2026年年底前将推广至全球所有支持地区。在此之前，Instagram已支持在青少年反复搜索自杀或自残词语时通知家长，而此次与Meta AI的打通，则直接把预警范围从搜索框扩展到了即时对话中。
家长不仅会收到风险警报，还能直接查看青少年过去一周与Meta AI讨论过的话题摘要，从而更全面地了解孩子的线上交流动态。与此同时，Meta还进一步收紧了青少年与AI互动的内容边界。家长一旦启用“限制内容”设置，该限制将同步作用于Instagram和Meta AI。原本Meta AI就不会与青少年讨论性、恋爱或饮酒话题，新增的限制则会令聊天机器人拒绝更多类型的不适宜提问。
除了通知家长，Meta还在开发面向极端情况的紧急求助功能。如果对话显示用户可能即将自杀，Meta将直接联系紧急服务机构，无论对方是成年人还是青少年。事实上，类似的紧急响应机制此前已在Facebook和Instagram上线：当平台发现有用户发布的内容可能表明存在自杀风险时，同样会采取干预措施。此次将保护逻辑延伸至AI聊天场景，可视为Meta将其内容安全经验向生成式交互领域的一次复制。
从人工审核把关到宁可误报也不漏报的保守策略，再到逐步开放给更多地区的家长，Meta正在用一套多层次的干预体系，试图在青少年的AI对话中筑起一道心理安全防线。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
