浙江
Meta公司正在为其人工智能助手Meta AI引入一项全新的安全系统。当青少年在使用Meta AI进行聊天时，如果对话内容暗示他们可能有自杀或自残的倾向，该系统将能够向其父母发送警报。此前，Meta AI在遇到此类话题时，已经会将青少年引导至危机求助热线，并鼓励他们与父母、心理辅导员或其他值得信赖的成年人进行沟通。而现在，部分此类对话将直接触发向负责监管的父母发送通知的功能。
据Meta透露，这项新机制是公司与家长及心理健康专家共同合作研发的，旨在确定哪些对话应当触发警报。系统能够识别青少年在对话中明确提及伤害自己的情况，即使其措辞十分隐晦，一个专门的人工智能系统也会负责搜寻这些危险信号。不过Meta强调，在正式向家长发送警报之前，系统标记出的每一段对话都会经过人工审核。在情况不明朗时，Meta表示将采取更为谨慎的态度并通知家长。这意味着，即使没有立即的危险，一些父母也可能会收到警报。这家科技巨头认为，在不断完善该系统的过程中，这种做法是正确的。这一新功能也是在Instagram现有系统的基础上构建的，此前Instagram已经能够在青少年短时间内频繁搜索与自杀或自残相关的词汇时提醒家长。
除了向家长发送警报，Meta还在致力于开发另一套系统。如果与Meta AI的对话表明某人有面临自杀的迫切风险，该系统可以自动联系紧急救援服务。此外，Meta重点关注的另一个领域是优化人工智能在将用户引导至支持资源之前的响应方式。Meta表示，聊天机器人不应生硬地结束对话，而应在鼓励青少年寻求帮助的同时，对他们的情绪表示理解和认可。目前，该公司正在继续咨询其“AI福祉专家委员会”、“自杀与自残咨询小组”以及多位青年顾问。
与此同时，Meta还将其更为严格的“受限内容”设置扩展到了Meta AI的对话中。青少年账户默认开启13岁以上的内容设置。在这一设置下，Meta AI会自动避开某些特定类型的互动，例如拒绝与青少年进行有关性或情感方面的对话，并拒绝提供诸如酒精饮料配方等请求。如果家长为青少年的Instagram账户开启了更严格的“受限内容”设置，这些额外的限制也将同步应用到Meta AI上。
据悉，这些警报功能目前已面向美国、英国、澳大利亚和加拿大使用Instagram家长监督工具的父母开放，并计划在2026年年底前向全球范围内的监管父母全面推出。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
