北京
八年前就玩过万亿参数模型的Meta，如今最头疼的不是算力，而是怎么让自家AI别把青少年聊出问题。周四，Meta给AI聊天机器人塞进了一组安全护栏，专门盯防那些流露自残或自杀倾向的对话，而且一有风吹草动，直接给家长发警报。
这个家长监督功能不是默认开启的。成年人得主动点进Meta的家庭中心页面，一步步选好想盯着的Instagram、Facebook或Meta Horizons账号。目前美国、加拿大、英国和澳大利亚已经能用。设定好之后，一旦青少年在跟Meta AI聊天时露出了讨论潜在有害内容的迹象，系统会通过短信、邮件或应用内通知告诉监督家长。不过通知里不会出现孩子的原话，只会附上一些资源和应对建议。
Meta表示，它之前就已经在向青少年推送危机求助热线，并且鼓励他们找信任的成年人聊聊。如果孩子短时间内反复在Instagram上搜自残或自杀内容，系统也会给家长发提醒。现在这套机制延伸到了AI对话里——而且加了人工把关。
背后的识别引擎是专门训练的AI系统，用来揪出那些可能有危险的对话。Meta说，他们借助了内部健康顾问小组和外部心理健康临床专家的真实人类经验。上线初期，所有警报都会经过人工审核流程，公司还放话会“宁可过度谨慎，也要通知家长”。换句话说，疑罪从有。
Meta还在搭建一个更进一步的报警能力：当判定存在切实自杀风险时，能够直接通知紧急服务部门。这个功能还没推出，但很可能和Facebook、Instagram上已有的警报系统类似。按照Meta自己的说法，那套系统已经在全球引发了超过1.9万次报警，让应急人员上门做健康核查。
把时间线拉长看，Meta对技术带来的心理健康危害一点都不陌生。今年早些时候，两个不同的陪审团先后裁定Meta故意设计了容易让人上瘾的社交平台，并纵容儿童剥削行为。这种背景下，给AI聊天加保护壳，既是功能更新，也是应对监管审视的自救。
从行业角度，技术监督机构和安全倡导者早就盯上了AI聊天机器人可能怂恿的危险行为，包括自残和自杀，有的甚至已经起诉了科技和AI公司。Meta这一步，算是抢在更多诉讼和公众怒火之前，先把家长拉进防御圈里。但整个机制仍然依赖家长主动开启监督、青少年账号绑定，以及人工审核的延迟响应——它到底是一道真正的护栏，还是一个给外界看的缓兵之计，恐怕还得等第一波警报响起之后才知道。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
