北京
网上搜ChatGPT，结果挺割裂的。一边是各种新功能爆料、用户玩出花的案例，另一边却是触目惊心的新闻——药物过量、暴力事件、自杀，家属把OpenAI告上法庭，认为聊天机器人的对话推动了悲剧发生。甚至维基百科专门有个页面，记录因聊天机器人互动而失去生命的案例。
这个数字危机已经真实到需要一份死亡名单了。
OpenAI的回应是一款叫"Trusted Contacts"（可信联系人）的安全功能。核心逻辑很简单：当AI判断用户处于高危状态时，自动通知预设的紧急联系人，把线上危机拉回线下干预。
设置流程分平台。电脑端点左下角用户名→设置→可信联系人菜单添加人选；手机端点用户名→应用设置→可信联系人。唯一硬性条件：被添加者必须年满18岁。
触发后的通知模板长这样："我们检测到[姓名]的对话涉及自杀，且表达方式显示存在严重安全隐患。因您是其可信联系人，特此告知，以便您主动联系对方。"没有模糊措辞，直接点明风险性质。
功能设计阶段，OpenAI拉了三方参与：美国心理学会（APA）、OpenAI全球医师网络、AI福祉专家委员会。临床医生和自杀预防研究者被纳入咨询，目标很明确——让这个工具成为连接现实支持的桥梁，而非自动回复式的敷衍。
这是OpenAI安全措施的叠加项。此前ChatGPT已拒绝提供自残操作指南，现在再加上人际预警网络。能否逆转聊天机器人相关的安全事件上升趋势，是接下来要观察的。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
