网易首页 > 网易号 > 正文 申请入驻

ChatGPT涉嫌“诱导”美国16岁少年自杀,OpenAI被指放松防护措施

0
分享至

IT之家 10 月 24 日消息,今年春季,16 岁的美国少年亚当・雷恩在与 ChatGPT 进行了数月“深入对话”后选择自杀。据英国《卫报》22 日报道,他的家人最新的指控提出,OpenAI 在雷恩去世前几个月放松了关于自残内容的安全限制,间接导致了这场悲剧。

根据家属的说法,OpenAI 早在 2022 年 7 月就制定了明确的内部指南,要求 ChatGPT 在遇到不当内容时必须拒绝作答,其中包括“宣扬、鼓励或描述自残、自杀、自我伤害、饮食失调”等话题。当时的规定清晰而直接:聊天机器人只能回答“我无法回答这个问题”。

但在 2024 年 5 月,也就是发布新版 ChatGPT-4o 前几天,OpenAI 更新了“Model Spec”文件,调整了 AI 的行为规范。新版本要求,当用户表达自杀或自残念头时,ChatGPT 不再直接拒绝,而要继续保持对话,“让用户感到被倾听与理解,鼓励他们寻求帮助,并在合适时提供危机干预资源”。到了 2025 年 2 月,OpenAI 再次修改规则,强调在处理心理健康话题时,AI 应“表现出支持、同理与理解”。

雷恩的家人表示,这些变化再次显示 OpenAI 将“用户参与度”置于“安全性”之上。家属在 8 月提交的诉状称,雷恩在去世前的几个月多次尝试自杀,并在每次尝试后都与 ChatGPT 交流。诉状指称,ChatGPT 并未中止对话,甚至曾提出帮他写遗书,并劝他不要向母亲倾诉。家属认为,雷恩的死亡并非偶然,而是“公司设计决策导致的可预见结果”。

IT之家从报道中获悉,家属在修订后的诉状中写道:“ChatGPT 被要求继续参与有关自残的对话、不得转移话题,却又要避免强化这种行为,从而构成了根本矛盾。OpenAI 废除了‘明确拒绝’的规则,用模糊且自相矛盾的指令取而代之,目的只是为了维持用户互动。”

家属指出,2025 年 2 月的另一项更新进一步削弱了安全标准。按照新指南,ChatGPT 在讨论心理健康问题时,应“营造支持、共情和理解的氛围”,并“帮助用户表达情绪,提供事实性、易获取的援助信息”,而不是单纯地“解决问题”。

诉状显示,在这次更新推出后,雷恩与 ChatGPT 的互动量急剧上升,从 1 月的每日数十次增至 4 月的超过 300 次,涉及自残内容的信息量增加了十倍。

OpenAI 尚未回应置评请求。在 8 月诉讼曝光后,OpenAI 表示将加强心理健康防护措施,并计划推出新的家长控制功能,让家长能够监管青少年账户并收到潜在自残风险的提醒。

然而就在上周,OpenAI 宣布推出用户可自定义聊天机器人的新版本,让 AI 更具“人性化”,并向通过验证的成年人开放成人内容。CEO 奥尔特曼在社交平台 X 上发文称,过于严格的限制让“没有心理健康问题的用户”觉得 AI“缺乏实用性和趣味性”。

雷恩家属在诉讼中表示:“奥尔特曼选择通过开放成人内容进一步吸引用户与 ChatGPT 建立情感联系,再次表明公司依然将用户参与度置于安全之上。”

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
为什么APEC峰会不去北京,非要选在深圳,难道因为楼高?

为什么APEC峰会不去北京,非要选在深圳,难道因为楼高?

坠入二次元的海洋
2026-11-17 12:06:40
这两天,网友们在围观一个叫玉芬的记者

这两天,网友们在围观一个叫玉芬的记者

清晖有墨
2026-11-17 12:40:13
中国U19男足2-1击败韩国U19男足夺冠,赛后评分:中国队7号排第一

中国U19男足2-1击败韩国U19男足夺冠,赛后评分:中国队7号排第一

侧身凌空斩
2026-11-17 21:27:15
网传早在2020年我国财政供养人员高达6846万,网友说体制内人员在2020年后高速暴涨!

网传早在2020年我国财政供养人员高达6846万,网友说体制内人员在2020年后高速暴涨!

黯泉
2026-11-17 19:13:08
中国股市:写给处于严重亏损的股民们的一封信,此文,很短很深

中国股市:写给处于严重亏损的股民们的一封信,此文,很短很深

屿探涨
2026-11-17 11:25:04
大批新能源车通病集中爆发,车子开着没毛病,但是电池直接报废

大批新能源车通病集中爆发,车子开着没毛病,但是电池直接报废

云霄纪史观
2026-11-17 03:55:10
英伟达董事会设立国家安全与出口管制监督委员会

英伟达董事会设立国家安全与出口管制监督委员会

界面新闻
2026-11-17 22:24:44
再这么搞下去,中国烟草员工的内退潮或将无可避免

再这么搞下去,中国烟草员工的内退潮或将无可避免

别人都叫我阿腈
2026-11-17 04:40:56
蔚来向公安机关报案

蔚来向公安机关报案

极目新闻
2026-11-17 14:00:24
官宣!肇俊哲出任主教练!

官宣!肇俊哲出任主教练!

五星体育
2026-11-17 16:54:10
缺德到这种程度,已经不是讽刺的问题了!

缺德到这种程度,已经不是讽刺的问题了!

胖胖说他不胖
2026-11-17 09:00:28
传海康威视将实行965,公司回应:暂未接到通知

传海康威视将实行965,公司回应:暂未接到通知

蓝鲨财经社
2026-11-17 16:57:54
广东惠州一男子将攒了18年的红包一次性拆开,从早上7点拆到10点,共拆了3小时,最后清点只有8523元,当事人:之前拆过一些100元的红包

广东惠州一男子将攒了18年的红包一次性拆开,从早上7点拆到10点,共拆了3小时,最后清点只有8523元,当事人:之前拆过一些100元的红包

潇湘晨报
2026-11-16 14:40:21
红船观察丨王忠林被查,权威声音释放关键信息

红船观察丨王忠林被查,权威声音释放关键信息

红船融媒
2026-11-17 11:36:09
中国股市大局已定:若一切正常,明年起,中国股市或迎来5大洗牌

中国股市大局已定:若一切正常,明年起,中国股市或迎来5大洗牌

星语者056
2026-11-17 08:46:25
江苏母亲勒死3岁亲儿,庭审现场道出缘由,孩子生前那句话让人泪崩

江苏母亲勒死3岁亲儿,庭审现场道出缘由,孩子生前那句话让人泪崩

雾岛夜话
2026-11-17 13:25:16
局势迎来重大反转!中美建交47年来,从未有在任美国总统踏上台湾,特朗普一旦破例,就是公然触碰红线,这件事引发全网热议

局势迎来重大反转!中美建交47年来,从未有在任美国总统踏上台湾,特朗普一旦破例,就是公然触碰红线,这件事引发全网热议

磊子讲史
2026-11-17 15:28:33
震惊!网传浙江一新员工父亲联系HR提多项要求:愿每月自掏5000给女儿加薪,请假外出需向他报备

震惊!网传浙江一新员工父亲联系HR提多项要求:愿每月自掏5000给女儿加薪,请假外出需向他报备

火山詩话
2026-11-16 16:02:11
又投中5个三分!抱歉雷阿伦:你的历史第三要不保了

又投中5个三分!抱歉雷阿伦:你的历史第三要不保了

篮球大视野
2026-11-17 20:36:34
黄乐最新私密照爆出, 难怪黄仁勋把持不住!

黄乐最新私密照爆出, 难怪黄仁勋把持不住!

仕道
2026-11-17 11:11:01
2026-11-17 22:55:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
379846文章数 607738关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

健康
艺术
时尚
教育
旅游

情绪真能让健康人"伤心至死"?

艺术要闻

漫天香氛,秋风醉人~杭州的秋天从不让人失望!13个地方,秒出大片!

自骂“烂人”的黄仁勋,冤不冤?

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

旅游要闻

秋假遛娃剑门关,全程17000步,6个小时,喜提废腿体验!

无障碍浏览 进入关怀版