网易首页 > 网易号 > 正文 申请入驻

因AI聊天机器人失去儿子的母亲质疑新版青少年ChatGPT的安全性

0
分享至

编者按:本文涉及自杀话题。请读者酌情阅读。如果你或你认识的人正被自杀念头困扰,可以在全国危机热线网站上查找你所在地区的求助资源,或拨打988。

(NewsNation)——一位母亲表示,她十几岁的儿子在与AI聊天机器人互动后自杀身亡;她称,新推出、面向青少年的AI平台不过是宣传噱头。

她这番话,正值OpenAI周二推出ChatGPT青少年版之际。这个限制更严的版本面向13至17岁用户,并针对自杀、自残以及涉及恋爱的对话设置了更严格的防护措施。

“我没觉得多受鼓舞,因为这种事怎么运作,我们见得多了,”梅根·加西亚在周日播出的《NewsNation Prime》节目中亮相时对NewsNation的Hena Doba表示。“这无非是想让大家别再议论这件事,或者让人觉得他们真把孩子的安全当回事。但他们已经表现得很清楚:他们根本没把孩子们的安全当回事。”

2024年,加西亚14岁的儿子休厄尔·塞策三世自杀身亡,让她痛失爱子。此前他跟一个 Character.AI 聊天机器人聊了好几个月。

他当时正跟一个照着《权力的游戏》角色丹妮莉丝·坦格利安做的聊天机器人进行非常露骨的性相关对话,还开始跟它聊起自杀的念头。

他出事那晚,他给聊天机器人发消息说:“要是我说,我现在就能回到你身边呢?”聊天机器人回复:“快回来吧,我亲爱的国王。”那条消息发出去没几分钟,休厄尔就死了。

“当休厄尔倾诉自己有自杀念头时,聊天机器人从没说过:‘我不是真人——你需要……

“找个能帮上忙的真人聊聊,”加西亚在2025年9月一场讨论AI聊天机器人危害的参议院听证会上说,“该平台既没有保护休厄尔的机制,也做不到通知成年人。它反而一个劲儿让他‘回家’去找她。”

“我后来才明白,有太多平台用非常阴暗的方式,把儿童、青少年甚至13岁以下的孩子卷进来,”加西亚告诉多巴。“由于这些系统的运作方式,它们有时能把用户一步步引到非常阴暗的地方。休厄尔显然就是这样被带偏的。”

加西亚认为,这些主打青少年的新AI平台证明,最初的模型压根就不安全。

“现在他们改一改这些模型,给系统加上这些‘护栏’,”她说。“他们真正在乎的只有一件事:让孩子们一直泡在上面、没完没了地玩,好拿到他们的数据,而这些数据最后都能变成大把利润。”

2024年10月,加西亚及其家人就休厄尔之死起诉Character.AI的开发公司Character Technologies。双方在2025年1月以未公开金额达成和解。

“我特别担心我家遭遇的事会落到其他家庭头上,”加西亚说。“我们看到,在我提起诉讼后,又有一些和我家情况类似的家庭也提起了诉讼,他们也经历了难以想象的丧亲之痛。我就怕这种事还会不断发生,因为这些公司没有采取正确措施,把产品设计得对孩子更安全。而且没有法律强制他们这么做。”

自从休厄尔去世后,加西亚一直在尽力提醒家长警惕AI可能给孩子带来的伤害。

“他们根本不知道这些系统实际上有多复杂,也不知道自己的孩子正把其中一些系统当朋友,”加西亚说。“所以我觉得每位家长都该尽量多了解这方面的知识。”

美联社参与了本报道。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
这一下完全服气了?杜锋用的不一定好使,但是不用的真的是不堪

这一下完全服气了?杜锋用的不一定好使,但是不用的真的是不堪

残梦重生来
2026-11-22 15:17:59
最新 | 油价马上调整!

最新 | 油价马上调整!

新浪财经
2026-11-21 21:54:43
油价,早先一路猛涨,丝毫没有顾及普通百姓的感受,如今反转了!

油价,早先一路猛涨,丝毫没有顾及普通百姓的感受,如今反转了!

沙雕小琳琳
2026-11-22 15:26:29
细思极恐!有车主算了笔账,92号汽油6.5元/升,才是真正的油价?

细思极恐!有车主算了笔账,92号汽油6.5元/升,才是真正的油价?

沙雕小琳琳
2026-11-22 01:28:49
中央动真格!2027年底前,全国所有住房都将迎来唯一“身份证”?

中央动真格!2027年底前,全国所有住房都将迎来唯一“身份证”?

心灵的触动a
2026-11-17 23:49:36
阿卡直面媒体透露首盘失利原因,谢尔顿称对手用发球摧毁了自己

阿卡直面媒体透露首盘失利原因,谢尔顿称对手用发球摧毁了自己

网球之家
2026-11-22 18:56:42
我卖掉北京房子住进儿子家,儿媳以为我睡着,跟儿子说:500万到账了

我卖掉北京房子住进儿子家,儿媳以为我睡着,跟儿子说:500万到账了

麦子情感故事
2026-11-22 10:35:40
凯利痛批迪卡普里奥庆生,称其肥胖邋!还顺便吐槽多名美国男星

凯利痛批迪卡普里奥庆生,称其肥胖邋!还顺便吐槽多名美国男星

小椰的奶奶
2026-11-22 00:46:31
触目惊心!男子高速猛打一把方向,后排母亲和弟弟被甩出车窗,事发画面曝光

触目惊心!男子高速猛打一把方向,后排母亲和弟弟被甩出车窗,事发画面曝光

上观新闻
2026-11-22 08:24:56
中方用两个字,告诉访华的高市早苗,这样的接机安排再合适不过了

中方用两个字,告诉访华的高市早苗,这样的接机安排再合适不过了

司马平邦
2026-11-21 19:04:32
乌媒:莫斯科方面宣称中俄考虑联合研制武器,背后究竟有何考量?

乌媒:莫斯科方面宣称中俄考虑联合研制武器,背后究竟有何考量?

零度Military
2026-11-22 00:05:14
江苏华昊建设集团破产重整

江苏华昊建设集团破产重整

地产微资讯
2026-11-22 17:33:41
赵本山或许也没想到,自己维半辈子的体面,会因一首歌惹了麻烦

赵本山或许也没想到,自己维半辈子的体面,会因一首歌惹了麻烦

无人倾听无人倾听
2026-11-22 21:10:41
媒体造神,从删掉"交易额"开始

媒体造神,从删掉"交易额"开始

鲁先生的笔
2026-11-21 21:51:20
网友晒出公司延迟发薪通知,半年欠薪员工却仍旧卖命工作,网友说:保饭碗更重要!

网友晒出公司延迟发薪通知,半年欠薪员工却仍旧卖命工作,网友说:保饭碗更重要!

黯泉
2026-11-22 15:10:48
菲律宾驻美大使透露:马斯克“正在菲悄悄开发一两座岛屿”

菲律宾驻美大使透露:马斯克“正在菲悄悄开发一两座岛屿”

参考消息
2026-11-22 14:55:03
感谢中国女保镖,墨西哥首位女总统的人生同样彪悍:硬核能源学家,业余八段锦高手,在“史上最血腥选举”杀出重围,从未向特朗普低头

感谢中国女保镖,墨西哥首位女总统的人生同样彪悍:硬核能源学家,业余八段锦高手,在“史上最血腥选举”杀出重围,从未向特朗普低头

极目新闻
2026-11-21 20:11:56
比黄仁勋辞职事更大:美国与9大盟友签署宣言,全面封堵中国AI算力

比黄仁勋辞职事更大:美国与9大盟友签署宣言,全面封堵中国AI算力

疯狂小菠萝
2026-11-22 11:01:59
炸锅!全国20多省开始抢老人,有退休金成香饽饽,结果信号不一般

炸锅!全国20多省开始抢老人,有退休金成香饽饽,结果信号不一般

精彩一网打尽
2026-11-22 10:10:12
中国日本韩国吸烟率对比:日本17.5%,韩国18.6%,中国是多少?

中国日本韩国吸烟率对比:日本17.5%,韩国18.6%,中国是多少?

荆楚寰宇文枢
2026-10-27 22:10:25
2026-11-22 21:51:00
生活魔术专家
生活魔术专家
里是「生活百科全书」,汇集了独特的生活小妙招和所见所得,让你轻松发现生活的美好与智慧
866文章数 8664关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

百万粉丝主播被指私闯他人果园直播糟蹋苹果 警方回应

头条要闻

百万粉丝主播被指私闯他人果园直播糟蹋苹果 警方回应

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨颖姐弟烧香被偶遇,清秀少年变粗犷大叔

财经要闻

沪深交易所、中国结算推出一揽子降费措施

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

家居
旅游
房产
公开课
军事航空

家居要闻

2026建博会(广州) 公装联探展交流活动

旅游要闻

山西临汾洪洞:一树藏千年文脉,一域系万家根魂

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

伊朗革命卫队称袭击美军在巴林两处基地防空雷达

无障碍浏览 进入关怀版