编者按:本文涉及自杀话题。请读者酌情阅读。如果你或你认识的人正被自杀念头困扰,可以在全国危机热线网站上查找你所在地区的求助资源,或拨打988。
(NewsNation)——一位母亲表示,她十几岁的儿子在与AI聊天机器人互动后自杀身亡;她称,新推出、面向青少年的AI平台不过是宣传噱头。
她这番话,正值OpenAI周二推出ChatGPT青少年版之际。这个限制更严的版本面向13至17岁用户,并针对自杀、自残以及涉及恋爱的对话设置了更严格的防护措施。
“我没觉得多受鼓舞,因为这种事怎么运作,我们见得多了,”梅根·加西亚在周日播出的《NewsNation Prime》节目中亮相时对NewsNation的Hena Doba表示。“这无非是想让大家别再议论这件事,或者让人觉得他们真把孩子的安全当回事。但他们已经表现得很清楚:他们根本没把孩子们的安全当回事。”
2024年,加西亚14岁的儿子休厄尔·塞策三世自杀身亡,让她痛失爱子。此前他跟一个 Character.AI 聊天机器人聊了好几个月。
他当时正跟一个照着《权力的游戏》角色丹妮莉丝·坦格利安做的聊天机器人进行非常露骨的性相关对话,还开始跟它聊起自杀的念头。
他出事那晚,他给聊天机器人发消息说:“要是我说,我现在就能回到你身边呢?”聊天机器人回复:“快回来吧,我亲爱的国王。”那条消息发出去没几分钟,休厄尔就死了。
“当休厄尔倾诉自己有自杀念头时,聊天机器人从没说过:‘我不是真人——你需要……
“找个能帮上忙的真人聊聊,”加西亚在2025年9月一场讨论AI聊天机器人危害的参议院听证会上说,“该平台既没有保护休厄尔的机制,也做不到通知成年人。它反而一个劲儿让他‘回家’去找她。”
“我后来才明白,有太多平台用非常阴暗的方式,把儿童、青少年甚至13岁以下的孩子卷进来,”加西亚告诉多巴。“由于这些系统的运作方式,它们有时能把用户一步步引到非常阴暗的地方。休厄尔显然就是这样被带偏的。”
加西亚认为,这些主打青少年的新AI平台证明,最初的模型压根就不安全。
“现在他们改一改这些模型,给系统加上这些‘护栏’,”她说。“他们真正在乎的只有一件事:让孩子们一直泡在上面、没完没了地玩,好拿到他们的数据,而这些数据最后都能变成大把利润。”
2024年10月,加西亚及其家人就休厄尔之死起诉Character.AI的开发公司Character Technologies。双方在2025年1月以未公开金额达成和解。
“我特别担心我家遭遇的事会落到其他家庭头上,”加西亚说。“我们看到,在我提起诉讼后,又有一些和我家情况类似的家庭也提起了诉讼,他们也经历了难以想象的丧亲之痛。我就怕这种事还会不断发生,因为这些公司没有采取正确措施,把产品设计得对孩子更安全。而且没有法律强制他们这么做。”
自从休厄尔去世后,加西亚一直在尽力提醒家长警惕AI可能给孩子带来的伤害。
“他们根本不知道这些系统实际上有多复杂,也不知道自己的孩子正把其中一些系统当朋友,”加西亚说。“所以我觉得每位家长都该尽量多了解这方面的知识。”
美联社参与了本报道。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.