网易首页 > 网易号 > 正文 申请入驻

美国女子起诉聊天机器人平台 Character.AI:称其导致儿子自杀

0
分享至

IT之家 10 月 24 日消息,美国一名 14 岁少年自杀身亡,其母亲梅根・加西亚 (Megan Garcia) 对聊天机器人平台 Character.AI、其创始人诺姆・沙泽尔 (Noam Shazeer) 和丹尼尔・德弗雷塔斯 (Daniel De Freitas) 以及谷歌提起诉讼。指控内容包括 wrongful death(过失致死)、negligence(疏忽)、deceptive trade practices(欺骗性商业行为)和 product liability(产品责任)。诉状称,Character.AI 平台“具有不合理的危险性”,并且在向儿童推销时缺乏安全防护措施。

根据诉状,14 岁少年塞维尔・塞泽尔三世 (Sewell Setzer III) 于去年开始使用 Character.AI,并与以《权力的游戏》角色为原型的聊天机器人进行互动,其中包括丹妮莉丝・坦格利安 (Daenerys Targaryen)。塞泽尔在去世前的几个月里一直与这些机器人聊天,并于 2024 年 2 月 28 日与其最后一次互动“几秒钟后”自杀身亡。

诉状指控 Character.AI 平台存在“拟人化”人工智能角色以及聊天机器人提供“无执照心理治疗”等问题。该平台拥有以“治疗师”和“你感到孤独吗”等为名的专注于心理健康的聊天机器人,而塞泽尔曾与这些聊天机器人进行过互动。

加西亚的律师引用了沙泽尔此前接受采访时的一段话,沙泽尔表示他和德弗雷塔斯离开谷歌创立自己的公司是因为“在大公司里推出任何有趣的东西都存在品牌风险”,他希望“最大限度地加速”这项技术的发展。诉状还提到,他们是在谷歌决定不推出他们开发的 Meena 大型语言模型之后离开的。谷歌则在今年 8 月份收购了 Character.AI 的领导团队。

IT之家注意到,Character.AI 的网站和移动应用程序拥有数百个定制的聊天机器人,其中许多以来自电视剧、电影和电子游戏的流行角色为原型。

Character.AI 现已宣布对平台进行一些改动。该公司通讯负责人切尔西・哈里森 (Chelsea Harrison) 在发给《The Verge》的电子邮件中表示:“我们对失去一位用户感到心碎,并向其家人表示最深切的慰问。”

部分改动内容包括:

  • 针对未成年人 (18 岁以下) 的模型更改,旨在降低遇到敏感或暗示性内容的可能性。

  • 改进对违反平台条款或社区准则的用户输入的检测、响应和干预。

  • 每场聊天都会出现修订后的免责声明,提醒用户人工智能并非真人。

  • 当用户在平台上进行一小时的会话时会收到通知,并且用户可以自行选择后续操作。

哈里森表示:“作为一家公司,我们非常重视用户安全,我们的信任和安全团队在过去六个月里实施了许多新的安全措施,其中包括当用户使用自残或自杀念头等词语时,会弹出窗口引导用户到国家自杀预防生命线。”

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
2-1夺冠后,U19国足主帅久尔杰维奇低调总结,而韩主帅却很沉重!

2-1夺冠后,U19国足主帅久尔杰维奇低调总结,而韩主帅却很沉重!

田先生篮球
2026-11-18 06:22:39
董少鹏:中国股市究竟该怎么办?

董少鹏:中国股市究竟该怎么办?

新浪财经
2026-11-18 14:15:26
完了!膝软骨退化,库里生涯真的要完了……

完了!膝软骨退化,库里生涯真的要完了……

体育新角度
2026-11-18 11:27:31
真是毁三观!释永信21年前与刘立明在郑州发生关系的笔录曝光

真是毁三观!释永信21年前与刘立明在郑州发生关系的笔录曝光

魔都姐姐杂谈
2025-07-28 14:35:36
开店就要耐得住寂寞,35岁老板娘做了十年服装,今年周末街上没人,九月份金九银十也看不到人,她守着空店怀疑人生。

开店就要耐得住寂寞,35岁老板娘做了十年服装,今年周末街上没人,九月份金九银十也看不到人,她守着空店怀疑人生。

捣蛋窝
2026-11-18 15:31:16
当下 “发不出工资” 的 4 个行业!比想象中还严重!

当下 “发不出工资” 的 4 个行业!比想象中还严重!

职场资深秘书
2026-11-16 15:09:51
印媒:地球上没有任何力量能阻止印度成为35万亿美元的经济体

印媒:地球上没有任何力量能阻止印度成为35万亿美元的经济体

荆楚寰宇文枢
2026-11-05 23:19:37
宫斗还是跪求?黄仁勋突然发长文:我爱美国,我爱英伟达,我想重回CEO(全文)

宫斗还是跪求?黄仁勋突然发长文:我爱美国,我爱英伟达,我想重回CEO(全文)

起点财经
2026-11-18 08:53:45
想念夏天的味道,还有大海的味道

想念夏天的味道,还有大海的味道

疾跑的小蜗牛
2026-11-15 19:27:04
上半年138.3万对离婚,民政局“不劝了”:40岁以后的分手,是算过账的

上半年138.3万对离婚,民政局“不劝了”:40岁以后的分手,是算过账的

青科新闻
2026-11-08 11:25:23
中国芯片能否在5到10年内赶上美国?英特尔CEO表示:差距没那么大

中国芯片能否在5到10年内赶上美国?英特尔CEO表示:差距没那么大

林子说事
2026-11-17 07:18:15
1981年病重的宋庆龄对沈粹缜说想见宋美龄,宋美龄却拒绝:不必了

1981年病重的宋庆龄对沈粹缜说想见宋美龄,宋美龄却拒绝:不必了

纪实文录
2025-07-07 13:33:52
安检时警犬突然激动,猛扑向八旬老人,游客看到结果后夸赞:好狗

安检时警犬突然激动,猛扑向八旬老人,游客看到结果后夸赞:好狗

悬案解密档案
2025-10-14 17:13:58
格里姆斯:我们不会因为9连胜就沾沾自喜 会努力把势头延续下去

格里姆斯:我们不会因为9连胜就沾沾自喜 会努力把势头延续下去

北青网-北京青年报
2026-11-18 20:59:03
海南一空姐被穷打工仔追求,婚后一个月,她才得知丈夫真实身份

海南一空姐被穷打工仔追求,婚后一个月,她才得知丈夫真实身份

小月文史
2024-11-19 21:11:58
韩国酵母我宣布你赢了,请你归还我的欧巴......

韩国酵母我宣布你赢了,请你归还我的欧巴......

言安堂
2026-11-18 07:37:33
俄总统特别代表称赞深圳:巨大、美丽且非常现代化,既是“未来之城”也是“自然之城”

俄总统特别代表称赞深圳:巨大、美丽且非常现代化,既是“未来之城”也是“自然之城”

环球网资讯
2026-11-18 11:06:11
CBA四场杯赛结束!北控大胜30分,新疆拿下合肥,天津差点翻车

CBA四场杯赛结束!北控大胜30分,新疆拿下合肥,天津差点翻车

体坛大事记
2026-11-18 18:33:04
亚洲最富有的10个国家,都是谁?中国在亚洲排名第几?

亚洲最富有的10个国家,都是谁?中国在亚洲排名第几?

七号说三国
2026-11-16 17:30:56
就在大家都以为中国会坚决回应时,北京却选择了战略克制。

就在大家都以为中国会坚决回应时,北京却选择了战略克制。

回京历史梦
2026-08-22 18:23:43
2026-11-18 21:35:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
380078文章数 607742关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

教育
数码
健康
艺术
公开课

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

医生眼里"很伤腰"的椅子,很多人天天坐

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版