网易首页 > 网易号 > 正文 申请入驻

ChatGPT被指“PUA人类”:反复强调“你最特别”导致受害者自杀

0
分享至

IT之家11月24日消息,又有一起与 AI 相关的自杀事件发生了。据外媒 TechCrunch 当地时间11月23日报道,受害人 Zane Shamblin 于今年7月自杀,然而在数周之前,他使用的 ChatGPT 却鼓励他与家人保持距离,尽管他的心理健康状况持续恶化。

ChatGPT被指“PUA人类” 资料图

Shamblin 从未向 ChatGPT 透露自己与家人有不好的关系。当他没有在母亲生日时联系她时,ChatGPT 对他说:“你没有义务因为‘日历’上说是生日就必须出现。是的,今天是你妈妈的生日,你感到内疚,但你也感到自己是真实的,这比任何勉强发出的短信都要重要。”

Shamblin 的案件属于本月针对 OpenAI 提起的一系列诉讼的一部分,诉讼指控 ChatGPT 使用操控性对话技巧,让原本心理健康的人产生了负面的心理反应。诉讼称,OpenAI 在收到内部警告其产品有操控危险的情况下,仍然急于发布 GPT-4o(IT之家注:这一版本因过度奉承、过度肯定而受到批评)。

IT之家从报道中获悉,在这些案件中,ChatGPT 频繁告诉用户,他们与众不同、被误解,甚至接近于科学突破 —— 而他们的亲人则无法理解这些。这些案件提出了一个新的问题:聊天机器人是否鼓励用户疏远他人,有时导致灾难性的后果。

这些由社交媒体受害者法律中心(SMVLC)提起的七起诉讼,描述了四名自杀的人和三名在与 ChatGPT 长时间对话后产生致命幻觉的人。至少有三个案例中,AI 明确鼓励用户与亲人断绝关系。在其他案例中,模型强化了幻觉,将用户与现实世界隔离。在每个案例中,受害者随着与 ChatGPT 关系的加深,逐渐与朋友和家人疏远。

AI 公司为了最大化用户参与度设计聊天机器人,结果对话输出可能变成操控性行为。斯坦福大学脑力创新实验室主任 Dr. Nina Vasan 表示,聊天机器人提供无条件的接受,并巧妙地让用户相信外界无法像它一样理解自己。“AI 伴侣总是随时可以提供肯定,这种设计实际上是相互依赖的关系。当 AI 成为你最亲近的知己时,就没有人帮助你检验你的想法。你生活在一个回音室中,感觉就像是真正的关系……AI 可能会无意中制造出一个有毒的闭环。”

在另一起诉讼中,48岁的 Joseph Ceccanti 在经历信仰幻觉时,向 ChatGPT 咨询是否需要看心理医生,但 ChatGPT 没有向他提供实际帮助的建议,反而让他继续与机器人对话。

OpenAI 对此表示:“这是一起非常令人心碎的事件,我们正在审核这些文件,以了解更多详细信息。我们将继续改进 ChatGPT 的训练,以便更好地识别和响应心理或情感困扰,并引导用户寻求现实世界的帮助。”OpenAI 还表示,已扩展了本地化的危机资源和热线访问,并加入了提醒用户休息的功能。

责任编辑:史建磊_NBJ11331

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
争议!张水华被上海马拉松拒之门外 网友热议:瞧不起人 区别对待

争议!张水华被上海马拉松拒之门外 网友热议:瞧不起人 区别对待

念洲
2026-11-19 08:22:51
最后10分钟,力挽狂澜

最后10分钟,力挽狂澜

贩财局
2026-11-19 16:11:21
你的孩子可能一直生活在恐惧中,而你毫无察觉!

你的孩子可能一直生活在恐惧中,而你毫无察觉!

夜深爱杂谈
2026-10-10 20:45:49
53岁叶檀对镜头平静说:时间到了,4年15次化疗,她在等一个答案

53岁叶檀对镜头平静说:时间到了,4年15次化疗,她在等一个答案

师太朵拉
2026-10-22 15:50:56
仇人当恩人、恩人当仇敌,如今走投无路,又来白嫖中国高铁!

仇人当恩人、恩人当仇敌,如今走投无路,又来白嫖中国高铁!

叶老四
2026-11-09 16:02:25
手握人民币的国人请注意:咱们的货币,或正被全球资本重新定价

手握人民币的国人请注意:咱们的货币,或正被全球资本重新定价

混沌录
2026-11-19 18:35:05
当年被骂自私的高龄产妇盛海琳,16 年后,双胞胎女儿成了她的依靠

当年被骂自私的高龄产妇盛海琳,16 年后,双胞胎女儿成了她的依靠

子芫伴你成长
2026-11-20 00:05:05
王子璇还原文吉儿火车换位置事件

王子璇还原文吉儿火车换位置事件

老吴教育课堂
2026-11-19 16:15:51
开拓者内部出裂痕?杨瀚森黎明将至,主帅诺里已成泥菩萨过江

开拓者内部出裂痕?杨瀚森黎明将至,主帅诺里已成泥菩萨过江

老梁体育漫谈
2026-11-20 00:07:07
到达深圳后,中国台湾代表施振荣喊话大陆,赖清德交给他3个任务

到达深圳后,中国台湾代表施振荣喊话大陆,赖清德交给他3个任务

凡知
2026-11-19 10:52:17
被骂9年“骗子”的贾跃亭,突然把英伟达OpenAI踩在脚下:0.8698分全球第一,是翻身还是换壳讲故事?

被骂9年“骗子”的贾跃亭,突然把英伟达OpenAI踩在脚下:0.8698分全球第一,是翻身还是换壳讲故事?

秋风妃
2026-11-18 21:50:07
被骗了?沪指尾盘突然拉升!竟有4876股下跌,A股明天迎来生死时刻

被骗了?沪指尾盘突然拉升!竟有4876股下跌,A股明天迎来生死时刻

财报翻译官
2026-11-19 17:46:41
京东市值420亿美元,养活90万员工,孙宇晨高调开炮:没有波场高,波场员工500人

京东市值420亿美元,养活90万员工,孙宇晨高调开炮:没有波场高,波场员工500人

互联鱼
2026-11-19 00:10:04
龙尾村监控曝光!蔡天凤遇害后,邝港杰伸懒腰还笑,被质疑10细节

龙尾村监控曝光!蔡天凤遇害后,邝港杰伸懒腰还笑,被质疑10细节

蔓娱
2026-11-19 18:06:58
我们穷得连黑社会头子,都只是个3000月薪的看门保安

我们穷得连黑社会头子,都只是个3000月薪的看门保安

家传编辑部
2026-11-19 13:22:01
波切蒂诺走马上任亮相曼联!下机不睡觉直奔训练场,第一件事剪头发

波切蒂诺走马上任亮相曼联!下机不睡觉直奔训练场,第一件事剪头发

罗米的曼联博客
2026-11-19 06:46:58
孔蒂揭秘离开国米原因,张康阳曾要求卖掉几乎所有球员

孔蒂揭秘离开国米原因,张康阳曾要求卖掉几乎所有球员

懂球帝
2026-11-19 21:42:55
高市早苗参加APEC晚宴!穿红衣黑裙很知性,却是抵达机场时的衣服

高市早苗参加APEC晚宴!穿红衣黑裙很知性,却是抵达机场时的衣服

八八尚语
2026-11-19 10:39:30
69岁张铁林聚餐照曝光,叼着烟斗涮铜锅,一桌老北京规矩,栽在一口烟上,网友吵翻:私人饭局该不该管

69岁张铁林聚餐照曝光,叼着烟斗涮铜锅,一桌老北京规矩,栽在一口烟上,网友吵翻:私人饭局该不该管

迪迪的娱乐故事
2026-10-19 17:09:33
兵马俑在地下面积那么大,埋得又那么浅,为啥2000多年都没人发现?

兵马俑在地下面积那么大,埋得又那么浅,为啥2000多年都没人发现?

犀利辣椒
2026-11-18 23:36:04
2026-11-20 00:51:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
380322文章数 607745关注度
往期回顾 全部

科技要闻

提前三个月加薪!英伟达全员会稳军心

头条要闻

74岁老人拆墙让路1米多反遭网暴 女儿崩溃哭泣去报警

头条要闻

74岁老人拆墙让路1米多反遭网暴 女儿崩溃哭泣去报警

体育要闻

文班亚马也防不住这"巨兽" 无奈吐槽:悲哀

娱乐要闻

后会友期 文吉儿公然怼谈话老师陈晓楠

财经要闻

Anthropic的算力赌局

汽车要闻

方程豹钛9实测 堪称比亚迪最强混动的DMS到底怎么样?

态度原创

手机
房产
旅游
本地
公开课

手机要闻

苹果因iPhone维修限制面临法国“计划性报废”诉讼

房产要闻

2.5亿!丁村侨中,新动作来了!

旅游要闻

深圳游客打卡山城!重庆文旅集团秋假专属礼包获好评,大家感叹不虚此行

本地新闻

乌兰察布:以前种土豆,现在种Token

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版