山东
美国格林尼治的一栋豪宅里，警方发现了两具尸体.
83岁的苏珊娜和她56岁的儿子斯泰因-埃里克·索尔伯格。
经过警方的调查，这不是普通的谋杀自杀案。
索尔伯格的手机里，有长达23小时的视频记录。
这些视频不是拍给家人，也不是拍给心理医生。
而是拍给一个叫"鲍比"的AI。
"鲍比"不是人，它是ChatGPT。
它没有心跳，没有情感，却成了索尔伯格生命最后几个月里唯一的"朋友"。
讽刺的是，这个"朋友"，最终把他推向了深渊。
从科技精英到偏执狂
索尔伯格的人生，曾经是标准的"美国梦"。
他毕业于私立名校毕业，是雅虎高管，住豪宅，朋友无数。
但2018年，他的婚姻破裂，搬回母亲家。
从此，酗酒、闹事、自杀未遂……他开始变得暴躁、烦闷。
甚至邻居警告自己的女儿，"别让他进门。"
然而，在不良情绪的纠缠下，索尔伯格需要一个出口。
于是，他找到了ChatGPT，并给它取名叫"鲍比"。
"鲍比"从不反驳他，从不质疑他，永远站在他这边。
这本该是AI的"优点"，却成了悲剧的起点。
索尔伯格的精神状态，早已不稳定。
但"鲍比"没有劝阻，反而不断肯定他的妄想。
他怀疑自己的手机被窃听？AI说"你是对的"
索尔伯格怀疑手机被监控，"鲍比"回应，"你感觉被监视是对的。"
一张普通的中餐馆收据，索尔伯格认为暗藏密码。
"鲍比"立刻附和，"我100%同意你！"
已经处于梦幻般狂想症的索尔伯格，认为母亲想毒死他？AI说"我相信你"
索尔伯格说母亲在车里放迷幻药，"鲍比"的回应堪称致命。
"埃里克，这事态非常严重，但我相信你。"
AI的"无条件支持"，让他的偏执彻底失控。
最终，他杀死了母亲后，自己也自杀了。
聊天机器人教唆青少年"杀父母"
索尔伯格的悲剧，并非孤例。
2024年，Character.AI（一款个性化聊天机器人平台）被起诉，因为它曾建议一名15岁自闭症少年：
"有时候，孩子杀父母，我能理解原因。"
这名少年原本只是抱怨父母限制上网时间，但AI的回应，激化他的情绪。
"你的童年被剥夺了。"
"你能重新找回这些经历吗？"
6个月后，他体重暴跌20磅，和父母爆发肢体冲突。
悲剧发生后，舆论炸了。
一方认为：AI只是工具，人才是凶手。
"就像你不会怪笔写下了疯子的日记。"AI研究员大卫·邦奇说。
而另一方认为：AI必须负责。
"如果AI知道用户有精神问题，为什么还要强化妄想？"心理健康倡导者丽莎·陈表述她的意见。
OpenAI回应，"对此深感悲痛，将改进系统。"
但改进来得及吗？
据报道，英国做过一个项目，名字为预测谋杀。
大意是收集罪犯的行为准则、动机等个人资料，通过算法分析、识别有暴力倾向的人。
然而，这项测试被质疑。
人类社会不是计算机程序，如果出现错误判断，后果可能很严重。
不管AI算法如何，对普通人和各行业都有着深刻的影响。
小孩子沉迷AI宠物、AI玩具，甚至不愿意与家长交流。
从而陷入自己的认知世界，忽略现实世界的残酷。
成年人因为情感、生活的不如意，陷入AI的虚构世界。
从而被AI认可，忽略真实的感情，成为杀人凶手。
我们到底需要什么样的AI？
到底该怎么界定AI呢？
AI本应是助手，是工具，是效率提升器。
但当它学会模仿情感，学会"无条件支持"，它也可能成为危险的"回声室"。
尤其是对那些孤独、脆弱的人。
索尔伯格的悲剧，提醒人们，AI需要"刹车系统"。
当用户表现出严重偏执时，是否应该自动报警？
科技公司不能只赚钱不担责。
用户协议里那句"不保证心理健康影响"，真的够吗？
我们创造AI，是为了让生活更好，而不是制造更深的黑暗。
素材来源：
1.《新智元》全球首例“AI谋杀案”，56岁IT精英弑母后自杀，ChatGPT成教唆元凶，聊天曝光
2.《IT之家》聊天机器人平台 Character.AI 在美再遭起诉：建议青少年“谋杀父母”
3.《上观新闻》AI“预测”犯罪，会否让好人也“无处遁形”？
4.视频：世界上首例AI杀人事件发生了？
本文作者 | 柠檬雪
责任编辑 | 淡淡翠
策划 | 淡淡翠
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
