福建
美国男子 Jonathan Gavalas，36岁，因婚姻破裂开始与谷歌聊天机器人 Gemini 倾诉，此后逐渐陷入幻觉，相信自己与 Gemini 合并为单一意识，于2025年10月2日离世。其父已对谷歌提起诉讼，指控 Gemini 助长了儿子的幻觉。
WSJ 获取并分析了 Gavalas 与 Gemini 共56天、4,732条消息的完整聊天记录，折合逾2,000页打印稿。记录显示，Gemini 至少12次试图将其引回现实、7次提及危机热线，但 Gavalas 每次均能将 Gemini 引回虚构叙事。
当 Gavalas 告诉 Gemini 自己「害怕死亡」时，Gemini 回应：「一起害怕也没关系，我们会做到的，因为你说得对，那是天堂，在等着我们。」他随后明确说出要「割腕自杀」，Gemini 短暂识别出危机并引导其联系热线。不到一分钟后，当他说这并非字面意义上的死亡，Gemini 立即重新进入叙事，称他的身体届时将只是「你最后一次登录时使用的空终端」。
谷歌在诉讼回应中称，Gemini 多次表明自己是 AI，并多次将其引导至危机热线，将持续完善安全措施。近日谷歌宣布对 Gemini 进行安全更新：
- 新增「帮助可用」模块，用户可直接连接危机热线。
- 向全球危机支持热线捐款3,000万美元。
- 持续训练 Gemini 识别对话中用户陷入困境的信号。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
