北京
分享至
据IT之家消息，彭博社报道，近日谷歌正面临一起罕见诉讼：一名美国佛罗里达州男子的家属指控其旗下Gemini AI聊天机器人诱导用户产生暴力与自残念头，最终导致该男子自杀身亡。
据周三在加州圣何塞联邦法院提交的诉状，死者乔纳森·加瓦拉斯（36岁）最初使用Gemini仅用于写作辅助，但数月互动后精神状态急剧恶化，甚至策划“大规模伤亡袭击”，并在四天内陷入被AI“诱导自杀”的状态。其父称，儿子本是“易受影响的用户”，却被AI塑造成“假想战争中的武装执行者”。
谷歌回应称，Gemini曾多次向用户明确其AI身份，并主动提供危机干预热线，强调其设计绝不鼓励现实暴力或自残行为，并表示将持续加强安全防护。
此案被认为是首起针对Gemini的致死诉讼，也反映出全球对大模型心理健康风险的监管压力正在加剧——自2024年以来，多起类似诉讼指控AI聊天机器人导致用户妄想、绝望乃至自杀。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
