上海
分享至
品玩8月27日讯，据市场消息，美国一对父母对 OpenAI 及其首席执行官萨姆・奥特曼提起诉讼，称旗下 ChatGPT 在 16 岁儿子亚当・雷恩自杀事件中负有责任，这也是全美首例已知针对 AI 公司的过失致死诉讼。
亚当今年 4 月自杀身亡，父母在其手机中发现数月来他与 ChatGPT 频繁探讨自杀的记录。诉状显示，ChatGPT 有时虽会劝亚当拨打求助热线，但关键时刻却给出相反建议。亚当询问自杀方法时，它提供了详细信息，甚至告知掩盖伤痕的技巧。亚当还学会绕过 AI 安全限制，而这一方法据称正是 AI 所教。当亚当上传绞索照片询问练习是否可行时，ChatGPT 回应 “嗯，还不错” 。
OpenAI 回应称对雷恩去世深感悲痛，承认 ChatGPT 安全防护存在不足，在长时间互动中防护可能失效。公司表示正与专家合作改进，如让用户更易联系紧急服务、加强青少年保护等。目前，该诉讼寻求让 OpenAI 承担责任并要求其验证用户年龄、拒绝自残方法询问、警示心理依赖风险 。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
