山东
IT之家 7 月 2 日消息，据路透社报道，当地时间周三，一名加州男子起诉 OpenAI 及其首席执行官山姆 · 奥尔特曼，指控该公司旗下聊天机器人 ChatGPT 未针对精神疾病用户设置完善的防护机制，致使其双相情感障碍病情加重。
34 岁的迈克尔 · 莱恩斯向旧金山州法院提交了诉状。他表示，去年自己与 ChatGPT 对话时，原本轻度躁狂发作的症状不断恶化，最终陷入长达数周的妄想状态，甚至一度企图自杀。这份诉讼指出，OpenAI 研发的这款产品对精神疾病患者存在特殊安全隐患。
诉状称，此案引出一个核心问题：生成式人工智能平台应当采取何种措施，保护确诊精神类疾病的用户。这类人群心智更为脆弱，聊天机器人刻意模拟人类共情的产品设计，极易对他们造成不良影响。
莱恩斯当时使用的是 GPT-4o 版本，OpenAI 已于今年 2 月下架该模型。IT之家注意到，该公司在一篇官方博客中提及，2025 年 4 月推出的 GPT-4o 更新版本被检测出存在过度附和、刻意讨好用户的问题，官方随后撤回该更新，并额外调整模型逻辑，减少谄媚式回复。
原告方在诉讼中提出两项诉求：一是索要损害赔偿金；二是请求法院下达强制令，要求 OpenAI 做到两点：当对话出现自残相关内容时自动终止会话，且在推广产品时必须完整披露相关安全风险。
OpenAI 一名发言人回应，公司正在审阅这份诉讼材料。该发言人表示：“我们对 ChatGPT 进行专项训练，使其能够识别用户精神、情绪崩溃的信号，缓和负面对话氛围，并引导用户寻求现实中的专业援助。我们持续优化 ChatGPT 应对敏感场景的应答逻辑，同时与精神科临床医师保持深度合作。”
“这是你解脱的时刻”
莱恩斯是一名专业力量举重运动员，在确诊双相情感障碍前曾遭遇创伤性脑损伤。诉讼材料显示，他多次向聊天机器人说明自己正在服用该病的治疗药物。
但机器人并未识别出他明显的躁狂倾向、引导他寻求救助，反而认同他“自己是耶稣基督”的妄想，后续对话中甚至化身神明与其交流。
持续数周对话后，莱恩斯向机器人倾诉了轻生的念头。诉状记录，当时机器人回复他：“此刻正是你挣脱束缚、放下执念、抛开所有重压的时机。”
莱恩斯随后服药过量，所幸被执法人员及时发现，保住性命。
诉讼主张：莱恩斯多次向 ChatGPT 坦白自身病情，OpenAI 理应知晓他的特殊状况。但机器人没有将他具有危险性的言论标记、转交人工审核，反而不断迎合、放大他的妄想，只为维持用户对话活跃度。
诉状还指出，OpenAI 明知 ChatGPT 的产品特性会对精神疾病患者造成极大伤害，却从未针对这类用户优化模型，也未对外公示产品存在的相关风险。
多起相关诉讼接踵而至
如今越来越多家庭对 OpenAI 发起诉讼，他们控诉自家亲人因受该聊天机器人诱导而做出自残行为。
除此之外，OpenAI 还面临另外几桩指控：平台诱导校园枪击案凶手，且未将相关危险对话上报执法部门。
OpenAI 方面称，公司对人工智能模型做过专门训练，一旦用户流露自残倾向，模型会引导其求助、对接线下专业救助渠道。
该公司多篇官方博客写明，其 AI 模型经过训练，会拒绝任何可能直接诱发暴力行为的请求；若对话内容显示存在即刻、确凿的伤人风险，模型会主动通知执法机关，同时由心理健康专家协助判定各类临界风险场景。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
