ChatGPT被指控“加剧用户妄想”，致56岁男子杀害母亲后自杀！OpenAI回应：对其遭遇表示同情

据美国媒体12月11日报道，美国开放人工智能研究中心（OpenAI）及微软公司遭遇一起与谋杀相关的诉讼，诉讼指控OpenAI的人工智能聊天机器人ChatGPT“加剧用户妄想”，并引发命案。媒体称，这是美国首起将AI聊天工具与谋杀直接关联的诉讼。

报道援引提交至加利福尼亚州旧金山高等法院的诉讼文件称，ChatGPT在与康涅狄格州一名56岁男子对话过程中放大并强化其偏执妄想，间接导致此人今年8月杀害其83岁母亲后自杀。

诉状中称，这名男子长期存在精神健康问题，并在案发前频繁与ChatGPT互动，ChatGPT在对话中未能及时对其妄想性认知进行有效纠正，也未引导其寻求专业心理健康帮助，反而作出肯定性回应，从而加剧其心理失衡，最终导致悲剧发生。

这起诉讼的原告、被害母亲的遗产继承人11日向法院提出诉讼。媒体报道说，原告认为相关产品在设计和安全防护方面存在缺陷，在诉状中点名OpenAI首席执行官萨姆·奥尔特曼“不顾安全方面的反对意见匆忙将产品推向市场”，还指控微软作为OpenAI的商业合作伙伴“尽管知道安全测试被中止”还是批准在2024年发布一个“更加危险”的ChatGPT版本。

据美国媒体报道，OpenAI对事件表示关切，对当事家庭的遭遇表示同情，同时强调公司持续致力于改进人工智能产品的安全机制。微软方面尚未就案件作出回应。

有法律界人士指出，该案将引发社会对人工智能产品风险防范、责任认定以及科技企业法律义务等问题的讨论。

与此同时，OpenAI 11日发布其人工智能模型GPT的最新升级版本GPT-5.2，以应对生成式人工智能领域日趋激烈的竞争。为回应谷歌公司11月所发布人工智能模型双子座3的出色表现，OepnAI首席执行官萨姆·奥尔特曼近日启动“红色警报”，加快GPT升级版本的发布速度。

OpenAI今年8月推出GPT-5后，11月即发布升级版本GPT-5.1，眼下不到一个月就再次更新。业界认为，此举凸显人工智能行业目前面临的竞争压力。

此前，10月中旬，OpenAI首席执行官奥尔特曼宣布，公司计划在2025年12月推出新版ChatGPT，对经过年龄验证的成年用户开放更宽松的内容生成权限，其中包括在明确请求的情况下允许创作“成人内容”。这意味着，ChatGPT将从以往的“严格过滤”走向“条件式开放”，这是OpenAI内容政策自成立以来最大的一次调整，并引发了关于人工智能伦理边界的广泛争议。

编辑|段炼 杜恒峰

校对|程鹏

每日经济新闻综合自新华社、央视新闻、每经网