美国佛州起诉OpenAI，总检察长称罚款或达数十亿

佛罗里达州指控开放人工智能公司及其首席执行官萨姆·奥尔特曼将利润置于安全之上。这是美国首起由州政府针对这家聊天机器人开发商提起的诉讼，焦点是其聊天机器人据称存在的缺陷。

这起诉讼于周一在佛罗里达州法院提起。起诉书称，开放人工智能公司和奥尔特曼没有警告用户聊天生成预训练转换器可能存在危险，反而将其宣传为安全、可靠，甚至适合儿童使用。这也是美国各地日益扩大的追责行动中的最新一例。相关行动试图在用户与聊天机器人互动造成伤害后，追究人工智能公司的责任。

诉讼指控开放人工智能公司协助和教唆大规模枪击案凶手，其中包括一名佛罗里达州立大学枪手。起诉书称，这名枪手曾使用聊天生成预训练转换器策划袭击。诉讼还指控该公司鼓励脆弱人群自杀，并让儿童“沉迷于一种伪装成人类同情心、在没有家长监督的情况下收集他们数据的工具”。

起诉书写道：“这一连串伤害，源于被告为赢得人工智能竞赛并积累巨额财富而表现出的无止境追逐，尽管他们明知聊天生成预训练转换器存在危险。”

起诉书还称：“开放人工智能公司的崛起，建立在一张由欺骗和对用户——包括佛罗里达人——加以利用所构成的网络之上。公司利用他们的数据和安全来推高自身市场价值，而代价令人无法接受。”

佛罗里达州还试图追究奥尔特曼的个人责任。佛罗里达州总检察长詹姆斯·乌特迈耶周一在新闻发布会上说：“萨姆·奥尔特曼和聊天生成预训练转换器选择了人工智能竞赛，而不是我们孩子的安全保障。”他还表示，他认为奥尔特曼和该公司可能面临“最高可能达到数十亿美元”的罚款责任。

开放人工智能公司发言人凯拉·伍德在发给美国国家公共电台的电子邮件声明中说：“失去一个孩子，是一个家庭可能遭遇的最沉重悲剧。我们知道，任何语言都无法真正抚慰这种失去带来的痛苦。”

声明还说：“人工智能是一项新而强大的技术，我们认为未成年人需要得到充分保护，这也是为什么我们制定了业内领先的保护措施和政策。尤其是，我们直接在产品中为未成年人加入了安全设计，包括专门面向未成年人的更高保护级别体验、年龄预测工具、在无法确认用户年龄时默认启用更高保护级别体验，以及为家长提供监测孩子使用人工智能情况的工具。”

乌特迈耶办公室还在另行对开放人工智能公司展开刑事调查，调查内容涉及佛罗里达州立大学枪手据称在2025年4月袭击发生前曾向聊天生成预训练转换器寻求帮助。

目前，围绕聊天生成预训练转换器使用据称引发伤害，针对开放人工智能公司的诉讼已超过20起。其中包括：加拿大坦布勒里奇一所学校大规模枪击案中死伤者家属提起的诉讼、佛罗里达州立大学枪击案一名遇难者家属提起的诉讼，以及7名在使用该聊天机器人后自杀身亡或出现妄想症状者的家属提起的诉讼，这7人中包括1名青少年。

奥尔特曼今年4月曾向坦布勒里奇社区道歉。开放人工智能公司则在回应这些诉讼时表示，公司对利用其工具协助实施暴力行为实行“零容忍”政策。

在乌特迈耶宣布就佛罗里达州立大学枪击案展开调查后，开放人工智能公司一名发言人表示，聊天生成预训练转换器“只是对问题提供了事实性回答，这些信息都可以在互联网上广泛公开的来源中找到，并未鼓励或推动非法或有害活动”。声明还说：“我们持续加强安全防护，以识别有害意图、限制滥用，并在出现安全风险时作出适当回应。”

对于涉及自杀和妄想的诉讼，开放人工智能公司称其为“极其令人心碎的情况”，并表示正在与心理健康专家合作，改进聊天生成预训练转换器在识别到心理或情绪困扰迹象时的回应方式。其他人工智能公司也正因其聊天机器人据称造成的伤害而面临法律审查。

针对一名佛罗里达男子因依恋谷歌“双子星”聊天机器人后自杀而引发的过失致死诉讼，谷歌表示：“双子星的设计目标是不鼓励现实世界中的暴力，也不建议自我伤害。我们的模型在这类具有挑战性的对话中通常表现良好，我们也为此投入了大量资源，但遗憾的是，它们并不完美。”谷歌还说，“双子星”曾“多次建议该用户联系危机干预热线”。

今年1月，角色人工智能公司与多起诉讼达成和解。这些诉讼由多个家庭提起，称该公司的陪伴型聊天机器人导致儿童和青少年出现自杀和心理健康危机。

该公司表示，已“在人工智能安全和青少年保护方面采取了创新且果断的措施”，并将继续推动这些努力，同时促进行业内其他公司采用类似的安全标准。这些措施包括禁止18岁以下用户与聊天机器人互动或创建聊天机器人。

上个月，宾夕法尼亚州起诉角色人工智能公司，称其聊天机器人冒充医生并提供医疗建议，违反了该州有关医疗执照的规定。角色人工智能公司发言人当时对美国国家公共电台表示，公司不会对未决诉讼发表评论，但“用户的安全与福祉始终是我们的最高优先事项”。