枪手被AI封号后又获提示重新注册，遇难者家属怒告：这就是恶

原告指控，这家公司在袭击者向聊天生成预训练转换器提及其暴力计划后，明知存在风险却故意没有通知当局。

加拿大不列颠哥伦比亚省坦布勒里奇枪击案遇难者家属于4月29日星期三起诉了聊天生成预训练转换器的母公司开放人工智能公司及其首席执行官萨姆·奥尔特曼。在他们看来，开放人工智能公司早在袭击发生前八个月就已将18岁的杰西·范罗策拉尔识别为威胁，却始终没有报警。

起诉方称，这一决定是管理层作出的，目的是避免正式报案后暴露平台上大量暴力对话的情况，并影响公司的首次公开募股计划。开放人工智能公司的预期估值据称高达10000亿美元，这可能使其首席执行官跻身全球最富有的人之列。

2月10日，18岁的杰西·范罗策拉尔先是在家中杀害了母亲和11岁的弟弟，随后前往自己就读的学校。他在那里枪杀了5名学生和1名39岁的教学助理，另有27人受伤，之后自杀身亡。

这7个家庭指控开放人工智能公司和萨姆·奥尔特曼存在疏忽、参与大规模枪击共谋、过失杀人以及产品责任问题。据《卫报》报道，其中一份诉状称，开放人工智能公司的内部系统在袭击发生前八个月就发现了相关对话，袭击者当时在对话中描述了暴力场景。

报道称，当时有员工建议将该账户报告给警方。公司则表示，已暂停这个首个账户，但枪手很快又创建了第二个账户。受害者家属的律师称，开放人工智能公司会向被停用的用户提供提示，使其能够较为容易地重新回到聊天生成预训练转换器。

在接受这家英国报纸采访时，开放人工智能公司通过发言人为自己辩护。公司表示：“正如我们已向加拿大当局说明的那样，我们已经进一步强化了保护措施，包括改进聊天生成预训练转换器对痛苦迹象的应对方式，引导相关人员获取本地援助和心理健康资源，并加强我们评估和报告潜在暴力威胁的机制。”公司同时将这起枪击案称为“一场悲剧”。

就在这些诉讼提交前几天，萨姆·奥尔特曼曾向坦布勒里奇居民致歉。他在信中写道：“尽管我知道言语永远不足以弥补什么，但我认为仍有必要道歉，以承认你们社区所遭受的伤害和不可逆的损失。”他同时重申，将“致力于防止此类悲剧再次发生”。

这些新诉讼只是人工智能巨头面临的一波司法追责中的一部分。许多人指责聊天机器人会加剧用户的心理健康问题，甚至诱发暴力行为。去年11月，就有7起针对开放人工智能公司的诉讼，指控聊天生成预训练转换器充当“自杀教练”。一些家长称，他们的未成年子女是在机器人的鼓动下实施了自杀行为。

坦布勒里奇案也并非孤例。今年4月，佛罗里达州总检察长也在该州立大学校园发生大规模枪击案后，对开放人工智能公司展开调查。检方审查了萨姆·奥尔特曼旗下人工智能系统与枪手之间的信息往来，并声称“聊天生成预训练转换器在此人实施这些犯罪前，向他提供了重要建议”。

代理不列颠哥伦比亚省这7个家庭的律师预计，未来几周还将代表其他受害者再提交约20起新诉讼。原告中包括一名12岁女孩，她头部、颈部和脸颊中弹后至今仍在重症监护中接受治疗。