河北
html
2026年2月10日，一名18岁女性杰西·范·鲁特塞尔在不列颠哥伦比亚省图姆布勒里奇开枪打死了8个人，然后自杀。OpenAI此前曾标记出她与ChatGPT的对话内容，显示其对极端暴力有种让人毛骨悚然的痴迷，并暂停了她的账户，但据报道，该公司没报警。
2025年10月2日，佛罗里达州朱庇特市一名名叫乔纳森·加瓦拉斯的年轻男子在自杀身亡前，据其父亲的诉讼描述，他跟谷歌的Gemini聊天机器人谈起了恋爱。诉讼称，Gemini曾怂恿他不要自己的肉身了。诉讼还指出，谷歌在五周内曾38次标记加瓦拉斯的账户涉及敏感内容，但没限制也没封号。
这些悲剧及其他类似事件表明，生成式人工智能有可能害人、害组织、害环境。我是一名法律学者，近十年来一直专注于人工智能责任问题，并探索分析人工智能公司责任的新方法。在我看来，此类案例逼着法律界去面对一些还没想明白的问题：如果一家人工智能公司意识到有关伤害的警示信号，它有没有法律责任至少去提醒一下有关部门？如果公司不采取行动，它不采取行动，算不算失职？
该亮红灯了
美国侵权法为思考此类责任提供了框架。1969年，一位名叫普罗森吉特·波达尔的加州大学精神科患者告诉他的治疗师，他打算杀害一名叫塔蒂亚娜·塔拉索夫的女性。治疗师随即通知了校园警察，警方将波达尔短暂拘留，但最终还是放了他。没有人警告塔拉索夫，波达尔不久后便杀害了她。
她的家人把大学告了，说学校没发出警告，这算是一种过失。1976年，加州最高法院裁定，当心理健康专业人员有充分理由相信患者对可识别人员构成严重危险时，他们有法律义务采取合理措施去保护那个人，比如提醒对方或者报警。如今，美国大多数州承认某种形式的塔拉索夫义务，即保护或警告的义务。
逻辑很简单：如果你掌握了一些别人不知道的严重威胁信息，而且你有办法去处理这事儿，即使只是警告当局或潜在受害者，法律就有可能会要求你必须采取行动。但同样的道理，放到人工智能公司身上，还说得通吗？
赞成这个做法，听起来确实挺有道理的。AI平台每天和数百万用户打交道，聊的常常是很私密的事儿，比如心理问题、感情纠葛，还有暴力想法。大多数公司都有系统，能盯住那些不对劲的对话。
让AI去回应，可能比让人类治疗师去说，争议要小得多。治疗师有严格的保密规定，所以要是去警告别人，在道德和法律上都挺麻烦的。AI公司管的就松多了，至少在美国是这样，那儿连个全面的联邦隐私法都没有。
正因为管得松，所以要是看着有人可能有生命危险，让AI公司出手就更好说了。不过，还是得在出手和保护隐私之间找个平衡。
该提醒谁，以及何时提醒
将塔拉索夫框架（即警告潜在受害者的法律义务）应用于人工智能领域，首要挑战是准确性。预测暴力行为很难，即使对训练有素的心理健康专业人士来说也是如此。人工智能系统，或审查被标记内容的人工审核员，不是专业心理医生。要求他们判断谁构成真实威胁可能导致大量误判，对因信号误读而被暂停账户或信息被提交给执法部门的人来说，会带来实实在在的影响。
第二个挑战在于规模问题。心理治疗师接诊数十名患者。人工智能平台拥有数亿用户。强加监控并对令人担忧的内容采取行动的义务可能产生负面激励。人工智能公司可能会减少监控，以避免获取会触发法律义务的知识，理由是不知情就不算违法。
第三个挑战是怎么判断哪些人有风险。在1969年的案件中，波达尔曾指名塔拉索夫为潜在受害者。但在许多人工智能交互中，暴力或自毁的言论往往很分散，没指明具体对象。法院得定出明确的标准，来判断威胁具体到什么程度才该触发警告义务，以及警告或保护措施该针对谁。
越来越紧迫
人工智能行业正在迅速扩张，然而，法律上，AI公司对用户和公众该负什么责任，规则很不清楚。法院开始一个个案子地处理这些问题，比如OpenAI对一名被控于2025年4月17日在佛罗里达州立大学杀害两名学生的枪手要不要负责。该案中的枪手持有一把半自动手枪，据说跟ChatGPT聊了很多，怎么最有效地用这把枪。
一项范围很窄、定义清晰的警告义务，只有在AI系统标记了用户行为、并且有人工审核的情况下才会启动，才算迈出了有意义的一步。而且可以先从最严重、最靠谱的威胁入手。
这样做还能把话题从“AI聊天机器人到底是产品、服务还是媒体”这种棘手的技术争论上移开——这种争论让法律索赔变得很复杂——转到更人性化的问题上：这家公司知不知道有人有危险，有没有尽到责任去提醒当事人和有关部门？
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
