美人工智能公司被告！保险公司：没执照搞法律服务，聊天机器坑人

华盛顿大学法学院加拉格尔法学图书馆馆长卡拉·韦尔，目前正在为法学院学生开发一门关于人工智能伦理的选修培训课程。在应用人工智能方面，律师群体似乎已经难以抗拒其诱惑。

这一前车之鉴似乎并未起到多大的警示作用。巴黎高等商学院研究员达米安·夏洛汀一直致力于统计全球范围内因使用人工智能生成错误信息而遭法庭制裁的案例。他表示：“最近，我们在同一天内就记录了来自十个不同法庭的十起此类案件。”

他分析指出，之所以会出现这种问题，是因为人工智能的表现过于出色，但尚未达到完美无缺的程度。相关案件数量从去年开始飙升。夏洛汀透露，这一增长趋势目前仍在持续。据他统计，迄今为止全球已有超过1200起此类案件，其中约800起发生在美国的法庭上。

法官们对这一解释并不买账，并将其移交纪律处分。仅仅一个月后，类似的尴尬场景又在佐治亚州最高法院上演。

华盛顿大学法学院信息与技术副院长兼法学图书馆馆长卡拉·韦尔对此表示：“这类事件早已见诸报端，令人惊讶的是，至今仍有人重蹈覆辙。”目前，她正在为感兴趣的学生设计专门的人工智能伦理培训课程。不过她也坦言，相关的伦理规范尚未完全定型。

韦尔认为，除了“必须确保信息准确”这一基本要求外，业界目前尚未达成更多共识。因此，对他们而言，准确性就是不可逾越的底线。

韦尔敲击着办公桌强调说：“无论生成式人工智能工具为你提供了什么内容，比如向你推荐某些案例，根据职业行为准则，你都必须亲自去阅读这些案例。你必须通过核实原件，来确保引用的内容准确无误。”

帕特里斯承认，在梳理海量证据、判例法或处理合同方面，人工智能的实用性毋庸置疑。但他对目前向律师推销的下一代产品保持警惕。这类被称为“代理式”的系统，声称能够包揽从头到尾的所有法律工作。

他警告称：“一旦中间的推演步骤被系统掩盖，错误就会随之产生。即使是那些态度端正且勤奋的人，也会因为没有亲自参与处理过程而遗漏关键信息。”

从更宏观的角度来看，帕特里斯指出，随着人工智能工具大幅缩短某些耗时任务的处理时间，传统律师事务所按小时计费的商业模式正面临严峻威胁。

他打趣道：“摆在面前的只有两个选择。要么律师们同意降低收费——这显然是个笑话——要么他们开始寻找新的计费方式。我认为，他们很可能会逐渐转向按项目收费的模式。”

如果这种转变成为现实，可能会进一步加剧律师面临的时间压力，使他们更容易受到诱惑，直接采用人工智能生成的初稿。

“接下来的问题就很现实了：你是否愿意放慢脚步，留出独立思考的时间？”帕特里斯抛出了这样的疑问。他担忧地表示，对于在人工智能无处不在的环境中成长起来的后代来说，他们是否还懂得停下来，彻底理清问题的来龙去脉，这无疑是一个隐患。

对于未来律师分析能力可能退化的担忧，韦尔与帕特里斯深有同感。不过，她并不认同那些最为悲观的预测。外界有声音认为，未来的司法系统将完全自动化，人工智能将彻底取代人类律师。

“我认为真正的趋势是，懂得如何高效且符合伦理地使用生成式人工智能的律师，将淘汰那些拒绝使用新技术的同行。”韦尔总结道，“这才是未来的发展方向。”

人工智能本身也已成为法律界重点关注的靶子。今年三月，知名人工智能聊天程序的开发商“开放人工智能公司”在伊利诺伊州联邦法院遭到美国日本生命保险公司的起诉。该保险公司声称，一名女子因听信了该聊天机器人提供的糟糕法律建议，对公司发起了毫无根据的诉讼。

该诉讼的核心指控之一，是认为“开放人工智能公司”在未取得执照的情况下非法从事法律服务。在给美国全国公共广播电台的一份书面声明中，“开放人工智能公司”对此回应称：“这项指控毫无事实根据。”