法治观察：伪造证据虚构法条编造案例，当AI入侵司法，我们该怎么办

来源：滚动播报

（来源：上观新闻）

一

近日，湖北孝感大悟法院在审理一起房屋租赁合同纠纷案时，发生了一件令人啼笑皆非的事情。

原告委托自己的女儿董某担任诉讼代理人，向法院起诉租客熊某，要求其支付后半年租金及水电费。开庭时，董某称熊某是房屋首位租客，所有水电费均由其产生，并承诺庭后补交租期前后水电表照片作为佐证。

然而，当法官看到董某发来的照片时，着实有些无语。只见董某提交的照片右下角，赫然带有“豆包AI生成”的水印。法官回复：“你这豆包生产的照片不能如此吧。”

今年以来，越来越多人开始习惯把生成式人工智能作为辅助工具。一方面，技术门槛降低导致董某这样的“造假”行为越来越容易；另一方面，生成式人工智能的副作用“深度伪造”“AI幻觉”也越发明显，对司法审判也造成了不小的影响。

相比于董某这样故意生成假图片，很多时候，当事人本人其实不知道，AI回答时言之凿凿的法条、案例，其实是瞎编的。

不久前，上海市第二中级人民法院民事审判庭一位法官曾收到一份上诉状，其中引用了2025年3月颁布的《关于审理社会保险纠纷案件适用法律若干问题的解释（二）》。然而，该法官查遍法条也未找到，咨询行政庭资深法官后确认，该司法解释纯属AI编造。

不止是缺乏专业法律知识的当事人，就连律师也有中招的时候。今年，北京市通州区人民法院披露，原告代理人为了进一步佐证其观点，在向法庭提交的书面意见中，援引了最高人民法院某案例及上海市第一中级人民法院的（2022）沪01民终12345号案件。但经法庭核查，这两起所谓的司法案例实为AI杜撰生成。

二

不过，对于AI可能会影响司法裁判最终结果一事，目前尚不必过分担心。法院审理案件时，有一套严格的规范，对于出示的证据需要进行质证，引用的法律条文也会进行核实。

在董某这起案件中，即使她心细一点，裁掉了水印，法官也需要结合其他证据来做出判断。事实上，即使看到了如此明显的水印，法官仍然没有轻率地判定，而是做了进一步核查。

比如，询问董某水电表使用情况。在法官的反复追问下，董某的陈述很快出现了前后矛盾：起初她声称水电表为单独使用，后在追问下改口承认房屋为“一梯两户”，两户共用同一水电表。

虽然用AI伪造证据看起来新鲜，但用“PS”之类的修图软件来造假，早已有之。近日，长春净月高新技术产业开发区人民法院审结一起民间借贷纠纷案，原告起诉称，其通过债权转让获得了被告欠第三人孙某的102万元借款债权。

后来，第三人在庭审中承认，其与被告之间并无真实借贷关系，提交的《欠条》《借款合同》均系单方制作，均无债务人签字；关键的多笔银行转账流水，系其使用软件对真实流水进行“PS”伪造、变造而成。

为了圆一个谎，需要编织更多谎言。只要法院严格依照司法程序进行审理，想依靠人工智能来欺骗法院，进而影响司法判决结果，并没有那么容易。公众对于司法裁判还是要有信心。

当然，这不意味着我们不需要警惕AI“入侵”司法一事。一方面，识别高精度的伪造，需要消耗法官更多精力，会显著增加司法成本。另一方面，上海多位法官表示，当司法判决结果与AI给出的答案不同时，很多败诉的当事人会选择相信AI，对司法公信力产生不信任。

三

需要指出的是，作为新质生产力的代表，人工智能的好处显而易见，使用AI工具本身不是问题。

全国律协今年组织的一场业务交流会透露，越来越多的律所引入相关应用产品，搭建智能法律服务平台，实现案件管理、文档检索自动化等，使律师在处理案件时避免了以往的重复性劳动，能够将更多的精力放在案件分析和法律论证上。

我们真正应该警惕的，是对人工智能的迷信心理。不论是在司法案件中，还是在其他领域。

仔细观察就会发现，使用传统的搜索引擎时，得到的信息虽然也有真有假，但大部分是完整的单一信源，上下文都在，辨别真假较为容易。而生成式人工智能提供的往往是整合后的答案，在这个过程中，很可能断章取义、张冠李戴，改变了原文的意思。

在上海二中院法官遇到的这起案子中，AI引用了民法典中的一条作为依据，该条款从字面上看来，可以支持上诉请求。但实际上，每一则法条都有其严格的适用范围，该条款并不能用在这起案件涉及的纠纷类型上。

更有甚者，有些时候人工智能在被反复提问后，会揣摩提问者的意图，从而给出其心中想要的答案。即使是专业人士，面对完全符合心意的回答，有时也难免放松警惕。且由于AI提供的法律知识往往格式工整，这种形式上的专业也具有很强的误导性。

破除对人工智能的迷信，除了相关企业要加强对内容的审核、持续优化算法之外，对社会公众的人工智能知识普及教育也需尽快提升日程。今年的全国两会上，就有代表建议把人工智能教育当作一项基础教育来抓，从现在起重视培养学生使用人工智能的能力，大规模普及人工智能教育。好在，部分AI已经会按用户要求给出信息来源依据，对于新技术的应用，我们要大胆包容，但涉及法律底线，更要审慎严谨。

原标题：《法治观察：伪造证据虚构法条编造案例，当AI入侵司法，我们该怎么办》

栏目主编：王海燕 题图来源：上观题图 图片编辑：曹立媛

来源：作者：解放日报 王闲乐