当AI生成的“完美”案例现身法院 法官：为司法实践带来新的挑战

记者|潘巧

责编|张晶

正文共3450个字，预计阅读需10分钟▼

2025年12月，北京市通州区人民法院民事审判一庭（家事审判庭）副庭长郑吉喆审理的一起商事纠纷案例入选人民法院案例库。这起商事纠纷的案情并不复杂，但其中的两个关键词“人工智能”和“虚假案例”，在上述案例库中并不多见——原告诉讼代理人律师杨某向法院提交的“参考案例”，事后被发现是由人工智能生成，未经核实便作为代理意见的一部分提交给法院。

根据郑吉喆的介绍，涉事AI生成案例的形成时间是2024年年底，提交时间是2025年年初。这一时间节点意味着，在AI技术快速渗透各领域的早期阶段，AI生成的虚假案例已经在司法审判中出现，为司法实践带来新的挑战。

AI生成的“完美”案例

2024年12月30日，一起因股权代持引发的商事纠纷案件在北京市通州区法院开庭审理，原告方作为显名股东诉求相关方承担侵权责任。庭审中，原告委托宁夏某律师事务所律师杨某作为诉讼代理人参加诉讼。

庭审结束后，杨某向法院提交书面代理意见，其中援引了两个分别来自最高人民法院和上海市第一中级人民法院的案例，以佐证其在本案中提出的类似诉讼请求曾得到相关法院的判例支持。

根据最高人民法院发布的《关于案例指导工作的规定》及其实施细则的规定，各级人民法院正在审理的案件，在基本案情和法律适用方面与最高人民法院发布的指导性案例相类似的，应当参照相关指导性案例的裁判要点作出裁判。参照时，应当将指导性案例作为裁判理由引述，但不作为裁判依据引用。2024年5月，最高人民法院发布的《人民法院案例库建设运行工作规程》中，也明确要求各级人民法院审理案件时，应当检索人民法院案例库，严格依照法律和司法解释、规范性文件，并参考入库类似案例作出裁判。

法官郑吉喆接受本社记者专访。记者 庄德通/摄

郑吉喆介绍，在审判实践中，法院非常重视参考案例的“参照”作用。“我们对案例的作用特别重视，在审判实践中会参照指导性案例以及人民法院案例库的参考案例等权威案例进行裁判。此外，最高人民法院和上级法院的判决，也对法官有较强的指引作用。”郑吉喆说。

正因如此，法院对杨某提交的参考案例非常重视。郑吉喆告诉记者，按照审判流程，法院收到诉讼当事人提交的参考案例后，首先会进行形式上的审查，若参考案例与正在审理的案件的事实、争议法律问题相似，会进一步核实案例的真实性。

“若参考案例真实，与正在审理的案件具有相似性、一致性，且是指导性案例或者人民法院案例库的参考案例，可直接引述作为明示的裁判理由，对于其他参考案例，如果跟正在审理的案件足够相似，也会在案件的审理中予以考虑。”郑吉喆说。

法官助理在核实参考案例时发现，杨某提供的案例与正在审理的案件的事实细节、法律争议以及裁判逻辑高度契合，看似具有较强的参考价值，但该案例所述事实情况与相应案号对应的真实案件的事实情况完全不符。

“会不会是代理律师比较粗心，把案号写错了，导致跟案件本身对不上？”郑吉喆回忆，最初法官助理还与杨某电话联系，催促、提醒杨某核实提交的参考案例案号是否有误，杨某在电话中回复称会再进行核实，但始终没有更正或重新提交。

法官助理将此事向郑吉喆汇报，郑吉喆仔细查看杨某提交的参考案例后察觉异常，“案例的裁判要点与杨某想要达到的诉求太像了，加上案例的文本格式与AI生成文本的特点有一定相似性，我基本笃定这就是AI生成的。”郑吉喆说。

记者在中国裁判文书网搜索印证时也发现，标注为最高人民法院的案例无法搜索到；上海市第一中级人民法院的相关案号，对应的是一起民间借贷纠纷，与本案不仅案由不同，案情也完全不同。

在郑吉喆的询问下，杨某承认两个案例是他根据本案的事实提炼关键词和争议焦点后，反复向某人工智能语言模型软件提问后获得，并且没有经过核实就将两个案例写入代理意见提交给法院。

最终，法院没有采纳杨某基于虚假案例提出的代理意见。

“应该有一个态度”

随着人工智能技术快速发展，一个新词也随着AI的应用而产生——“AI幻觉”。

据了解，“AI幻觉”是指人工智能大模型“自说自话”、一本正经“胡说八道”、生成偏离事实的内容。

2025年初，某人工智能语言模型软件掀起使用热潮时，记者曾使用该模型软件搜索相关案例，虽然该模型的回答中给出明确的案号及案例内容，但记者在中国裁判文书网输入案号查询时发现，要么搜索不到相关案例，要么案号与实际裁判案例内容完全不相同。

那么，杨某提交的由AI生成的虚假案例，是否属于“AI幻觉”导致的过失？

郑吉喆介绍，杨某提交的代理意见署名日期是2024年12月31日，正值AI大模型兴起初期，公众对于AI大模型尤其是“AI幻觉”问题的认识仍然处于早期阶段。从案例的生成时间、生成文本的原始状态上判断，杨某的行为“过失大于故意”。

“现在大家知道‘AI幻觉’，AI会说‘瞎话’，但在当时不了解‘AI搜索’‘AI幻觉’的情况下，是一个情有可原的状态。”郑吉喆介绍，杨某更像是过于相信AI工具带来的便利和效率，更多是一种过失心态。

本案承办法官郑吉喆翻阅案件材料。记者 庄德通/摄

不过，郑吉喆也强调，杨某提交AI生成案例的行为对审判工作造成影响，不仅降低了审判效率，也严重干扰了审判秩序。“诉讼过程中需要遵循诚信的原则，不管是当事人还是诉讼代理人，向法院提交的任何材料要保证真实性。案例虽然不是正式的法律渊源，但对案件审理具有重要参考作用。一旦构成误导，是一个很严重的问题。司法公信力也会受到影响。”郑吉喆说。

据了解，律师提交AI生成的虚假案例在国内属于新情况，对于利用AI生成虚假参考案例这一行为如何处理，缺乏明确的法律依据或可参考的实践经验。《民事诉讼法》第一百一十四条虽然对伪造、毁灭重要证据等行为有处罚规定，但郑吉喆认为，杨某提交AI生成的虚假案例不能归入这一范畴。

郑吉喆解释，案例属于诉辩证据范畴，不属于证据。杨某向法院提交未经核实的虚假案例的行为不构成上述条款规定的“伪造、毁灭重要证据”。

“现有民事诉讼法中，没有对这种情形作出明确规定。但是，我们认为此事确实对我们产生切身影响，扰乱了司法秩序，所以我们觉得在这个案件中，（法院）应该有一个态度。”郑吉喆介绍。

考虑到杨某提交AI生成且未经核实的虚假案例是过失态度，没有造成严重后果，也没有对裁判结果造成影响，杨某也坦承问题，通州区法院认为，杨某的行为属于情节相对轻微的情形，不宜作出罚款拘留的处罚，最终决定在判决书中对其提出批评教育，希望能够引起律师对此事的足够警醒。

2025年4月，通州区法院对本案作出判决，并在判决书中对杨某提交虚假案例的行为进行批评教育，“原告代理人在庭后向本院提交参考案例时包含了部分人工智能语言模型生成的内容，其提交的部分参考案例与该案号下案件事实情况完全不同，本院对此提出批评，希望原告代理人引以为戒，在向法院提交参考案例、法条时，应当进行检查和核验，确保内容的真实性和准确性，不得放任人工智能模型生成或者编造虚假信息扰乱司法秩序。”

本案宣判后，双方当事人均未提起上诉，判决已发生法律效力。

并非孤例的警示

实际上，由人工智能生成虚假诉讼材料的情况，已经不是孤立事件。本案发生后，多地法院也陆续公布了类似的情况——

2025年11月，湖北省孝感市大悟县人民法院审理的一起房屋租赁合同纠纷案中，原告提交的水电表照片证据上带有“豆包AI生成”的水印，法院对其进行法治教育和训诫，对其提交的伪造证据不予采信。

2025年12月，浙江省台州市中级人民法院公布的一起案例中，台州市路桥区人民法院在审理一起房屋租赁合同纠纷案件时，发现原告利用AI技术修改聊天记录，伪造证据，法院对原告进行批评教育，并依据民事诉讼法的相关规定，对其作出罚款的处罚。

类似情况的集中出现，暴露了AI技术应用给司法审判带来的全新挑战，也对司法审判工作提出更高要求。郑吉喆介绍，此事之后，该院对诉讼当事人提交的案例和证据的审查更加审慎。

“即使当事人不是故意的，提交的案例也可能是有问题的或者不真实的。”郑吉喆坦言，AI降低了普通人参与诉讼的门槛，降低了普通人或者其代理律师在法律工作中的难度，但对于法院来说，应该进一步提高认识和警惕性。

根据AI使用的实践经验以及本案的审理经验，郑吉喆提醒，可通过三个方面识别AI生成的虚假案例特征：AI生成案例的案号往往呈现刻意规律化的特点，多采用“12345”等连续整数或“111”等具有明显特征的数字；案情描述过度贴合需求场景，呈现人为定制化特征；AI有时会刻意模糊案件可识别要素，比如当事人姓名等，因此最稳妥的识别方法是通过登录中国裁判文书网对生成案例的真实性进行核实和验证。

“目前还没有专门的AI虚假内容检测工具，识别难度较大，很多识别工作仍依赖法官的责任心，我们必须擦亮双眼，避免被虚假证据、案例所蒙蔽。”郑吉喆说。