AI编造“完美”案例，为司法带来虚假信息风险

来源：滚动播报

（来源：千龙网）

对于AI可能生成不靠谱的案例，当事人、代理人应该有预见，任何时候都不应轻信它。

一起商事纠纷案件，原告代理人庭后向法院提交了书面意见，其中援引了名为最高人民法院的某案例及上海一中院的（2022）沪01民终12345号案件。两案的事实细节、法律争议与裁判逻辑都与审理中的案件高度契合，完美佐证原告代理人主张的观点。

然而，“完美”案例却是AI编造的。11月12日法治日报报道的北京市通州区人民法院审结的一起案件，揭示了AI虚假信息进入司法程序，给司法公正带来的风险。

援引以往裁判中对本方有利的观点，用以说服法官作出有利于本方的判决，这是当事人及其代理人的权利。司法实践中，法官对这方面的陈述也会比较重视。

这是因为，判例对于实现法律统一适用、避免“同案不同判”的价值日益显现。同样案情的案件，之前是怎么判的，尤其是上级法院、最高人民法院是怎么判的，法官有责任知晓并遵循。虽然当事人及其代理人陈述的，只是对本方有利的内容，但对法官全面了解情况并做出正确裁判，仍是有价值的。

这方面的援引会影响法官的判断，进而影响案件结果，有时甚至可能起到“一锤定音”的作用。所以，实现司法公正，必须确保援引内容是真实的。本案中，如果不是法官“火眼金睛”，原告代理人提交的意见被法庭采纳，案件很可能“跑偏”。

问题出在哪里呢？按照原告代理人的说法，参考案例是由其提炼本案事实情节后反复向某AI大模型软件提问，最终引导AI软件生成了相关参考案例。这样的解释，似乎将主要责任推给了AI软件。

目前的AI并不总是靠谱，偶尔也会“胡说八道”；将来是不是一定靠谱，也不好说。对于AI可能生成不靠谱的案例，当事人、代理人应该有预见，任何时候都不应轻信它。

事实上，包括法律领域在内的诸多领域，AI软件只是辅助工具，人的作用、责任比AI更大，不能出了问题就推给AI。本案中，AI生成了参考案例，还“煞有介事”写了案号。原告代理人根据案号查一查是否有这样一个案例，并不难。

笔者上中国裁判文书网，输入“（2022）沪01民终12345号”，当即查到该案号下的案件是一起民间借贷纠纷，而与法院审理的这起商事纠纷无关。

“举手之劳”可以完成的事儿，原告代理人为何没做？他的解释是：“自己未进一步核实，直接复制粘贴后即提交法院”。姑且相信其说法，这比查了没有该案例仍提交恶性、责任要小，但对于代理人来说，“未进一步核实”仍不可原谅。幸好法官及时发现，否则，他可能承受比批评更重的代价。

对向法院提交的参考案例进行检查和核验时，确保内容的真实性和准确性，不得放任人工智能模型生成或者编造虚假信息扰乱司法秩序。对于当事人和代理人来说，这是任何时候都不能放弃的责任。

AI不完全可信，少数当事人及代理人“失察”，也赋予法官更重的核实责任。还要说的是，对于一些法官来说，AI是一个新鲜事物，更快学习、掌握，才能更好“为我所用”。本案法官之所以第一时间发现问题，正是得益于其所在法院对AI的重视和学习。

可以想见，AI应用还将日渐广泛，司法也将不断面临新的挑战。但只要人守住底线，做好该做的工作，问题就不大。