北京
6月7日消息，英国英格兰和威尔士多家警队已被要求停止使用AI工具准备法庭陈述和刑事司法文件，原因是相关输出一旦出错，影响后续法律程序的可靠性。
据《金融时报》（Financial Times）6月5日报道，提出要求的是英国警方AI工作相关负责人亚历克斯·默里（Alex Murray）。默里同时是英国国家犯罪调查局主管、全国警察局长委员会（NPCC）AI事务负责人。英国今年1月刚宣布投入1.15亿英镑，建设全国警务AI中心，用于推动英格兰和威尔士43支警队更统一地使用AI。
法庭材料不能只靠“提交前核查”
这次被叫停的是会进入刑事司法流程的材料，包括法庭陈述和相关案件文件。对警员来说，AI写报告看起来是在节省时间；但对证人、被告和检察机关来说，问题在于这些文字可能成为判断案件事实和程序是否合规的基础。
如果AI把不存在的事实、混淆的时间线或错误摘要写进材料，后续人员再基于这份材料整理案情、制作证据说明或提交法院，错误就不再只是“写错一句话”，而是可能沿着办案链条扩散。所谓“核查AI输出”在这类场景里也很难靠一句提示解决：核查者到底应核查每个事实、每个引用，还是只判断文字是否通顺？如果答案是全部重做一遍，AI节省的时间就会被抵消。
英国皇家检察署（CPS）已发布AI伦理声明，强调AI工具应在人工监督下使用，并特别重视公平、透明和责任归属。但警方一线文书一旦进入刑事诉讼，责任边界比普通办公场景更敏感：材料是谁写的、谁核查的、错误由谁承担，都需要留下清楚记录。
今年1月的虚构球赛已经敲过警钟
英国警方对AI文书风险变得谨慎，并非没有前情。今年1月，西米德兰兹警察局前局长克雷格·吉尔德福德（Craig Guildford）因一份含有AI错误的情报材料向英国议会内政事务特别委员会道歉。
这份材料曾提到以色列马卡比特拉维夫足球俱乐部（Maccabi Tel Aviv）的球迷与英超西汉姆联队发生过冲突，但相关比赛并不存在。《卫报》（The Guardian）报道称，吉尔德福德承认，这一错误源于警方使用微软Copilot时产生的虚构内容。
这件事暴露出，当AI生成内容被放进正式执法或公共决策文件里，外部读者很难从文面上判断哪些内容经过原始核实，哪些只是模型生成后的二次转述。到了法庭材料环节，这种不透明会直接影响当事人权利和案件可信度。
AI警务推进者率先撤回最敏感环节
英国政府今年1月宣布的警务AI中心，目标是加快建立统一测试、培训和管理机制。NPCC当时称，这项1.15亿英镑投入将帮助警方更快破案，并预计每年释放约600万小时警力工时，相当于约3,000名全职警员的工作量。
因此，这次叫停更像是给AI警务划边界：AI可以先用于风险较低、可回溯、易复核的后台工作，例如资料脱敏、非紧急报警初筛、内部信息整理；但法庭证词和刑事司法文件属于高风险环节，不能只用“人工最终负责”来兜底。
如果你是案件证人、报案人、嫌疑人或被告，你面对的陈述材料应当来自可追责的人，而不是一套事后难以还原生成过程的AI文本。警方节省写报告时间当然重要，但不能以降低司法材料可信度为代价。
英国这次叫停也不会是孤例。过去两年，美国、加拿大、澳大利亚等地已陆续出现律师引用AI虚构判例、法院发布AI使用指引的案例。现在风险从律师提交文件，推进到警方底层案卷材料。AI进入司法系统的真正难点，不在于文本生成质量，而在于每一句可能影响他人权利的表述，能否被核实、追溯并归属责任。（易句）
（本文由AI翻译，网易编辑负责校对）
本文来源：网易智能
责任编辑：
王凤枝_NT2541
