域外法治 | 算法在域外司法实践中的应用、困境及启示

　　文 | 北京科技大学 张凌寒

　　东北师范大学 梁语函

　　算法与司法实践的结合，需要一个逐步成熟完善的过程。一方面，由于法律要素难以数据化、规则代码化与数据采集存在偏差，算法与司法活动存在契合难题；另一方面，算法决策适用于司法审判是否符合正当程序，算法的计算结论取代法官决策是否具有正当性等，诸多问题存在争议。算法应用于司法系统，既要平衡其作为技术商业秘密与公权力公开原则的冲突，又要平衡司法系统高效率与公民个人权利保护的冲突。

　　2016年，美国“卢米斯诉威斯康星州”案引发了广泛关注。卢米斯认为法院使用COMPAS量刑算法对其的判决不公，正是由于算法深度参与司法审判是否具有正当性和合理性而引起的。从20世纪90年代起，算法即已逐步开始应用于域外司法实践。美国首席大法官小约翰·G·罗伯茨曾在采访中被记者问到：“你能预见有一天，由人工智能驱动的智能机器将协助法庭调查事实，甚至协助司法决策吗？”其回应道：“这一天已经到来。”

　　算法对司法实践的作用可分为三个层次：支持、取代和颠覆。在支持层面上，算法为司法实践提供信息及便利性支持；在取代层面上，算法可以取代由人类执行的功能和活动；最后，算法可以改变法官的工作方式，提供与以往不同的司法形式，颠覆司法的流程、进行预测性分析甚至重塑法官决策。就算法在司法实践中的应用而言，其正在逐步超越第一层次，发展至第二层次甚至以独特的方式对司法活动产生更深的影响。笔者拟通过梳理分析域外相关经验，为我国司法实践中的算法应用提供镜鉴。

　　算法在域外司法实践中的应用现状

　　从司法活动流程的角度梳理，算法在域外司法实践中的应用包括：一是事前的犯罪预防与侦查环节，包括热点警务预测、个人风险评估、面部识别系统和数字取证工具；二是法庭审判辅助环节，可以提供检索、在线纠纷解决等辅助功能；三是司法裁判环节，以算法结合既往数据，模拟司法裁判，为法官决策提供选项。

　　（一）事前的犯罪预防与侦查环节

　　1. 热点警务预测

　　根据既往犯罪数据，通过算法分析各地区的犯罪发生风险。警方可以根据算法预测结果，在高风险地区有针对性地部署警力，从而预防可能发生的犯罪。英国东米德兰兹警方应用ProMap系统，由分析师根据犯罪记录等数据，手工绘制犯罪地图，根据既往数据，分析预测未来盗窃案的发生地点与时间；荷兰阿姆斯特丹警方创建了刑事预判系统，并在全国范围内推广；美国孟菲斯市警察局应用Blue Crush预测犯罪分析系统，用于分析基于位置和时间的犯罪模式与不断变化的趋势，大幅降低了犯罪率。

　　2. 个人风险评估

　　警务系统中的算法应用可以用来评估犯罪嫌疑人，预测嫌疑人再犯风险，选取潜在的高风险受害人，甚至用来评估警员个人表现。一是评估被逮捕人。英国达勒姆警方与剑桥大学合作开发了危害评估风险工具HART，该工具应用随机森林算法，预测被逮捕人再犯的风险，并将风险归为“低、中、高”三个级别。二是评估嫌疑人。英国伦敦大都会警察局系统内部署了一个软件，该软件应用算法，建立风险评分，显示与持刀犯罪有关的个人信息。三是评估受害者。英国萨默塞特警察局系统内部署了一项预测失踪儿童的系统，该系统通过分析大量的报告和电话，以预测儿童何时可能失踪。四是评估警方工作人员。美国北卡罗来纳州警方与大学合作开发的系统，可根据警官级别不同，预测可能犯有不当行为风险的警官，防止其对自己和他人造成严重后果。

　　3. 数字取证工具

　　在刑事调查及法庭程序中，运用算法搜集、分析及解释相关数码资料，可快速确定案件的方向，以协助司法公正。数字取证包括：解释模棱两可的数字资料或痕迹；识别犯罪嫌疑人与数字材料或痕迹之间的联系；从一系列证据中重建整个事件。标准的法医实践（如DNA测试和视听分析）也是一种数字取证工具。

　　（二）法庭审判辅助环节

　　算法在法庭审判辅助环节的应用，即司法工具的智能化，是对司法工具的一种创新性改进。传统的庭审活动逐渐发生变化，运用预测编码，可实现复杂文件的检索识别，从而实现大数据对于人工的解放；或是运用在线纠纷解决系统解决纠纷，从而减少线下传统庭审的数量。

　　预测编码作为一种算法支持下的文本分类技术，能够帮助法官或律师提供高效率、低成本的法律数据检索工作。现有的法律法规繁多冗杂，判例数以万计，相关文档可达数百万页。预测编码基于律师及案情专家对测试文件（或一组种子文件、正确性检测文件或训练文件）的审阅，对案件相关的特定文件进行识别。该技术在一定程度上颠覆了传统庭审活动。2012年，在Moniqueda Silva Moore 等人诉 PublicisGroup SA &MSL Group案中，美国纽约南区联邦地区法院主审法官批准被告使用预测编码技术审查其收集到的大约300万封电子邮件。自2012年以来，在英美司法审判中，使用预测编码技术的案例逐渐增多。预测编码技术的广泛应用，不仅大幅节省了成本，其结果也比人力审查更为准确。

　　在线纠纷解决（ODR）也是一种算法技术，可以完成在线协商、在线预判评估、在线调解、在线仲裁及在线诉讼。海牙国际法协会为荷兰法律援助中心开发了一项名为Rechtwijzer的替代性纠纷解决方式（ADR）。首先，纠纷双方需回答Rechtwijzer设定的一些问题。然后，Rechtwijzer会对这些输入信息进行技术处理，输出结果。如果未能达成解决方案，Rechtwijzer将向双方提供专业第三方（如调解人、法律代表等）的信息和联系方式。此外，Rechtwijzer还鼓励当事人自行解决争议。

　　（三）司法裁判环节

　　司法裁判智能化主要有两种情形：一是法官辅助系统，即通过法律专家系统，实现对人类法律推理的模拟，辅助进行司法裁判；二是机器人法官系统，即通过机器学习算法，对大数据进行分析，发现人类司法裁判的内在规律，为法官决策提供选项。

　　1. 算法辅助法官进行司法裁判

　　算法在法官决策辅助系统中的主要作用在于“预测”。通过对既往判决的文本分析，输入现有案件的要素数据，得出对案件结果的预测分析，即“分析过去的数据，制定未来的规则”。伦敦大学学院、谢菲尔德大学和宾夕法尼亚大学共同组建的研究团队开发设计了一项预测辅助审判系统，通过对《欧洲人权公约》的文本解析及相关案例分类，可以预测具体个案中是否出现了违法情况，预测的成功率高达79%。此外，对罪犯进行再犯风险分析的创新技术，为刑事司法官员和法官提供了决策依据。美国刑事司法系统在审判和假释的各个阶段，已经采用了数十项自动化系统，包括公共安全评估（PSA）、定罪后风险评估（PCRA）、惩教犯管理画像（COMPAS）等系统。

　　2. 算法作为机器人法官进行司法裁判

　　算法可通过大数据分析、机器学习进行预测，为法官决策提供选项。2018年，美国加利福尼亚州通过SB10号法案，取消了保释金制度，改为使用风险评估算法工具。根据该工具风险评估的结果，决定被告在候审期间应被释放或被关押。

　　算法在域外司法实践中存在的问题

　　算法的应用增强了司法能力、提高了司法效率，但与此同时，算法的应用也引发了广泛的担忧。在算法研发、应用、部署的各个阶段，都可能因技术与司法实践活动的契合不足，而产生对法律权威、正当程序和当事人合法权利的消极影响。

　　（一）算法与司法活动存在契合难题

　　应用于司法实践中的算法系统主要存在三个方面的问题：一是法律要素难以数据化；二是算法难以取代法律思维；三是规则代码化与数据采集存在偏差。

　　1. 法律要素难以数据化

　　法律要素的数据化包括：大前提法律规定的数据化和小前提案件事实（即证据）的数据化。其一，法律规定的数据化存在困难。法律中的诸多要素和逻辑模式，难以简单抽象化、数字化，这也是算法在各领域应用中的共性问题。算法只能处理可以形式化和量化的数据，难以传达司法过程背后的含义、衡量法律原则、实现自由裁量。如果不能将法律条文和价值取向完美融合于算法系统，那么，缺乏核心价值观的刑事司法系统的算法应用，必然是有缺陷的。其二，证据的数据化存在困难。证据数据化的前提是对传统证据进行符合计算机认知模式的结构改造。但实务中的证据，诸如物证、书证等实物证据，无法拆分，难以具象为数据编码。而当事人陈述、证人证言等，虽不依托于实物载体，但由于内含信息的不确定与变动性，数据编码难以反映其原有的法律含义。

　　2. 算法难以取代法律思维

　　法律思维的独特性在于，法律判决是在大前提确定的情况下，通过一系列小前提（即证据），进行逻辑推理分析，进而得出结论。法律思维方式的特殊性，使算法难以完全模拟。

　　应用于司法的算法系统有多重设计方案，但按照原理可以分为两类：一类是基于概率论的算法系统；另一类是基于逻辑推理的启发式算法系统。

　　基于概率论的算法系统，将要素抽象为计算变量，通过构建数学模型，将变量嵌入模型，得出答案，并能预测出该结论的准确性。例如，将大前提法律依据和小前提证据依次嵌入数学模型中，得出该法律结论存在的可能性，超过标准数值（假定为95%），则认为该法律结论成立。但是，结果仍有5%的可能性是错误的。对于数学计算来说，或许是可以接受的；但对于司法判决来说，5%意味着可能会把无辜的人送进监狱。

　　基于逻辑推理的启发式算法系统，其运行过程更接近于人类的思维方式。2017年，伦敦100名律师和一个名为Case Cruncher Alpha的AI律师进行了一项预测法庭案件的竞赛，Case Cruncher Alpha以86.6%vs 66.3%的准确度战胜了律师们。启发式算法系统模拟了人的思维方式，在计算的基础上加入了学习和经验。但这种系统最大的问题是缺少算法决策的可解释性，无法追溯与验证。

　　3. 规则代码化与数据采集存在偏差

　　编制算法的技术人员如果没有足够专业的法律知识储备，无法确保将复杂的法律条文和判例正确地转化为代码。例如，2007年4月，一名来自私营公司的程序员由于缺乏相关背景知识，将900多条不正确的规则植入美国科罗拉多州的公共福利系统，把“无家可归”编码为“行乞为生”，导致一位失去住所、流落街头的60岁妇女在申请增加食品券数量时，遭到多次拒绝，原因是系统认定其为乞丐。

　　在数据的选用和处理过程中，技术人员也发挥着举足轻重的作用：选择数据集，进行数据的清洗和去噪，决定数据标记和分类方法等。无论采集、处理还是分析，任一环节出现错误，都可能产生不可逆转的偏差和伤害。即便是极小的错误，由于错误数据可能被算法系统多次利用，也可能导致错误累积，进而造成损害的弥散化。

　　（二）算法适用于司法活动的正当性争议

　　1. 算法系统采购与使用的正当性

　　如何赋予算法适用于司法活动的正当性，在诸多方面存在争议。首先，算法的供应商往往为私营技术公司，由于算法存在“技术黑箱”，导致应用于公权力部门的算法应用缺乏充分的评估和监督。从开发人员的角度来看，揭示算法如何运作，有可能会将有价值的商业秘密信息暴露给竞争对手。其次，如何评价算法系统的质量与技术准确性，尚无通用的标准与程序。部分国外学者对于在警务和其他刑事司法机构中使用大数据分析的假定中立性、效率和质量存疑。最后，如果发生错误，如何在算法开发者、供应商和采购关系中分配责任，也存在争议。

　　2. 算法决策适用于司法审判的正当程序设置存在争议

　　司法活动要求正当程序的严格适用。但是，对于算法系统在司法过程中的使用边界与使用程序，并无定论。程序正当性的缺失势必会影响结果的正当性。算法系统在证据规则指引、单一证据校验、逮捕条件审查、社会危险性评估、类案推送、量刑参考、案件评议、减刑假释案件办理等方面都发挥着作用。然而，目前尚未形成一套成熟完整的程序指引。在证据搜集的过程中，需明确哪些算法系统可以搜集证据，证据满足哪些条件可以采纳；当事人是否有权要求对算法得出的案件结论进行专家审核等。

　　3. 算法结论适用的正当性存在争议

　　结论适用的正当性问题，即由算法系统的计算结论取代法官决策是否合理和正当，存在争议。2016年7月，美国威斯康星州最高法院禁止法官将算法系统评定被告的分数作为监禁或释放的决定性因素，要求保证法官在决策中的作用。如果仅通过增加人为审核环节，就认可算法决策的正当性，将可能导致司法系统被唯算法论所支配。为此，澳大利亚政府发布的《最佳实践指南：行政决策的自动辅助》明确指出，算法系统只起辅助作用，“不可自主进行自由裁量”，且“不得干扰决策者行使自由裁量权”。

　　域外司法实践中算法应用的启示

　　域外司法实践中算法应用的现状与困境，为我国推行智慧司法等提供了镜鉴与启示。现有技术或许无法保证算法使用中数据的绝对可靠、算法决策系统的绝对正确，但是，处理好利益冲突，则可以尽量避免算法应用于司法系统带来的危害。

　　算法作为技术商业秘密，与公权力公开原则存在一定冲突。如何将算法的“技术黑箱”特质与公权力行使透明的原则相结合？如果长期保持算法系统决策过程的不可解释性和不透明性，则冲击了权力公开的基本法律原则。即使某些算法组成部分可能免于公开披露，但明确、负责任地使用机器学习，可以与长期确立的司法和行政决策原则相兼容。因此，有必要促进算法可解释技术的发展，同时发展正当程序，增加算法披露的环节，切实赋予决策相对人知晓并理解算法逻辑的权利，实现对相关主体的救济。