司法前沿 | 司法人工智能运用与被追诉人权利保障的协调

文 | 北京外国语大学法学院教授、博士生导师 郑曦

司法人工智能的运用不可避免地改变了传统的诉讼模式，大大提高了办案的便捷性和效率。这其中应当同时注重诉讼参与人的相关权利保障。因此，司法实践需要深入探讨司法人工智能对于作为诉讼参与人的意义，以及诉讼中对于公民的权利保障。

刑事诉讼的被追诉人由于在案件中所涉利益重大，无论生命、自由、财产均为人类最珍视的法益，对其在司法人工智能背景下的权利保障尤其应当予以重视。无论基于功利主义哲学实现“人的最大幸福”的科技伦理，还是社会主义国家“司法服务人民群众”的政治要求，都需将司法人工智能运用的目标定位于保障公民权利。因此，司法人工智能运用背景下的被追诉人权利保障体系的完善具有重要意义。

人工智能运用实践问题分析

首先，先于刑事立案启动的追诉活动强度增加。理论上，刑事诉讼以立案为起点，而后方可进行侦查。传统上我国侦查机关在刑事立案之前就有初查程序，此种初查乃是在接受案件或发现犯罪线索后但事实或线索不明时进行的初步调查。2020年，公安部《公安机关办理刑事案件程序规定》第一百七十四条对此进行了明确。根据该条规定，在调查核实阶段，尽管是否需要刑事立案尚未明确，公安机关仍可以采取询问、查询、勘验、鉴定和调取证据材料等不限制被调查对象人身、财产权利的措施。

人工智能的运用并没有改变犯罪治理活动先于刑事诉讼启动的现实，以及侦查机关结论的作用。侦查机关通过使用人工智能等现代科技，其取证能力得到了进一步的增强，收集的证据尤其是追诉性证据数量更多且质量更佳，因而其作出的侦查结论特别是有罪结论更加翔实。在刑事立案之前的调查核实阶段，侦查机关运用犯罪预警、调查核实辅助等人工智能工具，能够提前进行追诉性的调查和证据收集工作，从而提升了追诉活动的强度。但是，这也使得被追诉人对于自己成为追诉对象的事实不知情，从而无法进行辩护准备。由于侦查机关在立案之前的调查核实等阶段已运用人工智能技术进行犯罪追诉活动，此种追诉活动的封闭性、秘密性较之侦查阶段更强，而被追诉人在不具有犯罪嫌疑人法律地位的情形下已经实际成为追诉对象。在此种情况下，对被追诉人的权益保障值得关注。

其次，被追诉人参与诉讼的权益保障尚需完善。控辩平等对抗的理念不但体现在审判阶段，即便在侦查、审查起诉等审前阶段亦是如此。例如，2012年修订的《中华人民共和国刑事诉讼法》（以下简称《刑事诉讼法》）规定，侦查阶段犯罪嫌疑人有权聘请辩护律师，就是为了增强侦查阶段的辩方力量。然而，司法人工智能的运用，一定程度上拉大了控辩双方的力量差距，给被追诉人的权利保障提出更高的要求，尤其使得被追诉人一方在调查取证能力方面的弱势愈发明显。

为平衡控辩双方在调查取证能力方面的力量差距，《刑事诉讼法》赋予辩护人两种类型的调查取证权，分别是律师取证权和申请取证权。这些权利虽在形式上属于辩护人的权利，但一定程度上保障了被追诉人权利。

控辩力量的差异，会影响被追诉人的参与权。程序是否具有充分的可参与性，是判断刑事司法公正程度的重要指标之一。而从被追诉人的角度看，刑事诉讼中最重要的权利之一即为参与权，因为参与权的基本意义在于确保作为其核心权益即将受到裁判影响的诉讼参与人特别是被追诉人有机会参与案件裁判的形成过程，并使其观点或意见对裁判形成必要的影响。有学者认为，参与权至少应当包括程序参与者在裁判制作过程中始终在场、程序参与者应富有意义地参与裁判的制作过程、程序参与者应有充分的机会参与诉讼活动并有效地影响裁判结果、程序参与者应在参与过程中具有人的尊严并受到人道的对待这四个方面的要求。但是，若对被追诉人的参与权进行解构，可以作形式的参与权和实质的参与权两个层面的区分。形式的参与权即指被追诉人得以在裁判做出的过程中，特别是在关键节点上在场，即所谓“Be There”的权利；而实质的参与权是指被追诉人在此过程中有充分表达意见的机会，且此种机会能对案件的最终裁判产生实际的拘束和影响。在二者的关系上，形式的参与权与实质的参与权之间有手段与目的之关系。形式的参与权是为实现实质的参与权，即真正对裁判结果产生影响而服务的，因此实质的参与权才是被追诉人参与权的最核心内容。

实践中，司法人工智能的运用，可能给被追诉人的参与权带来一定的影响。此种影响最直接的原因在于，运用于司法中的人工智能算法是封闭和秘密的，无法向包括被追诉人在内的诉讼参与人公开，甚至一定程度上也不向审判人员公开。如此一来，在司法人工智能运用的背景下，被追诉人的参与权在一定程度上被削弱。

司法人工智能运用下保障被追诉人权利的思路

首先，应当对被告人进行必要的告知。“告知—同意”是《中华人民共和国个人信息保护法》的重要原则。该原则是指个人信息的处理者在收集个人信息之时，应当就个人信息被收集、存储、使用的事实和相关情况向信息主体作充分的告知，并征得信息主体的明确同意方可处理个人信息。其核心价值在于体现对作为信息主体的公民自由意志的尊重。同样的，在适当的情形下也可要求司法机关对运用司法人工智能的事实向被追诉人进行告知。但是，由于刑事诉讼的特性，运用司法人工智能需取得被追诉人“同意”的情形有限。尽管起诉和审判中亦有控辩协商之空间，并且在此种协商性诉讼行为实施的场景下，运用司法人工智能亦可经过被追诉人的同意，但“告知—同意”仍主要侧重于“告知”。

此外，告知的时间应当有所限制。刑事诉讼中的侦查阶段具有极强的封闭性和秘密性特征，在此阶段要求侦查机关对被追诉人进行运用司法人工智能的告知，可能带来妨碍侦查之疑虑。因此，不如将告知的时间适当延迟至侦查阶段结束后或审查起诉开始时，从而与《刑事诉讼法》第四十条中对阅卷权行使时间为“自人民检察院对案件审查起诉之日起”的规定保持基本一致。

其次，在运用司法人工智能工具收集证据时应注意区分。对于被追诉人与具体案件处理无关的涉及种族或民族背景、政治理念、宗教信仰、性取向等个人敏感信息，以及在定罪问题上不符合关联性要求的涉及以往品行、性生活方式或性名声等个人评价信息，原则上不应加以收集，或仅限于用作特定目的，如作为弹劾证据或用于量刑等。另外，应当将社会管理的信息与刑事案件信息进行隔离。对于审判者而言，要避免社会管理的信息被一并推送至其处，从而对刑事裁判产生影响。再如，定罪证据和量刑证据也应当作一定的隔离。定罪程序对证据运用的要求较高，一些可以用于量刑的证据在定罪程序中不应使用，因此适当的隔离可以防止审判者出现判断偏差。

再次，应在一定程度上对被追诉人进行增权。增权指对已有权利增加保障力度，或赋予被追诉人新的权利，以应对司法人工智能运用的现实。针对已有权利增加保障力度，其关键在于使得被追诉人能够获得针对司法人工智能运用的充分专业帮助，使其在面临司法机关特别是控方在科技助力时具备进行对抗的专业知识前提。而赋予被追诉人新的权利，最重要的是可以考虑被追诉人在刑事诉讼中作为数据主体的身份而许可其行使相应的数据权利。在司法人工智能运用的背景下，司法机关收集个人数据的能力显著增强，包括对被追诉人在内的数据主体运用数据权利进行制约，从而保障自身数据安全的需求也更为急迫。欧盟针对刑事司法领域数据保护问题的第2016/680号指令就规定了数据主体的各类数据权利，这正是对于人工智能和其他先进技术运用于刑事司法的回应。

数据权利的赋予，不但能在一定程度上实现权利对权力的制约，也有助于被追诉人的参与权、辩护权等传统诉讼权利的实现。而另一方面，数据权利对于作为该权利对应义务主体的司法机关而言，在运用司法人工智能收集使用数据上提出了更高的要求。司法机关不但需要以适当方式向被追诉人一方开放权限、提供数据，还将因此在运用智能化工具收集使用数据之时抱有更为审慎的态度，从而在一定程度上制约其行为方式。

司法人工智能运用下完善

被追诉人权利保障的思考

面对司法机关运用的人工智能技术，作为直接利害方的被追诉人应有反对的权利。如上文所述，司法机关就运用人工智能的情况可向被追诉人进行适当的告知，此种告知构成了被追诉人反对权的前提。被追诉人针对司法人工智能运用的反对权应当涵盖如下两个层面：一是有权反对司法人工智能的运用过程；二是有权反对司法人工智能所作出的结论。

被追诉人对司法人工智能运用过程提出的反对，可以聚焦于数据。《刑事诉讼法》第五十六条规定：“在侦查、审查起诉、审判时发现有应当排除的证据的，应当依法予以排除，不得作为起诉意见、起诉决定和判决的依据。”同理，被追诉人针对非法取证方式取得数据的使用之反对意见亦可在侦查、审查起诉和审判任一阶段提出。被追诉人对司法人工智能作出的结论而提出的反对意见，则可以聚焦于算法。在美国2009年的“卢米斯案”中，被告人反对COMPAS智能评估工具对其所作的社会危险性评估结论，其中一项重要的理由就在于COMPAS将性别和种族等因素作为考虑要点，使得其算法具有歧视性。

对于被追诉人提出的反对，无论针对司法人工智能运用的过程还是其所作出的结论，其最终目的均在于对裁判者的心证过程产生影响，从而令裁判结果更有利于被追诉人一方，此即被追诉人实质参与权的要求。因此，对于此种反对，裁判者不但应当给予机会让其提出，更应予以充分考虑或论证。例如，应在裁判文书中进行明确的记载并详细阐明是否支持之理由，以论证公开保障被追诉人针对司法人工智能运用而主张之反对权。

除了反对权之外，还应赋予被追诉人与刑事案件脱钩的权利。除在刑事诉讼过程中对被追诉人产生影响外，司法人工智能的运用还会在刑事诉讼结束之后长时间地影响其权利。例如，其个人数据可能长期被人工智能工具及相关数据库存储或使用，进而给其生活带来困扰。面对此种情形，被遗忘权可能是促使被追诉人与刑事诉讼尽快脱钩的有效途径。所谓被遗忘权，是指公民在其个人数据不再有合理使用之需时要求对其加以删除或封存的权利，此种权利对于被追诉人与刑事案件脱钩的需求而言效果最为明显且直接。其中，被追诉人在符合要求的情况下申请封存相关记录和数据是比较常规和易于被接受的方式，但在特定情形下其亦可能要求删除相关数据。例如，法国的《刑事诉讼法典》第770条规定，未成年人犯罪记录在特定情况下可以被彻底销毁。被遗忘权的主张，限制甚至隔绝了司法人工智能运用背景下对被追诉人个人数据的存储和使用，使其尽快回归宁静生活。

被追诉人在刑事诉讼结束后主张被遗忘权之时，可能有两种身份，其中最常见的身份是已被定罪的罪犯。出于矫正和回归的需要，罪犯有从刑事案件中脱钩的强烈需求，以免一次犯罪，终身受累。这种需求得到了法律的有限肯定。例如，法国许可被定罪罪犯的“le droit àl’oubli”权利，即允许其在服刑改造期满后要求其被定罪和监禁的相关事实不被公开，这一权利成为刑事司法领域被遗忘权的渊源。新西兰《2004年犯罪记录法（清白法案）》规定了大量可以申请封存犯罪记录的情形，我国《刑事诉讼法》第二百七十五条也规定了未成年人案件犯罪记录封存制度。除了作为已被定罪的罪犯之外，被追诉人还可能以无辜者的身份主张被遗忘权。这些人既可能是受到错误追诉而被最终认定无罪的，也可能根本就未涉刑事案件，却因错误记录被误认为有罪。例如，英国犯罪记录管理局就曾因工作失误将1500余名无辜公民错误登记为罪犯，严重影响了这些人的职业发展和正常生活。对于这些无辜者而言，申请删除或封存案件记录，防止司法人工智能运用背景下相关个人数据被长期存储和使用，具有显而易见的正当性，能够得到普遍的理解和支持。

需要注意的是，被追诉人的被遗忘权也并非绝对。被遗忘权的主张可能与言论自由、信息开放、司法公开、犯罪控制、公众知情权，甚至学术研究等法益和权利发生冲突，因此其行使需与相关价值进行平衡，运用利益位阶分析法判断不同权利在发生冲突时的优先性问题，从而对其作出限制。具体而言，在决定是否支持被追诉人特别是已定罪罪犯的被遗忘权主张时，应当首先判断案件的社会危害性大小，并通过分析犯罪所侵犯的客体和犯罪行为的方式及后果作出此种判断。社会危害性越大的案件，越不应当支持罪犯的被遗忘权请求。其次，还需要结合被追诉人的个人情况作出决定，如年龄、是否为公众人物、是否认罪悔罪等。公众人物及拒绝悔罪罪犯的被遗忘权通常不应被支持。再次，还应考虑案件结束时距今的时间长短。一般而言，距今所经历的时间越长则被追诉人的被遗忘权主张越容易得到支持。如此通过平衡考量的被遗忘权，既能够满足被追诉人与刑事案件脱钩的需求，防止在司法人工智能运用背景下的永恒“数字记忆”，也能够防止此种权利的主张对其他法益的过度危害，从而符合刑事诉讼价值权衡的要求。

本期封面及目录

《中国审判》杂志2021年第20期

中国审判新闻半月刊·总第282期

编辑/孙敏