新“影”法律小课堂 | 《极限审判》中的“算法断案”，踩了哪些法律红线？

影片《极限审判》设定在犯罪率飙升的未来，政府引入名为“宽恕”的AI司法系统，集法官、陪审团和执法者于一体。主角雷文本是系统设计者，却反被指控谋杀妻子，必须在90分钟倒计时内向AI法官自证清白。影片直面“AI能否审判人类”的伦理困境，映射现实中的算法霸权问题。下面和小编一起，来看看具体电影情节及相对应的法条吧。

雷文从被指控起即被赋予“98%的高有罪概率”，他必须在90分钟的庭审时限内完成自我辩护，说服AI司法系统作出无罪判定。

影片中，AI司法系统默认被告雷文有罪，实质上是“有罪推定”的极端体现。雷文需要对着人工智能系统和虚拟法官进行自我辩护，使得刑事司法发展所带来的保障被告人基本人权和诉讼权利的程序与机制都被简化。

《中华人民共和国刑事诉讼法》第十二条规定，未经人民法院依法判决，对任何人都不得确定有罪。

《中华人民共和国刑事诉讼法》第五十二条规定，审判人员、检察人员、侦查人员必须依照法定程序，收集能够证实犯罪嫌疑人、被告人有罪或者无罪、犯罪情节轻重的各种证据。严禁刑讯逼供和以威胁、引诱、欺骗以及其他非法方法收集证据，不得强迫任何人证实自己有罪。

审判由AI司法系统主导，没有辩护律师，被告人雷文需自行通过系统搜集、分析证据并进行辩护。

被告人有权获得辩护，特别是在可能被判处重刑的案件中，辩护律师的参与是保障程序公正的核心。

法条链接

《中华人民共和国刑事诉讼法》第三十三条规定，犯罪嫌疑人自被侦查机关第一次讯问或者采取强制措施之日起，有权委托辩护人；在侦查期间，只能委托律师作为辩护人。被告人有权随时委托辩护人。侦查机关在第一次讯问犯罪嫌疑人或者对犯罪嫌疑人采取强制措施的时候，应当告知犯罪嫌疑人有权委托辩护人。人民检察院自收到移送审查起诉的案件材料之日起三日以内，应当告知犯罪嫌疑人有权委托辩护人。人民法院自受理案件之日起三日以内，应当告知被告人有权委托辩护人。犯罪嫌疑人、被告人在押期间要求委托辩护人的，人民法院、人民检察院和公安机关应当及时转达其要求。犯罪嫌疑人、被告人在押的，也可以由其监护人、近亲属代为委托辩护人。辩护人接受犯罪嫌疑人、被告人委托后，应当及时告知办理案件的机关。

为自证清白，被告雷文被授予无限制访问城市监控和个人数据流的权限，这引发了巨大的隐私泄露和数据安全问题。

被告雷文无限制访问监控和个人数据来“自证清白”的设定，构成了一个巨大的法律与伦理“黑箱”。它看起来是为了追求效率，实际上严重违背了现代数据治理的核心原则，并触犯了多条个人信息保护的法律红线。

法条链接

《中华人民共和国个人信息保护法》第二十九条规定，处理敏感个人信息应当取得个人的单独同意；法律、行政法规规定处理敏感个人信息应当取得书面同意的，从其规定。

《中华人民共和国个人信息保护法》第五十一条规定，个人信息处理者应当根据个人信息的处理目的、处理方式、个人信息的种类以及对个人权益的影响、可能存在的安全风险等，采取下列措施确保个人信息处理活动符合法律、行政法规的规定，并防止未经授权的访问以及个人信息泄露、篡改、丢失：（一）制定内部管理制度和操作规程；（二）对个人信息实行分类管理；（三）采取相应的加密、去标识化等安全技术措施；（四）合理确定个人信息处理的操作权限，并定期对从业人员进行安全教育和培训；（五）制定并组织实施个人信息安全事件应急预案；（六）法律、行政法规规定的其他措施。