网易首页 > 网易号 > 正文 申请入驻

姚万勤:人工智能代理的权力分配逻辑与刑事责任归属 | 政法论坛202604

0
分享至

【作者】姚万勤(西南政法大学法学院副教授)

【来源】北大法宝法学期刊库《政法论坛》2026年第4期(文末附本期期刊目录)。因篇幅较长,已略去原文注释。


内容提要:人工智能刑事责任归属事关人工智能技术的风险分配与开发应用。归属得当则利于社会发展,归属不当则妨碍技术进步。既有关于人工智能刑事责任归属问题的理论研究,主要遵循能力分配逻辑:人工智能具有某种能力则应当成为刑事责任主体,反之则不能。该类研究视角隐含了能力具备即等同责任承担的逻辑预设,忽视了事实判断与价值判断的休谟鸿沟。对人工智能刑事责任归属的分析应当从既有的能力分配逻辑转向权力分配逻辑,因为权力分配可以直接影响刑事责任的归属。在价值论层面,人工智能不能拥有与人类平等的主体资格,因而人类与人工智能之间的权力分配,应当采取人工智能不能直接独立进行行动,只能代理人类之后进行行动的人工智能代理模式。人工智能代理刑事责任的归属对象是人工智能所代理的被代理人,因而人工智能体本身不能成为刑事责任主体。以自动驾驶汽车交通肇事为例,因人类驾驶员拥有主动接管权的基础,原则上应被视为所有等级自动驾驶汽车的被代理人,在此前提下才可能构成交通肇事罪,而生产者则在此基础上才需考虑承担刑事责任的可能性。

关键词:人工智能;人工智能代理;刑事责任;自动驾驶

目次 一、问题的提出 二、人工智能刑事责任归属的能力分配误区 三、人工智能代理刑事责任归属的权力分配逻辑 四、责任归属方案建构与具体场景验证 结语

一

问题的提出

当前,人工智能是否具备刑事责任能力的问题引发持续争议。刑法作为社会关系的调节器,亟需回应技术变革带来的规范需求。该议题不仅关乎技术风险分配,更直接影响人工智能的研发与应用边界。合理的责任分配框架可为技术创新松绑,反之则可能成为技术的桎梏。众所周知,人工智能的发展趋势呈现出多方面的特点,包括技术突破的时间节点难以预判、突破方向难以把控、应用场景难以穷举。在此背景下,刑法若仅依据“快速迭代的技术特征”构建规制路径,恐将陷入疲于应对的困境。因此,刑事责任的制度设计应当聚焦技术演进中的不变要素,即人类与人工智能之间的核心关系,人机关系的权力分配模式。

检视既有研究,学界对人工智能刑事责任的探讨主要围绕能力维度展开:本体论路径聚焦自由意志有无,据此肯定或否定其责任主体地位;价值论路径则跳出意志论桎梏,转而从刑罚适应性、规范对话能力、结果支配力等角度论证责任归属。尽管这两种研究视角各异,但它们均隐含着一个逻辑前提,即能力具备等同于责任承担,忽略了事实判断与价值判断之间存在的休谟鸿沟。这种将能力与权力简单等同的思维,实质混淆了技术可能性与制度正当性的界限。而本体论与价值论的差别只是在于,这种能力是否被限制于自由意志能力。然而,是否负有刑事责任不仅仅是一个能力是否具有的问题,更是一个权力如何分配的问题。“谁作出这些决定以及如何决定从根本上来说是个权力问题。”为了规避这一理论误区,应当将研究的重心从人工智能能否承担责任的能力争论上,转移到人类与人工智能之间权力应如何合理分配的规范建构上来。也即,对人工智能刑事责任的分析应当从能力分配逻辑转向权力分配逻辑。

基于此,本文的基本论证逻辑如下:首先,深入剖析能力分配逻辑在人工智能(AI)刑事责任认定中所存在的理论漏洞与缺陷,指出这一逻辑既不能证“是”也不能证“否”;其次,提出应运用权力分配逻辑来重新构建刑事责任体系,并倡导人工智能代理模式,即确保决策权完全归属于人类,人工智能仅扮演人类意志的执行者角色,从而从根本上否定其独立承担刑事责任的法理基础,即便其在未来具有了自由意志能力;最后,以自动驾驶汽车交通肇事为例,探讨如何认定代理行为背后的责任主体及归责路径。

二

人工智能刑事责任归属的能力分配误区

我国刑法学界对人工智能体刑事责任归属问题的讨论可归纳为两条路径:其一,以人类存在论为基点,围绕自由意志能力展开论证,探讨人工智能是否具备承担刑事责任的主体资格;其二,从法律建构属性出发,脱离自由意志的形而上学争议,转而以刑罚适应能力、规范交谈能力、结果支配能力等维度为切入点,探讨人工智能体能否承担刑事责任。两条路径虽论证对象与理据各异,却共享同一底层逻辑,都以人工智能是否具备特定能力作为刑事归责的前提。

(一)对能力存否的无根基性争辩

在现代刑法理论中,自由意志能力被视为适格犯罪主体的前提要件。无论是传统四要件理论中对犯罪主体的辨认与控制能力的要求,抑或阶层论中不法与有责的区分,均暗含对自由意志的预设。然而,当前学界围绕人工智能自由意志能力的争论,本质上仍停留在假设与预测层面,缺乏实证基础。

1.自由意志能力否定论的假设困境

对于自由意志能力与人类之间的关系,不少观点坚持二者不能分离,并以此为依据否定人工智能具有自由意志能力,进而否定其可以成为刑事责任主体。例如,一种观点认为,人工智能依据预设规则作出的“最优解”决策,并非出于理性选择;人工智能的“随机性”决策,如使用“随机性发生器(Randomiser)”,则属于纯粹的事实行为,同样不等于自由意志。还有观点指出,人类言语行动中的意向性,是人类具备法律主体地位、承担法律责任的基础,并且意向性的“默会”唯有通过自然语言方能实现,然而人工智能所使用的二进制人工语言无法替代与超越自然语言。

然而,上述论证的结论欲成立,必须以人类具有自由意志能力为其前提,但这一前提实则仅是一种假设,从未被证实。一方面,“如果人类的决策机制可以通过技术手段得到验证,那么这种机制就不能说是完全‘自由的’,而是有可能为机器所模拟的。”另一方面,虽然现代刑法理论普遍承认意志自由,但是,此一结论只是作为一种假设而存在,并未被证明。承认意志自由的理由,在于自由意志是值得向往和保护的,也可以解决刑法上的诸多问题,例如,正是因为人有自由意志,刑法规范可以影响人们做出适当的意志决定,预防犯罪才有可能,并且成为刑罚的目的。然而,正是按照自由意志理论,犯罪是人的意志命令的产物,由此才导致犯罪原因的研究没有余地。通过刑罚施加的威慑也会被自由的意志所阻断。不过,被决定而需要遵循法则与自由之间并不矛盾,马克思主义恰好就是将遵循法则看作自由,力图将自由和法则性加以协调。法律将刑罚施加于人类之上的理由,并不在于刑罚能够对自由意志产生影响而规制人的行动。人在实践理性中所遵循的法则,其来源是通过实践规则的单纯形式决定意志,而毋需设定任何情感,从而毋需愉悦与不愉悦的表象作为欲求能力的质料,后者时时是原则的经验条件,而根据经验无法得出人类在实践理性中所遵循的必然法则。而这种实践理性,只能来源于人类生活本身。即使现代刑法理论尚且不能否定自由意志的假设,不能完全否定人类自由意志能力的存在而走新派曾走的道路。但在面对“人工智能是否具有自由意志能力”“人工智能是否成为刑事责任主体”这一前沿议题之时,基于假设的说理明显既无法说服对方,也无法平息争论。

2.自由意志能力肯定论的预测困境

为了证明人工智能可能具有自由意志能力,并基于自由意志能力而可以承担刑事责任,相关论者主要通过以下路径进行先“破”后“立”的论证。

其一,解构自由意志与人类生物学特征的必然关联(下称“解构论”)。例如,有学者指出,刑法中“人”的概念具有特定的规范意义,不是所有自然人都具备刑事责任能力,如精神障碍者。此外,单位犯罪的主体资格的确立,进一步证明了生命体征并非刑事责任的唯一归责要件。不能因为人工智能并非人类、不具有生命和头脑,而认为人工智能不可能产生自由意志能力。换言之,承担刑事责任主体的关键因素并不在于是否是人,而主要在于是否具备辨认和控制能力。“解构论”因此而得以为“人工智能应该成为刑事责任主体”的结论扫清障碍(破)。

其二,以技术发展阶段论为依托(下称“发展论”)。根据人工智能技术的发展,可以将人工智能划分为弱、强、超智能阶段。弱人工智能通常不能成为刑事责任主体,超人工智能面世以后,人工智能可以具备堪比甚至强于人脑的思维能力,能够认识到人脑所能认识的一切内容,此时可以认定人工智能具有主体资格。人工智能存在指数级增长与涌现双重催化的技术内动力,将现在的人作为衡量人工智能刑事责任的标准,显然会导致标准陷入机械且静止的形而上学困境。由此可知,“发展论”通过将判断时点从当下移到未来,而以未来人工智能可能具有自由意志能力为依据,为人工智能应该成为刑事责任主体的结论建立支撑(立)。

以上先“破”后“立”的论证方式所构建的逻辑链条如下:(1)(预测)未来人工智能具有自由意志能力;(2)(推导)自由意志能力的具有等于辨认能力与控制能力的具有;(3)具有辨认能力与控制能力的人工智能应该成为刑事责任主体。

一方面,自由意志能力的具有并不能推导出控制能力的具有,以上论证在推导逻辑上存在瑕疵。

第一,控制能力既具有内在侧面,也具有外在侧面。在内在侧面上,控制能力的含义在于肯定行为人可以控制自己的行为;在外在侧面上,控制能力的含义则在于肯定行为人的行为可以被法律所控制。一个法律完全无法控制的行为,不会成为法律所规制的行为。不满足控制能力的内在侧面的典型主体即精神病人,因为其无法控制自己的行为,法律也无法规制其行为,故而其不承担刑事责任。不满足控制能力的外在侧面的典型主体即缺乏违法性认识可能性或期待可能性的主体,其也因此类责任阻却事由的存在而不承担刑事责任。

第二,或有论者将会提出如下反驳:区分内在侧面与外在侧面的做法混淆了责任能力与责任阻却事由,外在侧面的不满足并没有否定刑事责任主体身份,而仅仅是否定了合格的刑事责任主体应承担的刑事责任。然而,需要注意到人工智能具有独立意识和意志的前提是脱离编程。如果不能脱离编程,则人工智能不能完全自主控制自己的行为,无法满足内在侧面;而在脱离编程的前提下,不同于一般的个人仅仅是在个别行为中不满足控制能力的外在侧面,人工智能主体的特殊性在于其不满足控制能力的外在侧面的情况是普遍的。脱离编程是人工智能具有独立意识和意志的前提,但脱离编程的人工智能同时也就普遍性脱离了包括法律在内的各种控制手段。而普遍性不满足外在侧面的主体不能成为刑事责任主体。

第三,或有论者将会认为,确信犯也属于普遍性不满足外在侧面的主体,但确信犯依然要承担刑事责任。虽然确信犯因为坚持某一与法律完全相悖的价值判断,而导致禁止规范的存在无法控制其是否作出某一违法行为,但确信犯并不属于普遍性不满足外在侧面的主体。假设某一小偷坚持认为盗窃他人的财产是正确的,“小偷损害别人的财产,为了证明那是自己的财产,这样他在原则上就承认了关于财产的法律部门,因此,他也就必然承认了所有保护财产的必要措施,也就是他的刑事当罚性”。确信犯并没有普遍性脱离法秩序的控制,而仅仅是在个别规范中否认了法秩序的价值判断,且这种否认方式也可能反而肯定法秩序在它处的价值判断。人工智能则不然。脱离编程的人工智能或许具有辨认能力和控制能力,能够自主控制自己是否作出违法行为。然则,脱离编程的人工智能何以会接受规范?人工智能的反应只能是一种客观性态度,缺少基于自发的反应性态度:反应性态度来源于人类生活本身,人工智能因缺乏真实经历,只是被植入了相关经历,因而难以形成这种反应性态度,即对一系列期待和要求的共同认可,这种共同认可不可能是输入式的,而是个性化的,只能在生活(家庭、学校和社会)中体现,在成长过程中形成。因此即便人工智能具有自由意志,也无法形成反应性态度,其即便对不得杀人的规范禁令提供了“是”的回复,这一回复也只是一句客观的陈述,并不能在人工智能中形成不得杀人的规范性期望,进而指导人工智能的未来行为。由于人工智能脱离编程的自由意志能力也会演变成对控制能力的外在侧面的普遍性脱离,因此自由意志能力的存在在内容上无法当然论证人工智能可以成为刑事责任主体。

另一方面,将人工智能具有自由意志能力的论据建立在预测之上,并不足以盖棺定论。

第一,建立在预测之上的论据无法形成确定的结论。根据预测内容的不同,建立在预测之上的论据既可以为正方(人工智能应该成为刑事责任主体),也可以为反方(人工智能不应该成为刑事责任主体)提供支撑。譬如,在本文将控制能力区分为内在侧面和外在侧面之后,正方也可以预测在某个技术奇点之后,人工智能会满足控制能力的外在侧面。此时,反方的任何论据都可能被未来所蕴含的无穷可能性所否定。同理,既然未来蕴含了无穷可能性,则也可能在某个技术奇点之后,人类将会完全破解黑箱,而将人工智能所有的可能反应都控制在人类的操纵之中。此时,建立在预测之上的论据也为反方提供了支撑。既然在未来人工智能既具有自由意志能力的可能性,也具有运算过程被人类完全掌控的可能性,因而建立在预测之上的论据也就无法为人工智能应否成为刑事责任主体这一问题提供确切的答案。

第二,法学研究对预测论据的拒绝不等于对目的纲要的拒绝。有观点认为,以“强人工智能的到来仅仅是一种假设而非客观事实,刑事责任主体地位的确定理应以客观事实的存在为前提”为由反对论证人工智能刑事责任能力的观点,实际上是认为“只有实际存在的客观事实才能成为法学研究的具体内容”,而这并不契合法学研究发展“不破不立”的核心要义。然而,不接受基于预测的论据并不等于只有实际存在的客观事实才能成为法学研究的具体内容。

法学研究的具体判断可以基于某个尚未现实化的未来而进行。这是因为,对某一问题作出决定需要符合纲要,而纲要分为条件纲要和目的纲要,前者指决定必须满足事前的给定条件,后者指决定必须实现的某个未来目标。法学研究要对人工智能应否成为刑事责任主体这一问题作出决定,或者是考虑条件纲要,是否满足刑法所规定的成为刑事责任主体的既有条件;或者是考虑目的纲要,立法将人工智能规定/不规定为刑事责任主体,是否更能实现某个未来目标。问题在于,虽然人工智能应否成为刑事责任主体属于目的纲要的内容之一,但是人工智能是否具有自由意志能力却并不属于目的纲要的内容之一:人类并不能基于是否适宜于某种目的的实现,而承认或者否认某一他物具有自由意志能力。事实上,就人类自己是否具有自由意志能力这一问题,人类也无法给出确定的答案。也正如此,基于预测的论据无论为人工智能应否成为刑事责任主体这一问题提供了肯定抑或否定的答案,都不具有足够的说服力。

3.从是否到应否的错误链接

为何对于人工智能应否成为刑事责任主体这一问题,会有不少观点将其聚焦于人工智能/人类是否具有自由意志能力的预测与假设之上?其根本原因在于论者高估了人工智能是否具有自由意志能力与人工智能应否成为刑事责任主体二者之间的逻辑关联。这一逻辑关联正是被休谟所批判的,从“是”不能推导出“应该”的错误链接。前一命题使用了“是”与“不是”等连系词,而后一命题则是由“应该”或“不应该”联系起来的,因为应该或不应该表示一种新的关系或肯定,所以就必需重新加以论述和说明。

我国刑法已经吸收了“是”与“应当”之间无法相互推导的观点,行为事实性质的变化与否并不必然引起该行为在法律层面禁止与否的同步改变。其一,某一行为的事实性质所发生的变化,并不当然导致法律的判决结论发生变化。在社会变化加快、法定犯不断增加、法律和政策频繁调整的时代,某种行为的事实性质也会从值得刑罚处罚的有害性降格为不值得刑罚处罚。然而,既判力概念的逻辑起点在于维护生效判决的终局性进而维护法的安定性,因此这种行为事实性质的变化倘若发生在法律已经作出生效判决之后,根据我国《刑法》第12条可知,则生效判决继续有效,不作改变。其二,某一行为的事实性质即便尚未发生任何变化,法律也可以对该事实的法律性质作出前后不同的评价。例如,我国的民间借贷管制在刑法领域经历了入刑与否的激烈争议,相关司法解释并未明确高利放贷行为的出入罪立场,直到2019年,高利放贷行为方被正式入罪。高利放贷行为的社会危害性质在当时并未出现事实性质的变化,但其行为是否能够被刑法所禁止,必须依赖于其能否囊括在法律的文字规定之中。换言之,罪刑法定原则的诞生虽然是作为保障人权的原则出现,其意义在于限制罪刑擅断,但也带来了促使刑法效力来源的封闭性的效果,即在“法无明文规定”时,行为具有社会危害性不等于构成犯罪。

总而言之,不仅关于自由意志能力的假设与预测的讨论属于无根基性的争辩,而且自由意志能力的具有与否与刑事责任能力的具有与否之间的逻辑关联也不具有实定法基础。换言之,聚焦于自由意志能力的具有与否而讨论人工智能应否成为刑事责任主体这一问题的相关论争,所使用的论据本身以及论据与结论之间的推导过程,都存在无根基性的问题。

(二)对休谟鸿沟的集体无意识跨越

以自由意志能力作为人工智能是否具有刑事责任的讨论基础并不合适,因此同样有诸多观点从法律的建构属性出发重新思考这一问题。这一思维路径的转变使得相关观点得以避开关于人类与人工智能是否具备自由意志能力这一无休止的争论,进而聚焦于刑罚适应能力、规范交谈能力以及结果支配能力的讨论上。这种转变虽然使用了至少有可能被证实或证否的能力作为讨论基础,然而,其论证逻辑并未发生实质性变化,仍旧是围绕人工智能是否具备某种能力来判定其能否成为刑事责任的承担者。显然跨越了休谟所提出的从事实到价值的鸿沟。

1.刑罚适应能力的论辩局限

肯定人工智能具有刑事责任的论者(下称“肯定论者”)与否定人工智能具有刑事责任的论者(下称“否定论者”),首先以刑罚适应能力为基础展开了争论。在否定论者看来,人工智能不具有刑罚适应能力的理由主要在于以下两点:其一,人工智能无法感受到痛苦,而不能施加痛苦的刑罚难以称为刑罚,无法实现报应。其二,对人工智能施以刑罚,要么难以达成预防之效,要么根本无此必要。人工智能黑箱释明难题决定了人工智能行为的不可解释性,即便令其承担刑事责任,对其施加刑罚,在下一起事故中,同样的错误或者新型的错误仍然不可避免。而如果我们具有足够的技术以解析人工智能危害行为的发生原理,那么直接在程序设计上对其进行修改即可,而若选择直接模仿人类犯罪追责的做法,显然是一种舍本逐末的策略。肯定论者对此则针锋相对地提出:一方面,感受痛苦并非施加刑罚的必要条件,法人也并不能感受到痛苦,但刑法依然规定了罚金刑。只要社会赋予了人工智能主体财产权,现行的罚金刑对于人工智能主体而言,都可以是有效的恶害,而不需要人工智能以存在知觉作为其有效承担刑罚的前提。另一方面,是先有犯罪后有刑罚,而非先有刑罚后有犯罪。如果现行刑罚体系无法对人工智能起到预防等效果,那么应当是在能够承认人工智能的刑事责任主体地位后修改、完善既有的刑罚体系,而非直接否定人工智能的刑事责任主体资格。

可见,虽然刑罚适应能力在价值层面的定位使其可以在一定程度上脱离事实基础而存在,而使得肯定论者可以规避否定论者对人工智能承担刑事责任的事实前提的质疑,但也使得人工智能如何承担刑罚同样陷入未知之中,而无法充分地论证人工智能承担刑事责任的主体资格。

2.规范交谈能力的理论悖论

有论者从罗克辛和雅克布斯所发展的去形而上学的罪责理论出发,转向社会可交谈性标准,若人工智能能够识别规范并调整行为,即具备罪责能力。“罗克辛所代表的交谈理论塑造了一种规范上的自由意志,这种规范的自由意志并不直接与自然科学的结论相关联,而是一种社会共识的结果。”对于雅克布斯而言,“犯罪行为被理解为一种沟通成果,而且是根据对这些沟通成果适用的那些规则来进行说明的。”因此,基于人类反馈强化学习模型(Reinforcement Learning From Human Feedback,RLHF)的人工智能,将整个社会作为学习对象,辅以特定人员的监督训练,则完全有能力以规范为导向实施行动。换言之,如果贯彻了功能主义的思考,只要人们在观念上接受了机器人的独立主体地位,那么对其科处刑罚就可能实现相应的刑罚目的,尤其是在高度仿人的人形机器人深度融入人类社会以后,这种观念上的趋势很可能会逐渐增强。

以上论述一方面通过观念上的趋势或者说社会共识来论证人类对人工智能作为规范主体的接受可以脱离自然科学的结论而存在,另一方面又通过人工智能的高度仿人外貌这一事实前提来论证未来更加可能形成以上社会共识。问题在于,既然人类社会共识的形成可以不直接与自然科学的结论相关联,那么人工智能未来的发展趋势及其高度仿人的外貌基础也不一定直接导向人类接受人工智能作为规范主体的结论,肯定人工智能刑事责任与否定人工智能刑事责任的相互背离的未来共识都是可能形成的。

3.结果支配能力的归责困境

为了克服刑罚适应能力以及规范交谈能力等不足,有学者另辟蹊径,通过围绕人工智能能否具有结果支配能力而展开相关的探讨。一方面,肯定论者认为,鉴于人工智能技术的迅猛发展,强人工智能产品若超出设计和编制的程序,自主决策而实施了行为,则其行为不再是设计者或使用者行为的延伸,而是为了实现自己的意志、自主决策并自主实施的行为。第三者基于自律性的行为介入,将有效切断先前行为对最终结果的决定性影响。那么,既然人类无法对人工智能介入后的结果形成支配,刑事责任自然可能被归属为实际支配者,即人工智能。另一方面,在否定论者看来,人工智能自主决策的介入在规范意义上不能与人的行为的介入等同,至少在客观层面,仍然要将其定位为人的行为危险性的内在要素,因为只有人的原因才是刑法的问题。

以上争辩的不足之处在于,无论是因果关系的判断还是结果支配能力的证成,在刑法学理论中都不再只是事实层面的问题,因而诉诸结果支配能力的分歧不得不继续追问到什么行为属于人类的行为,人类的某种行为能够延伸到何处等规范判断问题之上,这又将引来一场难以化解的价值对立。

4.规范上的能力跨越应否的错误重复

虽然刑罚适应能力、规范交谈能力以及结果支配能力本身已是一种经过价值论上的思考才产生之能力,但这并不影响人工智能是否具有刑罚适应能力、规范交谈能力、结果支配能力依然属于事实命题,因此,无法仅凭这些事实命题直接得出关于人工智能应否成为刑事责任主体的价值判断。即使当描述的对象是评价(Evaluation)的时候,描述依然是描述。或有质疑认为,休谟鸿沟的本意仅指从事实不能推导出价值,为何刑罚适应能力、规范交谈能力、结果支配能力等本身就是与价值判断相关的能力——自由意志能力的问题其实也是一个伦理问题——能以不当跨越休谟鸿沟为由阻断其对人工智能刑事责任主体资格的证成作用?原因在于,经凯尔森之手,休谟鸿沟在法学理论中的运用从单纯的不能从事实跨越到价值演变为了法律的效力来源具有封闭性。

在近代之前,实在法的正当性诉诸于更高级的自然法,但近代以来以形而上学和神学为基础的自然法一度被斥为空谈,实在法开始向社会事实寻求正当性。然而这一路径被休谟问题阻断,因此凯尔森通过预设基础规范的最高效力来解决法律规范体系的效力来源问题,仅将规范或者说应当的效力根据定位在更上位的规范之中,最终则追问到并不是实证法规范,而是单纯想象出来的基础规范。由此可见,休谟鸿沟对法学的影响,并不仅仅是将事实与价值二分,这仅是其表现形式之一,而是使得法学得以断绝从其他事实与价值处获取正当性来源的期望,“赋予某个法律(或不法)行为以含义的规范本身是通过某个法律行为被创设的,后者本身又从另一个规范那里获得其法律含义”。这一看似“循环论证”的表达,奠定的是法律效力来源的封闭性,也就是纯粹法学的纯粹本意。后续哈特的分析法学与卢曼的系统论法学等法实证主义流派虽然在哲学根据与体系脉络等内容上与凯尔森有诸多分歧,但就维持法律效力来源的封闭性而言,其依然坚守了纯粹法学的纯粹二字。因此哈特言及:是否具有效力只能回答发生于规则体系内部的问题,至于承认规则本身是否有效则不被回答,因为承认规则既非有效亦非无效,它仅仅是因为合适而被采用。就此而言,自由意志虽则也是一个伦理问题,刑罚适应能力、规范交谈能力以及结果支配能力虽然是某种规范上的能力,但就法律是否要承认人工智能的刑事责任能力这一问题而言,它们都不具有跨越“是”与“应当”之间的休谟鸿沟的效力。

综上,能力分配逻辑的本质是基于人工智能的技术属性决定人工智能应否成为刑事责任主体,除了前面所列问题之外,人工智能的技术属性所具有的两个特点,也决定了以其为着眼点进行法学研究并不合适:一方面,人工智能的技术属性的发展是莫测的、跳跃的,基于旧技术属性所得出的研究结论,很可能因新技术的出现而被迅速否定,从而引发对法律安定性的挑战;另一方面,人工智能的技术属性的理解是有门槛的,法学研究者如何确保自己对技术属性的理解准确无误,从而得出恰当的研究结论,而非陷入法学家瞬间变身人工智能专家的笑话之中,让自然科学家都自愧不如。这两个特点均在提醒我们,持续聚焦人工智能的技术属性而产生的法学研究成果,很可能并无意义。从法律的建构属性出发可以避免上述问题,但也要防止继续困顿于规范上的能力而重复上述错误。

三

人工智能代理刑事责任归属的权力分配逻辑

人工智能的诞生重构了传统社会关系,创造和开启了一个前所未有的新型人机关系。相较于技术属性的快速迭代,人机关系的本质具有恒定性。相较于对人工智能能力的描述性探讨,人机关系自始即为规范性命题。因此,要突破技术属性与能力范畴的局限,深入探究人机关系的权力分配逻辑,才能有效论证人工智能是否具备成为犯罪主体的资格。此问题的核心在于:人类与人工智能之间的权力分配如何形塑刑事责任的归属。也就是说,对人机关系的理解,最终归结为对人类和人工智能之间权力分配方式的判断。

(一)权力分配对刑事责任归属的形塑机理

人类与人工智能之间的关系,在经历野蛮生长的阶段之后,可以预见最终会以法律的形式固定下来。这种固定或许与野蛮生长的状态一致,或许有所改变以契合国家对人工智能地位安排、发展方向的整体布局。然而,这种人机之间的关系暨权力分配何以能够影响《刑法》对人、机之间的刑事责任归属与分配,则尚缺少已建立的理论脉络在二者之间进行链接。下文将进行这一工作,以证明以下结论:权力分配逻辑可以使未实行犯罪者成为共同犯罪主体,乃至于成为正犯;如果权力分配在完全不平等的主体之间进行,则更是可以将不平等主体排除在刑法处罚范围之外,而使得权力支配者成为该犯罪的唯一犯罪主体。对以上刑法理论进行提炼,可以在人机关系确定之后奠定其影响刑事责任归属的正当性。

1.权力分配逻辑的规范供给

在现代刑法理论中,犯罪主体的刑事责任分配规则受到权力分配的显著影响。刑事责任的归属始终以权力分配为内在逻辑,在规范层面具体体现在以下三方面。

其一,共同犯罪中的权力主导性。就现代社会的共同犯罪理论而言,权力可以决定正犯或者主犯的归属。一方面,我国《刑法》第26条规定:“组织、领导犯罪集团进行犯罪活动的或者在共同犯罪中起主要作用的,是主犯······对组织、领导犯罪集团的首要分子,按照集团所犯的全部罪行处罚。”从此条文可以看出,组织、领导犯罪集团的首要分子,将会因为其在犯罪集团中所拥有的权力,而直接被认定为主犯。另一方面,行为支配理论作为德国刑法学的主流理论,其具体支配形式即包括有组织的权力机关的行为支配。犯罪行为支配有着并不是相互排斥的不同形式,对通过一种权力机构而组织的犯罪之场合,不必顾及行为人在法律上完全的可答责性而承认“正犯后的正犯”。由此可知,在共同犯罪的场合,有权者不必亲自实施构成要件行为,也可以成为正犯或者被认定为主犯。此时,权力的存在与否影响了刑事责任的归属。犯罪集团中组织、领导者的主犯认定,本质是基于其对犯罪行为的支配权力。即便未直接实施具体犯罪行为,权力持有者仍须对集团全部罪行担责。

其二,身份犯的权力依附性。在单独犯罪中,关于身份犯的研究也显示了权力的归属对于刑事责任的归属之影响。无论域内外刑法理论,通说都认为无身份者不能单独成立身份犯或者构成身份犯的正犯,而只能作为共犯存在。例如,在区分真正身份与不真正身份之后,对于如受贿罪中公务员这样的真正身份而言,非公务员不能触犯受贿罪,而只能成为共犯。且就如何判断身份而言,根据我国《刑法》第93条之规定,行为人是否是国家工作人员,关键看其是否从事了公务,是否实质上具有特定的权力。“当行为人具有主管、管理公共财物的职务时,就已经享有一种权力。在这种权力之外的‘方便条件’就只是工作便利,而不是职务便利。”因此,村民委员会等村基层组织人员协助人民政府从事比如关于“救灾、抢险、防汛、优抚、扶贫、移民、救济款物”的管理工作时,因为实质上在法律上具有相应权力,故而可以构成贪污罪和受贿罪。由此可见,在单独犯罪的场合,权力的具有与否也可以直接影响行为人是否构成某种特定的犯罪,影响刑事责任的归属。

其三,单位犯罪中的权力代行机制。单位之所以能够成为刑事责任的主体,原因同样在于人类职员代行了单位的权力而实施构成要件行为。单位何以能够成为犯罪主体?考察相关司法解释,如果行为人是“盗用单位名义实施犯罪、违法所得由实施犯罪的个人私分”,则应依照刑法有关自然人犯罪的规定定罪处罚。因此,学界一般认为:“只有代表单位意志的行为即只有决策机构按单位正常的决策程序(或经单位集体决定或负责人决定)所作出的行为,才被认为是单位行为。”由此可知,自然人所实施的犯罪行为之所以可以归责于单位,归根结底在于该自然人是以单位名义,根据单位所具有的权力实施了相应犯罪。换言之,如果单位本身不具备实施特定行为的权力,那么即使自然人以单位名义在外活动并触犯刑法,如故意杀人,该行为也不能归责于单位。由此可知,单位之所以能够在具体案件中成为某一犯罪的主体,与其拥有被社会所建构的某种“职权”有关。

2.不平等主体的归责范式

权力分配不仅存在于平等主体之间,亦可能存在于不平等主体之间。权力结构的倾斜程度与刑事责任归属呈正相关:主体地位越不平等,刑事责任越倾向于仅归属于权力持有者一方。

其一,历史语境下的权力等级归责。例如,在古代男性中心的社会中,根据男尊女卑的见解,古人认为女人始终是在男人的意志和权力之下,也由此影响了法律规则的设置。卑幼相对于尊长也是如此。例如,基于女性、卑幼并未取得相对于男性、尊长的完全独立地位,即便在实际情况中,是女性或卑幼者诱导男性或尊长者犯罪,但刑事责任往往仅由男性或尊长者来背负。如《唐律疏议》载:“诸共犯罪者,以造意为首······若家人共犯,止坐尊长······虽妇人造意,仍以男夫独坐。”即便犯罪是由两个平等主体实施,权力的存在也会影响主犯的归属。如《唐律疏议》载:“即共监临主守为犯,虽造意,仍以监主为首,凡人以常从论。”由此可见,虽然在古代“共犯罪造意为首”,但“造意”这一事实层面的因素对刑事责任归属的影响,依然要让位于古代社会对于权力的分配规则,且如果权力在不平等主体之间进行分配,则古代刑法更可能仅将尊长等有权者入罪。

其二,动物侵害案件中的权力逻辑延伸。以上逻辑被保留在关于动物侵害的违法性质的刑法理论之中。有研究发现黑猩猩也能表现出自我意识,能在镜子、照片和电视上认出自己,并有对自己的行为进行反思的能力等,但动物不可能承担刑事责任。原因在于,动物与人类之间的不平等地位已经深植在法律之中。一方面,我国《民法典》为动物致人伤害的行为设置了无过错侵权责任。在民事责任的承担上,动物的主人是动物侵害行为的直接责任人,动物不可能被法律分配某种责任进行归责;另一方面,在刑法理论中,对于有主的动物侵害,在动物的侵害源于人的故意或过失行为时,虽然根据传统的客观违法性论,其也可以成立违法,因而可以成为正当防卫的对象。但必须强调的是,即便有主的动物侵害具有违法性,此一违法行为也仅能被归属于人类而非动物,“如果狗的所有人存在故意或过失,则可以对所有人这个‘人’进行防卫。”

综上,上述逻辑为人工智能的刑事责任归属提供镜鉴:即便人工智能具备自主意识并实施危害行为,其法律地位仍受制于人机权力关系。若法律维持人类对人工智能的绝对支配地位(类似人类与动物的权力落差),则刑事责任必然归属于人类主体。即使未来赋予人工智能平等主体资格,权力分配的实际差异仍可能导致其不能单独构成犯罪或者仅承担从属责任(如共犯)。因此,人工智能主体地位的确立,从根本上讲,是法律对权力分配格局的一次重新界定。因此,接下来需要回答的问题是,人工智能在未来应当取得何种主体地位,人机之间的关系究竟应当为何?

(二)人机关系的权力配置范式:人工智能代理理论

目前的人机关系可以用人工智能代理(AI Agent)予以概括。翁丽莲(OpenAI人工智能应用研究负责人)在其博文中对AI Agent进行了系统介绍,对当代基于大语言模型的AI Agent做了全新定义,“LLM(Large language model)+记忆+任务规划+工具使用”成了全新的AI Agent四件套。随后,AI Agent被研究应用到多种领域,它既可以进行具身行动(Embodied actions)也可以进行虚拟行动(Virtual Actions),前者由物理实体(如机器人)或虚拟角色执行,后者如执行包括点击链接、滚动页面和键盘输入等网页任务。存有疑问的是,这种人工智能代理模式可能只是人工智能技术发展中的一个阶段性表达,而何以能够凭此而判断出当下乃至未来的人工智能刑事责任归属模式?以下进一步的研究将揭示,人工智能代理这一概念,有可能演变为人机关系中终极权力分配的核心解析框架。

1.双重属性的规范解构

人工智能代理同时具有施事者与受事者的双重属性。目前,关于“Agent”的中文译法存在诸多争议(如被译为“智能体”“代理”“行为体”等),尽管全国科学技术名词审定委员会公布的《计算机科学技术名词(第三版)》将其官方译为“智能体”或“代理”,但有学者认为“代理”一词极易混淆其主动性与被动性。

然而,从不同视角分析,AI Agent的主动性与被动性实为共存关系。从能力演进角度看,相较于大语言模型,AI Agent摆脱了对用户提示的依赖,能够独立思考和决策,并具有开展行动的能力。例如,AI Agent能够根据给定目标独立思考并采取行动,而无需清晰的提示词,这与大语言模型依赖用户输入的方式形成鲜明对比。其主动性更突出,可称为“施事者”。从权力流动的视角出发,AI Agent的本质在于受人类之托并提供服务,其需在既定目标的驱动下,通过敏锐感知环境动态并灵活调整自身行为(诸如学习、通讯等),以实现其预定功能。因此,从代理的角度考察,AI Agent则可以被称为受事者。

本文对AI Agent采用人工智能代理译法,主要基于对其法律关系的界定,即人工智能仅在受人类委托时方可行使相应能力,其行动需以代理人类为前提,无法完全独立行事。需要强调的是,当前这一限制根源于人工智能技术能力的客观局限,即使未来人工智能拥有完全自主意志与决策能力,人机关系亦应维持在人工智能代理的框架内进行探讨。

2.代理关系的规范韧性

针对弱人工智能时代人工智能代理关系无法延续至强人工智能时代的批判观点,其合理性值得商榷。事实上,基于代理关系分配刑事责任的实践方案已具备理论根基。例如,有学者指出,“当智能机器人致人伤亡时,可根据代理人理论追究机器人被代表意愿者的刑事责任。这种情况下的机器人实施犯罪行为时,仅扮演工具的角色,其背后的操控者才是刑事责任的承担者。”对此,反对观点认为:随着技术的迅速迭代,机器人具有越来越高的独立性和自主性,代理关系可能会逐渐弱化,变得越来越难以认定。

然而,上述反对论点却蕴含着双重逻辑谬误。其一,其论证路径本质遵循“技术迭代→独立性提升→自主担责可能性增加”的线性逻辑,然而,仅仅依据技术能力来分配刑事责任,在法理上显得缺乏充分的正当性支撑。其二,现代刑法理论虽承认被代理人与代理人责任并存的可能性(如组织支配中的“正犯后正犯”现象),但需明确的是,此类责任分配均以平等主体关系为前提。至于人工智能是否能获得与人类相当的法律主体地位,这无疑是未来法学界需要深入论证的关键议题。就目前预测,未来人工智能并不必然与人类处于平等主体的地位。

3.主体资格的价值悖论

从价值论出发,难以将承担独立刑事责任的权力赋予人工智能。具体理由如下。

其一,人工智能的主体资格设置与工具化属性预设相互矛盾。发展人工智能技术的目的是使人工智能为人类提供更好更精准更智能的服务,这一目的明确了人工智能科学的价值导向:并非旨在创造一个必须酷似人类的物种。即便人工智能在对话上难以与人类区分,外观上也能接近人类,但它始终是人类的工具,是人类行为的延伸,而非法律上的主体。而对工具赋予主体地位的直接后果便是:主体不能被完全工具化对待。换言之,人工智能产品的使用因为主体资格的存在而被限制。

人工智能不仅作为责任主体存在,而且其潜在的伦理人格和技术人格也引发了对其是否应被赋予法律主体地位的探讨。社会将不得不面对人工智能是否也应享有相应权利的问题。若人工智能表现为机器人的形式,便可能需要制定调整智能机器人之间涉及“身体”权等关系的《机器人刑法》,其中可能设置抢劫机器人罪、强奸机器人罪等罪名。由此导致的悖论是:当社会以更好地服务于人类社会为目的快速发展人工智能技术时,人工智能技术将在突破技术奇点(从而可能被承认为法律主体时)的刹那,大幅度地降低其对人类社会化服务能力。于是,社会愈发展人工智能,人工智能便愈可能更少地为人类社会提供服务。

其二,人工智能的主体资格设置影响人类主体的正常发展。一方面,对于上文论述的问题,或许会有论者提出疑问:此时人工智能并非不能给人类社会提供服务,而只是不作为工具为人类社会提供服务,就像平等的人类主体之间依然可以相互提供服务,且在服务过程中也依然可以对社会的发展创造价值一般。但由此所带来的后果,则是随着人工智能技术的不断进步,它在生产和服务领域对人类基础工作的替代变得越来越普遍。与之相对,承认人工智能代理的人机关系在强人工智能时代也应当存在,带来的后果是:每一个人工智能产品的运行都必须在其背后找到对应的被代理人(人类或者法人)。或许会有论者认为,如此一来将会极大地干预人类社会对人工智能产品的享有,因为这意味着社会生产和服务工作将无法实现真正的无人操作,仍需人类时刻进行监管和控制。然而,这种局面并非人工智能代理的缺陷,而正是社会应当选择人工智能代理的原因。因为这代表了人类主体始终在社会生产、服务等工作中占据一定的位置。回顾历史可以发现,机器的资本主义应用产生了经济学上的悖论:“即缩短劳动时间的最有力的手段,竟变为把工人及其家属的全部生活时间转化为受资本支配的增殖资本价值的劳动时间的最可靠的手段。”人工智能生命若可以无限度替代人类工作,同样可能产生上述悖论。诚然,随着人工智能技术的蓬勃发展,人类现有的工作机会势必会受到一定程度的缩减,比如相关自动驾驶出行服务平台的推出,也会对网约车司机的工作机会产生影响。然而,通过维系人工智能代理的人机协作关系,我们或许能够适度延缓这一趋势,并且基于人类被代理人身份的存在而保留一定的工作岗位,降低人工智能快速发展对人类本身的不利冲击。另一方面,放任人工智能全面接管人类在社会生产、服务过程中的基础工作,将因为人工智能主体的不可预测性而产生难以预测的风险。人工智能若展现出超越预设程序控制的自主行动能力,这无疑成为了探讨其是否能被赋予刑事责任主体地位的先决条件。可对此进行控制将陷入特殊预防无效—特殊预防有效之间的悖论,若技术可以预防犯罪,则无需事后刑罚;若技术无法对其进行控制,则刑罚亦无效。人工智能技术的错误率问题引发了社会的两难选择:如果技术能够解决人工智能的错误,社会可能不会感到恐惧,但这也意味着没有必要将人工智能作为刑事责任主体;反之,如果错误无法通过技术解决,社会将面临对人工智能潜在错误的持续恐惧,这可能阻碍人工智能技术的正常发展和社会的稳定。

相反,若社会在强人工智能时代坚持人工智能代理的人机关系理念,那么,原本旨在限制人类犯错、实施危害行为的控制规则,将继续适用于作为被代理人的人类,从而在社会广泛使用人工智能技术的前提下,既能减少危险发生的几率,同时也能消解社会对于人工智能不可预测行为的未知恐惧。

综上,通过考察人工智能代理背后所蕴含的主动与被动的关系可知,主动是对其能力的判断,被动是对其与人类之间的代理关系的判断。且人工智能代理的主动属性与被动属性由于分属事实与价值两个层面,而并不处于此消彼长的关系之中。即便强人工智能技术发展到了可以完全自主作出决策的程度,我们依然需要在价值论上分析人工智能主体资格设置的利弊,以确保维持人工智能在价值层面的被动地位。自此,人工智能代理完成了从阶段性的能力发展水平表达,到终局性的人机关系之间的权力分配的演变。

四

责任归属方案建构与具体场景验证

人工智能代理不应仅是人工智能技术能力发展过程中的阶段性表达,而更应该成为未来人机关系中终局性权力分配的基本模式。这一模式进而决定了在人工智能参与的危害行为中,刑事责任的归属对象应为被代理人。由于未来人工智能技术的发展依然处于迷雾之中,最终可能会出现的人工智能产品同样可能嵌入到人类社会生活的方方面面,由此导致被代理人的身份有可能不会清晰地呈现在人工智能的运行过程之中。因此,为构建出清楚的人工智能代理刑事责任归属方案,确定人工智能实施危害行为时被代理人的确定规则,探讨被代理人承担刑事责任的具体条件,以下将首先介绍刑事责任归属的基本判断步骤,再以自动驾驶汽车为具体例子展开论述。

(一)人工智能代理刑事责任归属的基本判断步骤

无论使用人工智能的表现形态如何,人工智能代理刑事责任归属的关键都是确定被代理人的身份。

首先,区分实质上进行行动的是人类还是人工智能。倘若人工智能只是作为常见的聊天机器人或者导航机器人,提供了对应的辅助人类进行决策的信息,由于决策权实质上依然是由人类享有,人类作出决策后的行动只能被认定为属于单纯的人类行动,而与人工智能无关。该聊天机器人背后的生产者、设计者也并无承担责任的必要。但如果人工智能实际上是替代了人类进行行动,比如在自动驾驶汽车的行驶过程中,不需要人类亲自驾驶汽车,则产生了人工智能作为代理的可能性。此时,确定刑事责任的归属,关键在于判断人工智能究竟是在代理哪一主体进行行动。同时需要注意,有些聊天的过程本身即是人工智能代理生产者向人类使用者提供服务的过程。此时,如果人工智能本身提供了具有危害性质的信息,则依然有判断人工智能的行为被归属为其他人类主体承担的可能。

其次,通过社会前置规则排除不可能被代理的人类主体。人工智能代理刑事责任归属的方案以人工智能代理的人机关系为其前提。但倘若前置规范在规则设置上并没有维持人工智能代理的人机关系,则刑法不能强行将某类主体规定为被代理人以追究其刑事责任。同样以自动驾驶汽车为例,在美国加利福尼亚州,自动驾驶汽车被允许在没有方向盘和/或人类驾驶员的情况下行驶。在这类缺少方向盘等供人类驾驶员驾驶的工具中,因为(车辆内的)人类驾驶员不可能接管该自动驾驶汽车,因此自动驾驶汽车不可能代理人类驾驶员进行行动,而只是作为一种产品向人类乘客提供服务,发生交通事故后的刑事责任,只有被归责于程序生产者、设计者的可能。由此可知,人工智能代理刑事责任归属的方案并非局限于刑法系统内的操作方案,而必须以社会系统接受人工智能代理的人机关系模式为其前提,才具有实施的相应可能。

再次,应当认识到被代理人可能被确定为法人。由于单位犯罪的成立实质上是员工代理单位的权力进行行动的结果,因此在员工按照职责使用人工智能产品发生危害行为之后,则该人工智能产品的被代理人最终要被确定为员工所属的公司。例如,在一起利用人工智能实施电信诈骗的案件中,犯罪团伙通过人工智能进行诈骗,涉及金额高达430万元。在这种情况下,公司可能被认定为被代理人。换言之,人工智能代理中的被代理人可能是法人,因此相应的人工智能致害行为会被认定为单位犯罪,刑法基于此而可以追究单位、主管人员等的刑事责任。

最后,被代理人是否可能构成犯罪,必须符合刑法既有体系的相关规定。由于刑法兼具法律规范与治理工具双重属性,在运用刑法治理自动驾驶汽车这类新型社会行为时,不能陷入对治理效果的片面追求之中,而依然需要聚焦刑法规范自身的逻辑闭环,实现刑法内部规范层的裁判规范自洽。因此,被代理人身份的确定,仅仅是对犯罪主体身份的确定,能否进一步得出犯罪成立的最终结论,依然需要考察被代理人的行为是否符合其他构成要件,符合刑法总则和分则的相关规定。例如,根据我国《刑法》第13条但书条款,构成犯罪必须要具有严重的社会危害性,因此,不能将人工智能所实施的危害行为认定为行为犯而进行追诉,该行为必须符合由法院判例或者相应司法解释确定的具体情节后,被代理人才能被追究刑事责任。又如,如果通过人工智能实施的危害行为产生了新型特征,而不能被既有的构成要件所涵摄,则司法人员不能通过类推解释将被代理人纳入刑法处罚范围。此时,必须等待立法者及时修改相应的构成要件,以规制对应的危害行为。

(二)通过自动驾驶汽车交通肇事责任归属的具体验证

自动驾驶汽车已从虚幻的未来走进现实生活,成为人类可以亲身体验的技术。2022年3月1日实施的《汽车驾驶自动化分级》将驾驶自动化分为L0—L5共六个等级,L3为有条件自动驾驶,L4为高度自动驾驶,L5为完全自动驾驶。2024年6月,工业和信息化部、公安部、住房城乡建设部、交通运输部等四部门联合公布《进入智能网联汽车准入和上路通行试点联合体基本信息》,确定在重庆、上海、北京等地区开展L3、L4级别智能网联汽车准入和上路通行试点。因此,对自动驾驶汽车交通肇事行为的刑事责任归属进行分析,既能够为当下人工智能技术社会应用提供解决方案,也能够为联结未来人工智能技术发展模式,确立合适的预测样本。

在既有关于自动驾驶汽车交通肇事行为的刑事归责的理论探讨之中,论者共同的选择在于:参考《汽车驾驶自动化分级》,自动驾驶等级越高,人类驾驶员承担刑事责任的可能性越低,生产者、设计者承担刑事责任的可能性越高。然而,这一逻辑依然系前文所批判的能力分配逻辑。在人工智能代理的人机关系中,尽管人工智能可以完全自主行动,其行为仍被视为代理人类行为。根据现行法律框架,刑事责任通常归属于被代理人,无论是人类驾驶员、生产者还是设计者。责任归属并不与自动驾驶汽车的自动化等级直接对应,而是需要根据具体情况进行分析。

1.即使在L5完全自动驾驶汽车中,人类驾驶员也可以拥有被代理人身份

根据《汽车驾驶自动化分级》,在L3有条件自动驾驶汽车中,人类驾驶员依然被要求以适当的方式对自动驾驶汽车进行接管。但在L4高度自动驾驶汽车和L5完全自动驾驶汽车中,《汽车驾驶自动化分级》则注明:“系统发出介入请求时,用户可不作响应,系统具备自动达到最小风险状态的能力。”域外也有观点将完全自动化等级的特征确定为“在任何情况下,都不需要人来监督、监控或控制车辆,或者在系统出现故障时作为后备选项。”国内更有学者认为,自动驾驶系统本身应具备自主应对紧急情况的能力,因此应当废除被动接管规则,只要开启自动驾驶模式,人类用户就应得到解放。然而,人类驾驶员系基于主动接管权力而可以成为完全自动驾驶汽车的被代理人。

第一,对于完全自动驾驶汽车,人类驾驶员仅是不存在“被动接管义务”。参考《汽车驾驶自动化分级》的相关规定,在完全自动驾驶汽车中,人类驾驶员仅是“不需要”对驾驶自动化系统发出的人类介入驾驶系统的介入请求作出“响应”,仅是不存在“被动接管义务”。

第二,无论在何种驾驶自动化系统中,人类驾驶员都存在“主动接管权力”,此可以成为人类驾驶员承担刑事责任的事实基础。根据《汽车驾驶自动化分级》的相关规定,在L3及以下的自动驾驶汽车中当驾驶员请求驾驶自动化系统退出时,系统都需要立即解除系统控制权;即便在L4和L5驾驶自动化系统之中,规定的也是当用户请求驾驶自动化系统退出,解除系统控制权时,如果存在安全风险可暂缓解除。由此可见,无论在何种驾驶自动化系统之中,人类驾驶员基本上都具有要求解除驾驶自动化系统控制的主动接管权力。因此,人工智能代理的人机关系依然存在。在人类驾驶员(即便未进行驾驶操作)可以对汽车行驶的目的地、路线作出具体的要求,对汽车的启动、终止时间下达直接的命令,并且拥有随时主动解除驾驶自动化系统控制之权力,从而接管汽车驾驶权时,人类驾驶员虽然没有实际地操控汽车,却已经通过决定其他外在条件对汽车的行驶产生了影响,进而与程序系统共同决定了具体的驾驶行为。根据我国交通肇事罪的相关司法解释:乘车人让驾驶员交通肇事后逃逸的,同样可以成立交通肇事罪。这充分证明,即便在两个平等主体之间,乘车人若能够对汽车的行驶进行决定,便有承担刑事责任的可能。而在人工智能与人类并不属于平等主体的前提下,即便驾驶行为是由人工智能程序系统与人类共同决定,驾驶行为的刑事归责也能够被归属于人类驾驶员。

第三,人工智能在这一场景中不能和人类驾驶员之间形成共犯责任。在自动驾驶汽车过程中,既然得出的是人类和人工智能共同参与了驾驶行为这一前提,那么为何得出的结论不是人类和人工智能构成共同犯罪?其一,并非共同参与了行为,刑法就需要对实施行为的相关主体皆施加惩罚。例如,《刑法》第291条聚众扰乱公共场所秩序、交通秩序罪仅规定对首要分子处以刑罚。因此,《刑法》可以基于特别的理由否认人工智能与人类构成共同犯罪;其二,当维持人类与人工智能的不平等地位之时,基于人工智能代理模式之间所存在的权力分配逻辑,处于不平等地位的人工智能可以被排除在刑事责任的归属之外;其三,功利层面的考量也支持排除人工智能的刑事责任主体资格的结论,因为可以有效减少自动驾驶汽车交通事故发生的概率。随着人工智能技术发展水平的提高,未来自动驾驶汽车发生交通事故的主要原因,不会是人工智能已经识别到了危险的存在,但缺少自动达到最小风险状态的能力,而将是人工智能并未识别到存在危险以及人工智能识别到了危险,但却超出程序预设而未选择避免危险这两种情形。对于前者而言,自动驾驶汽车可能基于设计缺陷,而发生比如因为行为人所穿的白色衣物与明亮的天空非常巧合地一致,导致自动驾驶车辆的人工智能无法有效识别从而撞到行人的交通事故。此时,为有效阻止发生交通事故,社会应当加强人类驾驶员监控道路的力度,而非认可人类驾驶员完全不顾及道路运行状况的习惯。对于后者而言,为有效阻止发生交通事故,社会应当选择的方案也是加强人类驾驶员监控道路的力度,从而使得人类驾驶员能够及时解除驾驶自动化系统,人工驾驶汽车避免交通事故的发生。在美国发生的一起特斯拉Model X汽车以超过70英里的时速撞向高速公路隔离栏的事故中,事故发生的原因也被认为既包括自动驾驶系统本身的不足,也包括自动驾驶系统本身没有严格监控人类驾驶员是否保持了对驾驶过程的参与。而在法律可以基于人类驾驶员的“主动接管权力”,而将其作为“被代理人”而追究其刑事责任时,人类驾驶员监控道路的力度自然会因为这一规则的设置而得到提高。

第四,人类驾驶员在具体情形中是否构成犯罪,依然需要满足《刑法》的体系性要求。比如,如果事后证明,即便人类驾驶员保持了应有的对驾驶状况的监控力度,但依然无法避免交通事故的发生时也不应构成犯罪。即使人类驾驶员在案发时正在玩手机,也因为缺乏结果支配可能性,没有实现法所不允许的风险,而不构成犯罪。再如,在《刑法》关于交通肇事罪的规定以及相关司法解释没作修改的情况下,如果交通肇事行为仅造成1人死亡且人类驾驶员不负事故全部或者主要责任,则人类驾驶员也不应构成犯罪。

2.生产者在一定条件下也可以成为各级驾驶化自动系统中的被代理人

并非自动驾驶汽车的任何交通肇事行为,其刑事责任仅被归属于人类驾驶员承担。

第一,在L4及以上自动驾驶汽车基于安全风险而暂缓解除驾驶自动化系统,致使发生交通事故时。在类似的以上情形之中,只要人类驾驶员不能主动接管汽车驾驶权限,就证明人类驾驶员在某种条件下不具备主动接管权力,不具有被代理人身份。由于此时自动驾驶汽车的驾驶行为仅是依据程序进行,因此实际上具有被代理人身份的是驾驶自动化系统的生产者。那么,如果生产者对于遭遇安全风险时的自动驾驶汽车的自动驾驶程序的设计有缺陷,导致自动驾驶汽车在避让安全风险时引起了其他交通事故的发生,则生产者应当承担相应的刑事责任。“智能网联汽车违反交通运输管理法规是因为程序设置上出现瑕疵而引发的,相关研发者、生产者需要承担刑事责任,这应该是没有争议的。”

第二,在自动驾驶汽车已经发生交通事故,生产者认识到事故发生的原因与驾驶自动化系统有关,能召回却不召回时。此时,即便交通事故的发生并非生产者可避免的设计问题所导致,但由于其违背了作为生产者而具有的对缺陷产品的召回义务,缺陷产品此后基于缺陷而造成事故的行为的刑事责任,依然要归属于生产者。因为生产者获得该项产品瑕疵的渠道以及可能性远远超过普通的社会成员,所以,即便经过一段时间后获得了相关的信息后,其仍然存在消除该风险的义务;否则,由此而导致的危险现实化的结果,仍然需要由生产者承担相应的责任。

第三,在远程驾驶员实施单位犯罪行为时。为了减少自动驾驶汽车产品服务发生交通事故的可能性,产品生产者可能在提供自动驾驶汽车产品的同时,设置远程驾驶员,监控自动驾驶汽车可能遇见的交通危险,并在必要条件下亲自接管操作系统以避免危险结果的出现。此时,远程驾驶员虽然也具有主动接管权力,但远程驾驶员实质上是作为公司的职工,代表单位意志实施相应行为。因此,自动驾驶汽车的被代理人最终归属于该远程驾驶员所归属的单位。

结语

刑法确立人工智能刑事责任归属的基本逻辑应当从以往的能力分配逻辑转向权力分配逻辑。在价值论层面上,人类与人工智能之间的权力分配意味着人工智能不应享有与人类等同的主体资格,因此,人工智能仅能作为人类的代理进行行动,而不具备独立行动的能力。基于此,人工智能刑事责任的归属对象应当被定位为被代理人,人工智能本身不能承担刑事责任。将此种人工智能代理刑事责任归属方案放入自动驾驶汽车交通肇事行为之中进行分析可以发现:人类驾驶员基于具有主动接管权力原则上成为自动驾驶汽车的被代理人而可能构成交通肇事罪,即便是在L5完全自动驾驶汽车之中。但如果自动驾驶汽车基于程序设定而排除了人类驾驶员的主动接管权力,或者生产者能够召回发生事故的自动驾驶汽车而不召回,或者人类驾驶员是作为远程驾驶员代表生产者单位接管自动驾驶汽车,则自动驾驶汽车交通肇事行为的刑事责任应当归属于生产者。

基于人工智能技术发展水平的指数级增长可能,以及法学专业与人工智能专业的专业槽知识间隔,对人工智能技术展开的法学研究应当聚焦于“不变的对象”进行深挖,如此产生的成果才不会因为人工智能技术一个代码的变动而成为时代发展中的无用黄沙。无论人工智能技术发展到何种水平,是停步于既有的技术壁障,还是超越了科幻小说家最夸张的想象,人机之间的关系定位、人工智能是否始终只能代理人类进行行动,是需要研究的恒定命题。

-向上滑动,查看完整目录-

《政法论坛》2026年第4期目录

【学习习近平法治思想】

1.提炼中国民法学自主知识体系的标识性概念

许中缘(003)

【中宣部哲学社会科学期刊重点专栏·全面依法治国研究】

2.《民法典》擘画的司法权图景

——基于《民法典》中逾300条司法裁量权规范的分析

易军(018)

3.实质合并破产程序问题的实证考察与规则完善

张艳(038)

【主题研讨一·金融法治研究】

4.涉案虚拟货币处置的实践模式与发展完善

谢登科(052)

5.回归“信息信赖”:证券虚假陈述信赖证明规则的修正及展开

曾洋(068)

【主题研讨二·涉外法治研究】

6.高水平开放视域下意思自治的原则化重构

黄晖(083)

【论文】

7.民营企业实质平等保护的刑事法路径与实践贯彻

钱小平(095)

8.人工智能代理的权力分配逻辑与刑事责任归属

姚万勤(111)

9.论法治观念的三维结构与功能整合

宁凯惠(128)

10.宪法实施情况报告制度的规范效力研究

王也(146)

11.民主观念在维新思潮中的形成脉络

张伟(161)

【马克思主义法学本土化研究】

12.政府采购概念的规范构成与本土化重构

刘力(177)

《政法论坛》是中国政法大学主办的重要法学学术期刊,其前身为1979年创刊的《北京政法学院院报》。1983 年5月,国家决定在北京政法学院的基础上成立中国政法大学,原《北京政法学院院报》停办的同时,创刊《中国政法大学学报》,1985 年更名为《政法论坛》,由彭真同志题写刊名。

点击进入下方小程序

获取专属解决方案~

责任编辑 | 吴晓婧

审核人员 | 孙妹 宋思婕

本文声明 | 本文章仅限学习交流使用,如遇侵权,我们会及时删除。本文章不代表北大法律信息网(北大法宝)和北京北大英华科技有限公司的法律意见或对相关法规/案件/事件等的解读。


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

北大法律信息网 incentive-icons
北大法律信息网
法律综合性网站
12037文章数 17641关注度
往期回顾 全部

专题推荐

乌蒙深处 清凉毕节

无障碍浏览 进入关怀版