【探讨】生成式人工智能涉淫秽物品中平台运营者的刑事责任研究

您对“生成式人工智能涉淫秽物品中平台运营者的刑事责任研究”有何见解呢？关于本文的思考欢迎大家留言或投稿参与讨论。对于本微信公众平台发送的原创稿件，将结合阅读量酌情给予奖励，湖南省刑事法治研究会每年还会对原创文章进行评奖并给予不同的等级奖励。期待您的来稿！

摘要：生成式人工智能平台运营者在涉淫秽物品犯罪中的刑事责任认定，是人工智能时代刑法面临的新型挑战。通过对底层算法权限掌控的划分，可以分为核心控制型和边缘接入型平台运营者。在故意心态下，平台运营者修改底层算法、解除安全限制的行为不构成制作、传播淫秽物品牟利罪；但可能被评价为非法利用信息网络罪。在过失心态下，当淫秽物品系人工智能自行生成时，平台运营者可能因拒不履行信息网络安全管理义务罪承担刑事责任；当淫秽内容因平台运营者自身过失生成时，现行刑法尚无直接对应的过失罪名规制。因此，在结合权利义务一致原则、风险刑法理论与信赖原则，证成了平台运营者承担过失责任的正当性后。建议增设“人工智能算法设计、管理事故罪”，以算法安全为保护法益，以造成严重后果为入罪门槛，并以“新过失论”为基础，从预见可能性判断标准、注意义务具体内容等方面构建平台运营者过失责任的认定框架，为生成式人工智能平台运营者的刑事责任认定提供理论依据与规范指引。

关键词 ：生成式人工智能平台运营者；刑事责任；故意；过失；算法安全

一、问题的提出

案例：甲、乙联合开发运营AI伴侣应用，在后台通过修改系统提示词的方式突破大模型内置的道德与法律限制，使AI能够连贯输出淫秽内容，并设立激励机制鼓励使用者创作色情角色。该平台注册使用者超10万余人，产生涉黄聊天记录数十万段。

本案存在一些值得探讨之处，其一：当生成式人工智能平台运营者对使用者利用生成式人工智能制作淫秽物品持“故意”心态，且未直接参与制作或传播时，该行为应当如何定性？本案中甲、乙修改系统提示词使得该生成式人工智能能够持续生成淫秽色情内容，向使用者输出的聊天内容是能够预测并且控制的。但同时，生成式人工智能平台运营者仅是放开了后台的限制，并未真正输入指令参与制作，此时生成式人工智能平台运营者能否认为是淫秽物品的制作者？生成式人工智能输出的内容仅在使用者与生成式人工智能平台运营者之间可见，且根据使用者输出的指令不同会生成不同的内容。尽管生成式人工智能平台运营者面向的使用者数量较多，但能否认为是生成式人工智能平台运营者是淫秽物品的传播者？如果不认为平台的行为是“制造”或“传播”行为，平台应当承担何种刑事责任？其二，使用者输入与平台输出的责任边界如何划分？当平台主动解除模型的安全限制、使生成式人工智能变为可生成甚至被鼓励生成淫秽物品时，其行为当然超越了中立的工具提供范畴。但是假使另一种情况，即生成式人工智能并未特意设计为输出淫秽物品，而使用者通过技术手段或其他方法绕开了限制，生成淫秽物品。此时生成式人工智能平台运营者未审核或过滤该淫秽物品，即当生成式人工智能平台运营者对下游犯罪持“过失”心态时，生成式人工智能平台运营者是否需要承担刑事责任？如果需要承担刑事责任生成式人工智能平台运营者需要尽到何种义务方可主张免责？其三，本案中所涉生成式人工智能提供者与生成式人工智能平台运营者是同一主体，生成式人工智能平台运营者对生成式人工智能的具有较高的权限。但当生成式人工智能提供者与生成式人工智能平台运营者并非同一主体或者说生成式人工智能平台运营者对生成式人工智能的没有管理权限时，是否可以主张承担更低的义务？

二、生成式人工智能平台运营者概念的辨正以及类型区分

生成式人工智能平台运营者并非传统意义上的网络服务提供者，其角色不限于向用户提供内容或存储用户上传的信息。生成式人工智能运营者通过对算法、数据和交互规则的控制，成为塑造何种内容能够被生成或呈现的主体，这使其区别于传统网络平台的服务提供者。因此，对生成式人工智能平台运营者这一新型主体的概念进行界定并区分类型，是研究其刑事责任的前提。

（一） 生成式人工智能平台运营者概念的辩正

目前尚未有法律法规对生成式人工智能平台运营者这一概念作出界定。在关于生成式人工智能的法律法规中，通常以“生成式人工智能服务提供者”为表达。例如在《生成式人工智能服务管理暂行办法》（以下简称《暂行办法》）第22条第1款第2项、《生成式人工智能服务安全基本要求》（下称《基本要求》）第3.2条、《互联网信息服务深度合成管理规定》第23条都对生成式人工智能服务提供者以不同的角度进行界定。”但综合考察上述规范可知，现行立法倾向于对生成式人工智能服务提供者作广义规定，即其外延既包括以交互界面方式直接面向终端使用者提供服务的主体，亦涵盖以可编程接口方式向开发者等第三方提供技术支撑服务的主体，即只要向社会公众提供了生成式人工智能服务，无论其以何种商业模式呈现，都属于法定的“服务提供者”。这样笼统的“服务提供者”概念难以在刑法教义学中为其找到清晰的责任归属。因此本文所讨论的生成式人工智能平台运营商特指那些直接面向使用者、承担运营管理职责、对服务运行具有实质控制力的主体。

生成式人工智能平台运营者从概念上进行界定，是指以生成式人工智能为核心技术，向不特定使用者提供交互接口与技术服务，同时履行法律规定的审核义务，对违法内容进行识别、阻断与处置的主体。其构成特征包括：第一，技术中介性。其服务以生成式人工智能为核心支撑，内容由算法根据使用者指令实时生成而非使用者上传或编辑撰写，同时，运营者是使用者与生成式人工智能之间的唯一接口，所有输入指令与输出内容均需通过其提供的平台完成。第二，技术整合性。生成式人工智能平台运营者将底层算法模型、前端交互界面、用户管理系统、安全防控机制等集成为一个完整、可运行的服务体系，即通过整合将技术能力转化为面向不特定用户的规模化服务。第三，运营管理性。生成式人工智能平台运营者具有内容审核、违法阻断等权限，能够通过其构建的交互界面与内容分发机制，将算法生成的输出内容直接呈现在用户终端。凭借对平台架构的控制权，运营者实质上决定了何种内容以何种方式、在何种范围内被用户所获取。

（二）生成式人工智能平台运营者的类型

生成式人工智能平台运营者是用户与人工智能之间的接口。根据运营者是否有权限对底层算法进行修改，可将其区分为核心控制型与边缘接入型两类：核心控制型运营者拥有对底层算法模型、系统提示词、安全阈值及数据训练流程的深度修改与配置权限，能够影响人工智能的生成逻辑与内容倾向。例如Chat GPT、DeepSeek等生成式人工智能平台运营者；边缘接入型运营者则主要掌握前端交互界面的管理权限，仅能对用户输入与输出内容进行事后审核与处置，而无法干预模型的核心运算机制。例如钉钉接入通义千问，使用者即可以在钉钉的应用界面使用通义千问从可以使用特定功能。

是否具备对底层算法的修改权限，直接决定了运营者对法益侵害风险的控制能力。核心控制型运营者因其对算法的底层掌握，相对具备预见并阻断风险的能力，因此应当承担更高程度的算法安全与内容合规义务。边缘接入型运营者的责任，则应围绕其是否履行了与自身技术能力相匹配的内容审核、用户管理及应急处置义务进行判断。

三、生成式人工智能涉淫秽物品时平台运营者故意心态下的刑事责任

生成式人工智能的出现，使淫秽物品犯罪呈现出新的特点。传统的淫秽物品犯罪主要限于直接实施制作或传播行为的行为人。而在人工智能技术发展的背景下，犯罪主体不再局限于此，还包括间接参与的生成式人工智能平台运营者。因此，在涉淫秽物品犯罪领域，对生成式人工智能平台运营者的行为进行定性，成为一个新的挑战。

结合本案中生成式人工智能平台运营者的盈利模式可以发现，其主观上具有牟利目的。因此需要探讨的是，当运营者出于故意心态修改底层算法，导致淫秽物品产出和传播时，该行为在刑法上应当如何评价？

（一）生成式人工智能平台运营者不构成制造淫秽物品牟利罪

就制造淫秽物品牟利罪而言，制造是指生产、录制、编写、绘画、印刷等创造、产生、形成淫秽物品的行为。在本案中，平台运营者并未直接参与淫秽物品的制作，而是通过修改底层算法、解除安全限制，为淫秽物品的制作提供工具。因此，笔者认为其行为不应当构成“制作”。理由如下：其一，根据文义解释，刑法第363条中的“制作”应理解为直接创作、编写、录制等产生淫秽载体的行为，而修改底层算法的行为属于对技术工具的改造，并未直接参与淫秽内容的生成。其二，淫秽物品的产生是用户输入与平台设置共同作用的结果，运营者的修改行为仅为条件之一。若用户不输入淫秽指令，人工智能本身不会主动生成内容。当用户仅利用人工智能生成淫秽物品时，一方面其主观上未必具有牟利目的，另一方面单纯的生成行为本身亦不构成传播淫秽物品罪，故在刑事上难以对用户归责。此时若将制作行为单方归责于运营者，显然不合理。其三，直接制作者通过自身行为将淫秽内容从无到有地创造出来，而平台运营者仅是通过修改算法为危险的发生提供条件，其应受谴责程度显然无法与直接制造者相提并论。

（二）生成式人工智能平台运营者不构成传播淫秽物品牟利罪

生成式人工智能平台运营者也不应当构成传播淫秽物品牟利罪或传播淫秽物品罪。理由在于，其一，传播是指行为人通过多种方式对淫秽物品进行广泛散布。从文义上看，本案中并未发生一般意义上的传播行为。虽然随着用户数量增加，平台生成的淫秽内容不断增多，但平台以一对一的对话形式向用户交付内容，生成的淫秽物品仅能为该用户接收，并未在不同用户之间流传。其二，淫秽内容的每一次生成均以用户的主动输入为前提。平台运营者虽使人工智能具备生成淫秽物品的可能性，但内容是否实际生成、是否被用户接收，实质上由用户决定。从这个角度看，运营者并未主动实施传播行为。其三，无法益侵害则无犯罪，传播方式决定了传播淫秽物品的法益侵害程度。该罪的法益侵害性来源于使不特定的第三人知悉淫秽物品的可能。在生成式人工智能涉淫秽物品场景中，使用者是主动寻求、付费购买淫秽物品的生成服务，其属于自愿接收，不存在使其他不特定多数人接触到该淫秽物品的现实可能性，因此并没有造成法益侵害。

（三）生成式人工智能平台运营者可能构成非法利用信息网络罪

平台运营者存在构成非法利用信息网络罪的可能。结合本案及该罪构成要件，认定其是否构成本罪需解决两个问题：其一，生成式人工智能平台运营者设立平台软件的行为能否认定为刑法第二百八十七条之一第一款所规定的设立网站？其二，使用者利用人工智能生成淫秽物品的行为是否为本罪所规定的“违法犯罪”活动?

首先，生成式人工智能软件可以被评价为网站。根据立法机关对刑法第287条之一的条文解读，网站是指“设立者或者维护者制作的用于展示特定内容的相关网页的集合，便于使用者在其上发布信息或者获取信息。这一定义强调“网站”的核心在于展示内容、便于发布或获取信息，而非技术实现形式。生成式人工智能平台软件，本质上是设立者制作的用于展示特定内容的相关程序的集合，便于用户在其中发布信息并获取信息。因此，从功能角度而言，其符合“网站”的定义。同时，“网站”与“软件”并非对立概念，网站需要运行于服务器端软件之上，用户通过浏览器访问；软件只是将类似的交互功能封装为客户端程序。二者均为提供信息交互的平台，技术封装形式的不同不影响将生成式人工智能平台软件认定为网站。

其次，使用者利用人工智能生成淫秽物品的行为应当认定为为本罪所规定的“违法犯罪”活动。根据《关于办理非法利用信息网络、帮助信息网络犯罪活动等刑事案件适用法律若干问题的解释》（以下简称《解释》）规定，“违法犯罪”包括犯罪行为和属于刑法分则规定的行为类型但尚未构成犯罪的违法行为。而使用者生成淫秽物品的行为，虽因缺乏牟利目的而不构成制作淫秽物品牟利罪，但其行为属于刑法第三百六十三条规定的“制作淫秽物品”行为类型。此外，使用者通过输入指令主动控制生成式人工智能生成淫秽内容，虽未亲手编写，但通过技术手段实现淫秽内容的制作。其行为符合《治安管理处罚法》第八十条关于“制作淫秽物品”的行政违法构成，属于行政违法行为。因此，使用者利用人工智能生成淫秽物品的行为属于《解释》所规定的“违法犯罪”行为。

综上，在本案中，如果能证明平台运营者在设立生成式人工智能服务平台的开始便是为了实施违法犯罪活动，或者平台在设立后逐步演化为用于实施违法犯罪活动的信息平台。那么平台运营者的的行为即可以评价为非法利用信息网络罪。

四、生成式人工智能涉淫秽物品时平台运营者主观过失下的刑事责任

生成式人工智能平台运营者可能在两种过失情形下导致淫秽物品生成。第一种情形，生成式人工智能技术本身并不存在缺陷，淫秽物品的生成主要源于人工智能自身的深度学习结果，即人工智能在运行过程中自行生成了淫秽物品。运营者对此负有过失，具体表现为其未能尽到对算法运行过程的监督义务，未能及时发现并阻止淫秽物品的生成与流出。第二种情形，由于平台运营者的过失导致淫秽物品生成，产生法益侵害危险，但其未履行作为义务，应当预见下游犯罪的发生而未能预见，或已经预见但轻信能够避免。

在第一种情况下，生成式人工智能平台运营者可能构成拒不履行信息网络安全管理义务罪。从拒不履行信息网络安全管理义务罪的构成要件来看，平台运营者应当违反信息网络安全管理义务并且拒不履行。因此需要明确的是，平台运营者发现并且阻止淫秽物品的生成与流出的义务，是否是刑法上需要遵守的信息网络安全管理义务。对于平台运营者而言，其基于技术能力而承担的删除、限制等义务，若违反其义务与下游犯罪结果之间存在直接的不法关联性，则在其对集体法益造成侵害的情形下，该义务可被确认为刑法上的义务。涉淫秽物品场景中，淫秽内容的大规模生成与传播侵害的是损害社会一般民众所具有的普遍性道德观念，属于典型的集体法益。因此，笔者认为当淫秽内容由人工智能自行生成并可能危及公共秩序时，平台运营者对算法运行的监督义务便具备了上升为刑法义务的正当性基础。结合本案，平台运营者对人工智能自行生成的淫秽内容负有删除、限制等作为义务，若经监管部门责令采取改正措施而拒不履行，则可能构成拒不履行信息网络安全管理义务罪。

在第二种情形下，生成式人工智能平台运营者因过失生成违法内容物，且对下游犯罪持过失心态时，不应当承担刑事责任。首先，在涉淫秽物品场景中，制作、传播淫秽物品牟利罪仅处罚故意；传播淫秽物品罪虽不要求牟利，但仍要求故意。过失生成淫秽内容的行为，在我国刑法中并无直接对应的过失罪名。因此并不能要求生成式人工智能平台运营者对淫秽物品的制造与传播承担刑事责任。其次，平台运营者也不构成拒不履行信息网络安全管理义务罪。虽然平台运营者因为其过失产生了淫秽物品生成或传播的危险，但正如上所述，刑法中并没有规制过失涉淫秽物品犯罪的条款。平台运营者在此情形下并无需要履行的刑法义务，自然不构成拒不履行信息网络安全管理义务罪，此时仅可能承担民事或行政上的责任。

五、增设人工智能生成式人工智能平台运营者过失犯罪的规制条款

如上述，在现有刑法条款中，生成式人工智能平台运营者因过失生成违法内容物，且对下游犯罪持过失心态时，无需承担刑事责任。但在人工智能时代，生成式人工智能平台运营者在一定程度上承担过失责任方可更好地应对人工智能所带来的风险与挑战。

（一）生成式人工智能平台运营者承担过失责任的正当性

过失的前提是违反注意义务。生成式人工智能平台运营者具备技术能力使其成为能够有效阻断法益侵害风险的主体。正是基于这种控制力，运营者被要求其承担与自身能力相匹配的注意义务。

首先，从权利义务一致的一般法理出发，生成式人工智能平台运营者应当承担注意义务。运营者享有从技术运营中获取商业利益的权利，那么就理应避免由此产生的社会风险。生成式人工智能平台通过向用户收取会员费、广告费或数据服务费等方式获取经济利益，使用者支付的费用本质上是对平台技术服务的对价，既然运营者从技术运行中获益，就应当对技术运行可能产生的法益侵害风险负责。

其次，风险刑法理论为生成式人工智能平台运营者承担义务提供依据。风险刑法理论是指面对现代社会日益复杂的技术风险，刑法应当将防线前移，更加注重事前预防，以提前应对法益侵害结果的发生的一种刑法思想的属性。从风险刑法理论出发，生成式人工智能平台运营者承担注意义务的正当性在于：其一，体现了对现代技术风险的前置性规制。生成式人工智能属于典型的技术风险源，因为算法黑箱的影响，导致其决策过程不透明、输出结果难以预测，风险在实际损害发生之前就已经出现，故应当提前预防人工智能可能发生的危险。其二，符合风险刑法注重风险管控的刑法功能要求。生成式人工智能平台运营者作为风险源的核心控制者，凭借对算法部署、过程监控等过程的支配，能够有效提前阻断法益侵害，因此应当分配以与其控制能力相匹配的风险防范义务。

最后，应当根据信赖原则限缩生成式人工智能平台运营者的注意义务。当行为人按照规则行事时，可以合理信赖他人也会遵守规则，如果他人违反规则导致损害发生，行为人不承担责任。在高度组织化的社会生活中，要求每一个参与者对所有可能的他人违规行为都保持警惕，既不可能也不经济，反而会导致社会运行的瘫痪。因此当生成式人工智能平台运营者遵守行业内具有普遍约束力的规则时，可以相信第三人不会利用人工智能实施违法犯罪活动。这样才能够在合理分配风险的同时保障技术创新的制度空间。

（二）增设人工智能算法设计、管理事故罪

笔者认为，可以增设“人工智能算法设计、管理事故罪”，对生成式人工智能平台运营者进行规制。具体而言：

在保护法益方面，本罪所保护的法益为算法安全。算法作为人工智能的核心，其安全运行关乎不特定多数人的利益。算法失控可能引发淫秽内容泛滥、虚假信息传播、公民个人信息泄露等系统性风险，侵害社会公共秩序与公众信赖。

在客观方面，运营者须违反有关人工智能算法安全管理的规定，未履行与自身技术能力相匹配的注意义务，并造成严重后果。理由在于：第一，刑法作为社会治理的最后手段，只有在行政监管与民事赔偿不足以规制时方可介入。对于未造成严重后果的过失行为，应优先通过行政处罚和民事追责处理，避免刑罚过度扩张。第二，过失犯的责难可能性以法益侵害的现实化为前提，单纯的过失行为本身尚不足以达到值得刑罚处罚的程度；只有当违反注意义务的行为转化为具体法益侵害时，行为人的可谴责性才具备刑事追责的正当基础。第三，生成式人工智能作为新兴技术，其发展过程应当存在试错空间。以造成严重后果为入罪门槛，方能在风险防范与创新激励之间寻求平衡，避免因过度威慑而抑制技术迭代与产业活力。

在犯罪主体方面，本罪的主体为与设计、管理人工智能算法有关的单位和自然人。

在主观方面，行为人对危害结果应持过失心态。

（二）人工智能算法设计、管理事故罪的具体判断过程

1.“新过失论”下过失犯的构造确定

对过失犯的判断应当以其构造为前提。当前过失犯的构造主要有三种学说，即旧过失论、新过失论与新新过失论三种观点。旧过失论以结果预见义务为核心，认为行为人若对危害社会的结果具有预见可能性却未预见，即违反注意义务而成立过失责任。旧过失论将过失责任认定的重点放在结果预见性上，但在现代社会，风险无处不在，如果认为只要有结果预见可能性就成立过失，这显然加重了人工智能发展的负担。新新过失论则是进一步降低了预见可能性的门槛，认为行为人仅需对结果的发生具有抽象的、模糊的不安感即可成立过失责任。但这种主张太过于模糊严苛，实则不利于人工智能的发展。新过失论认为，如果生产者对法益侵害的结果具有具体的预见可能性，且违反了结果回避义务，才构成过失责任。

笔者认为，认定过失责任适用新过失论更能够适应在人工智能时代的特点，理由在于，第一，新过失论能够有效应对算法黑箱带来的预见困难。在生成式人工智能场景下，算法黑箱会导致生产者难以具体预见到危害结果的发生流程，新过失论强调要预见具体可能性，使得在主观方面归责更为严格。第二，新过失论能够通过合理限缩运营者的责任范围，从而有效促进技术的发展。通过援引相关行政法规作为确立结果回避义务的基准，能够有效避免将有技术风险的科技行为直接界定为犯罪。

2.生成式人工智能平台运营者注意义务之展开

生成式人工智能平台运营者的注意义务应当是一个贯穿算法设计、服务运营和事后处置全过程的规范体系。其具体内容需要与技术能力相适配并且结合相关法律法规，以实现层级化的风险防控。具体来说，核心控制型生成式人工智能平台运营者相比于边缘接入型生成式人工智能平台运营者，需要额外的承担研发与设计的义务。这是因为根据信赖原则，边缘接入型运营者可以合理信赖研发者已履行安全编程义务，只要其尽到了与自身技术能力相匹配的审查义务，未发现明显风险迹象，就不应当承担过失责任。

在研发与设计阶段，核心控制型生成式人工智能平台运营者需要承担防控义务。具体而言，运营者应履行安全编程义务，在算法设计时避免架构瑕疵，设置安全的奖励函数以确保模型在预设的道德与法律边界内运行。同时承担数据筛选与合规义务，确保训练数据的合法性、真实性、准确性、客观性与多样性，剔除含有淫秽、暴力、歧视等违法有害内容的数据，从源头上阻断算法学习不良内容的可能。此外，运营者还需依法完成算法备案与安全评估，确保算法机制透明可审核，并在产品投入市场流通前进行多场景、多轮次的模拟测试，只有在极端异常条件下才可能输出违法内容的，方可投入应用。

在投入运营阶段，核心控制型与边缘接入型生成式人工智能平台运营者都需要承担监督义务，从而实现风险的管控。其一，运营者应设置关键词过滤、图像识别、语义分析等技术手段，对用户输入和人工智能输出进行实时审核，拦截违法内容。其二，建立用户监督与管理机制，对频繁输入诱导性指令、大量生成敏感内容的异常用户行为进行监测，并采取警告、限制功能、封禁账号等分级处置措施。其三，在医疗、法律、金融等高风险专业领域，运营者需强化风险提示义务，在交互界面显著位置警示生成内容仅供参考，避免用户因盲目信赖人工智能输出而遭受人身或财产损害。其四，针对未成年人这一脆弱群体，运营者还应履行特殊保护义务，设置年龄验证机制，开启未成年人保护模式，过滤对其身心健康有害的内容。

在事后处置与补救阶段，核心控制型与边缘接入型生成式人工智能平台运营者承担损害阻断义务，应当将已发生的法益侵害控制在最小范围。运营者发现违法内容后，应立即采取停止生成、停止传输、删除内容、下架应用等应急处置措施，防止危害扩大。同时可以建立便捷的投诉举报渠道，对权利人提出的侵权投诉及时受理、核查并反馈。首次危机处置后，运营者还需对算法漏洞进行复盘评估，通过“监管沙盒”等方式检验整改效果，防止同类问题再次发生，这构成后续评估与整改义务。对于造成严重后果的违法事件，运营者还应向监管部门报告并配合调查，履行报告与备案义务。

3.预见可能性的判断标准

预见可能性的判断标准主要存在三种学说：主观说主张以行为人本人的注意能力为标准，即判断具体的行为人在当时情况下能否预见危害结果；客观说主张以社会一般人或行业内一般人的注意能力为标准，即判断处于相同情境下的普通人能否预见；折中说则采取折衷立场，当行为人的注意能力高于一般人时采用一般人标准，低于一般人时采用行为人自身标准。

在生成式人工智能场景下，笔者认为应当采取客观说，首先，主观说以行为人本人的注意能力为准，意味着越是粗心大意、专业能力欠缺者，反而越容易以“我本来就没这个能力”为由主张免责，形成“越无知越免责”的悖论。同时，主观说在司法实践中也存在证明困难的问题，行为人是否“实际能预见”往往难以事后还原，容易沦为行为人单方主张的借口，并且完全采取主观标准会使过失认定失去统一尺度，导致同案不同判。其次，折中说只是貌似合理，实际上又退回到了主观说的立场，并且与主观说一样并没有对预见能力的判断找到一条妥当的标准。最后，采取客观说，并且用“行业内一般人”标准来判断生成式人工智能平台运营者的预见可能性更为合理。这是因为生成式人工智能的技术门槛较高，只有具备专业背景的人员才能准确理解算法风险与审核机制的有效性，若以社会一般人的标准来要求运营者，可能导致注意义务过低或过高，显然不符合责任原则的要求。

六、结语

生成式人工智能平台运营者在涉淫秽物品犯罪中的刑事责任认定，是人工智能时代刑法理论必须回应的现实课题。本文以平台运营者的概念界定与类型区分为逻辑起点，将其与传统网络服务提供者相剥离，依据其对底层算法的控制权限划分为核心控制型与边缘接入型两类，为后续归责分析奠定主体基础。在故意心态下，本文论证了平台运营者修改底层算法、解除安全限制的行为不构成制作、传播淫秽物品牟利罪，因其未直接参与淫秽内容的制作与传播；但行为可能被评价为非法利用信息网络罪，前提是证明其开设平台是为“违法犯罪”。在过失心态下，本文区分了两种情形：当淫秽内容系人工智能自行生成时，平台运营者可能因拒不履行信息网络安全管理义务罪承担刑事责任；当淫秽内容因运营者自身过失生成且对下游犯罪持过失心态时，现行刑法尚无直接对应的过失罪名，形成处罚漏洞。本文从权利义务一致原则、风险刑法理论与信赖原则出发，论证了平台运营者承担过失责任的正当性，并建议增设“人工智能算法设计、管理事故罪”，以算法安全为保护法益，以造成严重后果为入罪门槛。最后，基于新过失论，通过对注意义务的具体内容和预见可能性的判断标准为本罪的判断构建了框架。

参 考 文 献

[1]王诗童,杨利华.生成式人工智能服务提供者版权侵权的分层规制与立体因应[J].编辑之友,2026:86-96.

[2]郑泽星,曾琴文.论生成式人工智能服务运营者的刑事责任[J].时代法学,2025,23:52-62.

[3]张凌寒.生成式人工智能的法律定位与分层治理[J].现代法学,2023,45:126-141.

[4]王志远,彭子健.智能伴侣软件生成淫秽信息行为的刑事责任分析[J].人民检察,2025:13-15.

[5]陈奕屹.论网络直播平台经营者放任平台内色情直播行为的刑事责任——评“LOLO”平台经营者制作、复制、出版、贩卖、传播淫秽物品牟利案[J].法律适用,2019:3-10.

[6]胡波.我国风俗犯罪实行行为的规范重构——基于法益侵害说的展开[J].东北师大学报(哲学社会科学版),2023:156-164.

[7]金鸿浩,张高媛.网络传播淫秽物品犯罪的“四性”审查要点[J].中国检察官,2021:56-60.

[8]孙道萃.人工智能犯罪的知识解构与刑法应对[J].青少年犯罪问题,2023:4-19.

[9]张庆立.情节犯对风险刑法扩张之矫正[J].铁道警察学院学报,2023,33:44-48.

[10]桥爪隆,王昭武.过失犯的构造[J].苏州大学学报(法学版),2016,3:117-131.

监制：张永江

作者：马宇彬，湘潭大学法学学部2024级刑法学硕士研究生

编辑：马宇彬

责编：俞璐

审核：王奎

微信公众号| 湖南省刑事法治研究会

新浪微博| @湖南省刑事法治研究会

今日头条| 湖南省刑事法治研究会