“AI写的，别找我” 用户用AI造谣“白海豚”，平台无需担责吗？

“AI写的，别找我” 用户用AI造谣“白海豚”，平台无需担责吗？

融媒杂志

8月10日，公安部网安局公布的编造传播涉汛等涉灾网络谣言典型案例中，广东一网民，使用AI工具生成多篇涉汛情停课、停业、停工的虚假通知，误导网民讨论关注，影响防汛工作正常开展。

图片来源：公安部网安局微信公众号

近年来，AI的应用降低了内容生产的门槛，谣言的传播似乎变得更加容易了？当AI智能体生成并传播了谣言，平台是否该为此担责？

对此，中新社“庖丁解news”采访了复旦大学新闻学院教授张志安和中国社科院法学研究所民法研究室副研究员萧鑫，尝试从技术与法治的双重维度探讨这一话题。

AI谣言，新在哪儿？变在哪儿？

张志安指出，灾害类谣言并非AI时代独有。面对灾难事件，大众普遍都秉持着宁可信其有、不可信其无的心态，极易采信风险类不实信息。这也是涉灾谣言长久存在的底层原因，有无AI都无法根除。

到了AI时代，谣言传播的心理基础没变，生产逻辑却变了。

不同于过去人工修图、剪辑造假，AI把谣言的制造门槛大幅压低，可批量产出多模态虚假内容。根据公安机关网安部门对于近期编造传播涉汛等涉灾网络谣言典型案例的通报，目前的形式包括但不限于伪造政务公告截图、社交媒体帖子、短视频、灾情海报等，细节逼真，普通受众难分真假。

另一方面，张志安表示，面对AI时代批量造谣、仿真度高的特点，网络快速辟谣的机制也在同步进化。“所有信息都在大众的管控和监测之下，若发现有AI生成的谣言，大家都会跟帖反驳。”这种实时互动的新闻传播模式，让很多谣言没来得及传开便不攻自破。

此外，中央网信办也牵头建立了中国互联网联合辟谣平台，一旦涉灾谣言露头，会第一时间推送权威辟谣稿件，各地政务新媒体、主流媒体同步转发跟进，集中发布真实灾情、避险指引等官方信息，用权威、准确的公开内容对冲 AI 虚假画面带来的误导与恐慌。

AI不是人，但“监护人”跑不掉

AI不是人，无法为谣言的传播承担实际的责任。但它的“监护人”——AI使用者、平台、智能体开发者，各有各的责任边界。

萧鑫表示，关于AI涉灾谣言，可划分三类法定责任主体：

第一类是用户，即提出生成指令并实际传播的网民，这是第一责任人。AI 在法律中的定位更接近工具，从工具使用的角度来看，是否使用AI生成，不影响对用户本人行为的定性。判断的核心是行为人是否实施了编造、传播虚假信息的行为，以及其主观状态如何。

第二类是生成式AI服务提供者，承担有条件的责任。依据《生成式人工智能服务管理暂行办法》第9条，提供生成式AI服务的主体承担网络信息内容生产者责任，应当履行训练数据管理、内容标识、违法内容处置等义务。如果服务提供者未尽到法定义务，其提供的服务被用于生成违法内容，就可能承担相应的法律责任。

第三类是网络传播平台，负有内容管理和处置义务。萧鑫表示，现行多部法律都已对平台的责任作出了规定。

其一，网络安全法第49条规定的基础管理义务。网络运营者对用户发布的信息负有管理义务，发现法律、行政法规禁止发布或者传输的信息，应当立即停止传输该信息，采取消除等处置措施，防止信息扩散，保存有关记录，并向有关主管部门报告。

其二，《网络信息内容生态治理规定》明确平台对网络信息内容管理负有主体责任，应当建立内容审核、巡查、处置机制。

其三，针对AI生成内容的特别标识义务。《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》均要求，平台应当提示用户对AI生成合成内容进行显著标识，对可能造成公众混淆或者误认的内容，应当采取强制标识等措施。

不仅要管好AI的“嘴”，

也要擦亮人的“眼”

当然，AI类谣言治理不能只靠法律法规，而是要多主体协同。

张志安表示，应对AI谣言，除了官方搭建更加高效的辟谣体系，依托全国联合辟谣平台，第一时间发布真实灾情、避险通知外，AI智能体开发者也应落实好自己的义务。

一是优化训练语料库，扩充政务账号、主流媒体等权威信源素材，降低自媒体不实信息权重，减少 AI 生成误导性公共灾害信息的概率；

二是锚定权威内容出口，AI 生成公共气象、灾情、停课避险等民生信息时，优先推送官方发布渠道链接，减少低可信度自媒体内容跳转；

三是人工校准公共信息生成逻辑，针对台风、洪水这类高风险公共议题，专门约束误导性内容输出。

此外，公众也应提升AI媒介素养，破除“有图有真相、视频即事实”固有认知，对AI生成内容保持天然怀疑，学会甄别信息；也可以借助AI工具反向鉴别可疑内容，向大模型提问求证该条灾情消息是否具备权威信源佐证，依靠AI工具识别AI伪造内容。

萧鑫也提醒普通网民，“很多人误以为造谣的是别人，我只是转发就没有责任，这是重大误解。转发传播不实灾情信息同样会承担法律责任。”险情、灾情类谣言是所有谣言类型中刑事责任风险最高的类别之一。在汛期、灾害期间发布、传播此类内容，务必慎之又慎。确需使用或者转发AI生成内容时，应当完整保留AI生成的标识，不作任何真实性暗示。发现疑似涉灾谣言，应当通过官方渠道及时核实或者向平台及时举报。

来源：庖丁解news

编辑：潘茜、白浩辰（见习）

【声明：本号为宣传传媒领域融合创新的理论与实践平台，属官方公益账号，转载此文是出于传递更多信息之目的。若有来源标注错误或其它不妥之处，请联系我们。我们将及时更正。谢谢】