上海
今年3月5日一早，上海市公安局网安总队民警在巡查时，发现一条流量可观、吸引眼球的信息：华山医院前院长张明远因阑尾炎未得到及时救治，客死他乡医院走廊长……最终调查显示，这是一条由AI生成的谣言信息，背后推手王某某等人通过自媒体账号进行发布，目的是吸引流量，牟取利益。
“便利的AI工具大大降低了造谣的成本，提升了谣言的数量级和传播力。追逐流量、获取利益的处罚，让这一现象更加多发。”尽管拥有丰富的谣言阻击经验，市公安局网安总队三队队长符斌坦言，这场战役正面临全新的挑战。
“AI造谣”带来了哪些影响？如何阻击？
“AI造谣”目的是流量牟利
近年来，AI造谣在全国多地频发，传播快、门槛低、迷惑性强的特征日益显现。
比如，前年发生在上海的女童走失事件中，一团伙以“标题党”“震惊体”方式，恶意编造炒作“女孩父亲系继父”“女孩被带往温州”等系列谣言。经查，该团伙利用AI工具等生成谣言内容，通过114个账号矩阵，在6天内发布268篇文章，多篇文章点击量超过100万次。
如今，不断升级的AI工具，让谣言产生的数量级和传播力几何级增长。“AI的介入，使得信息的生成和传播速度大大加快，同时也增加了判断信息真实性、准确性的难度。”结合“华山医院前院长客死异国”这一谣言的查处情况，符斌表示，当下，AI谣言已经能够定制化生成、精准化传播和智能化扩散。
跟王某某等人的出发点一样，近来发生的多起AI谣言，造谣者的动机是为了发布帖文、博取流量，以获取互联网内容平台给予创作者的点击量、阅读量奖励。
此外，也有一些人通过AI造谣来“养号”，为直播和卖货引流。上海公安机关曾发现，在一家电商平台上出现了某艺人“命运多舛、含恨离世”等短视频，引发大量点赞和转发。经查，该视频内容完全系伪造。视频发布者到案后交代，他在某电商平台上经营一家土特产网店。由于销量不佳，他便通过编造夺人眼球的虚假新闻给网店账号吸引流量。他不会视频剪辑，便利用AI技术生成文本和视频。
多管齐下，强化平台治理
应对“AI造谣”乱象，除了强化打击和处罚力度外，强有力的制度规制和综合治理同样重要。
今年3月，《生成式人工智能服务管理暂行办法》发布，明确“生成式AI服务不得生成法律禁止的内容”，包括虚假信息等；若企业未履行内容审核义务，导致谣言传播，将面临最高500万元罚款，直接责任人处10万元以下罚款。
而在去年4月发布的《关于开展“清朗·整治‘自媒体’无底线博流量”专项行动的通知》，已要求加强信息来源标注展示；使用AI等技术生成信息的，必须明确标注系技术生成；发布含有虚构、演绎等内容的，必须明确加注虚构标签。
在监管层面，对网络谣言的发现和查处手段也在升级优化，以适应AI造谣的新挑战。上海公安部门不断强化“人工+技术”手段，加强与互联网内容平台的联动共治，并利用大数据和应用模型，全量清理造谣传谣信息，分级惩治涉谣账号，严厉打击“造热点”“带节奏”的网络水军。今年以来，已破获网络水军案件15起，抓获38名违法犯罪嫌疑人。
而作为各类互联网信息的集散地，相关内容平台和AI内容生成平台都亟需落实主体责任，阻断AI造谣背后的利益链条。“AI内容生成平台要进一步完善对生成内容和内容来源的标识机制，例如附加不可删除的数字水印和文本说明。互联网内容平台可接入AI内容生成平台的大模型系统，实时进行数据识别比对。”一名互联网安全管理人士说。
据符斌介绍，通过警企联动机制，部分在沪互联网内容平台企业，已加强对AI造谣行为的智能识别机制研究，并进一步优化涉及AI内容的流量分发和收益分成机制，压缩别有用心者批量生产谣言的牟利空间。
原标题：《AI造谣意在“流量牟利”，如何阻击？》
栏目主编：王海燕 题图来源：上观题图 图片编辑：雍凯
来源：作者：解放日报 邬林桦
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
