生成式人工智能舆论风险治理的智库方案

生成式人工智能推动了数字化向数智化的转变，为人类社会创造了巨大的发展机遇，同时也带来了潜在的风险隐患。社交机器人和智能伪造为生成式人工智能影响舆论提供了技术上的可能性。社交机器人通过密集发布主题性强、标签化程度高的消息，在短时间内能实现二级传播甚至N级传播，进而建立话语优势、构建舆论磁场，快速吸引、聚集相同立场用户，最终成长为意见领袖型社交机器人账号。此外，生成式人工智能还可能被某些势力利用，通过伪造音频、视频，构建失真混乱的言语叙事，造就虚假错误的“集体意识”“舆论共识”。智库作为具有专业性和跨领域的研究机构，在咨政建言、理论创新、舆论引导、社会服务、公共外交等方面拥有重要价值，在生成式人工智能舆论风险治理方面具有独特优势。要充分认识生成式人工智能舆论的潜在风险，通过智库加强针对生成式人工智能舆论风险的监管和治理。

就生成式人工智能可能被利用引发舆论风险而言，传统的单一主体治理模式已难以应对这种跨技术领域、跨不同地域的复杂问题，需要建立多元主体协同治理的新范式。智库在多元协同治理平台建设中可以扮演关键角色。一方面，智库凭借其独特的平台优势和学术号召力，能够有效汇聚计算机科学、法学、伦理学、传播学、国际关系学等不同学科背景的专家资源，构建起跨学科、跨领域的高水平智力支持网络。这种跨学科的智力网络能够有效应对复杂技术带来的综合治理挑战，避免单一学科视角的局限性。另一方面，智库作为连接各方的桥梁能够有效打破部门壁垒和行业界限，构建起多元主体参与的协同治理合作伙伴网络。这个网络通常包括政府部门、科研机构、行业协会、企事业单位等多方力量，形成资源互补、信息共享、行动协同的治理共同体。智库通过建立定期对话机制、组织联合调研、开展合作项目等方式，就人工智能引发舆论风险的问题推动各方进行深度交流和务实合作。

通过智库成果专报、专家建议等多元化渠道积极向有关部门建言献策，推动加快出台针对社交机器人、深度伪造等生成式人工智能的政策法规。一是要建立针对生成式人工智能突发舆情事件应急处理的法律保障体系。通过前瞻性立法和制度设计明确各类突发事件舆情处置的主体责任、处置流程和处置权限，确保相关事件发生时能够第一时间启动应急响应机制，依法依规开展处置工作，做到有法可依、有章可循，最大限度防止突发事件对国家安全和社会稳定造成负面影响。二是要构建针对生成式人工智能监管的法律责任体系。要加大对技术滥用行为的法律惩治力度，重点针对技术开发、数据采集、模型训练、应用部署等关键环节，建立健全法律追溯和责任认定机制。要通过立法明确技术开发者和使用者的法律责任，对利用社交机器人、深度伪造等技术从事舆论操纵、网络攻击、虚假信息传播等违法活动的组织和个人进行严厉惩处，从源头上遏制技术滥用风险，切实维护网络空间清朗，为我国高质量发展营造有利的国际舆论环境。

首先，要不断深化对生成式人工智能内容识别系统的研究。要从用户信息、账户属性、活跃时间、消息和评论内容等多项参数构建指标体系，打造基于机器学习、自然语言处理等技术的智能识别系统，确保第一时间精准识别出哪些内容是通过社交机器人、智能伪造等人工智能技术生成的，监测是否存在恶意抨击和舆论操纵，并及时清除恶意账号及其发布的消息和评论。还要制定风险等级分类标准，建立基于内容风险和影响范围的分级分类体系，为差异化治理提供依据。其次，要组织智库专家加快研究如何有效反击、化解、处置舆论攻势。一是要帮助民众深入了解社交机器人运营的虚假账号的特点、舆论操控的惯用手段。智库理应承担起生成式人工智能民众教育的责任，帮助民众熟悉智能技术伪造编织多模态虚假信息、操纵舆论走向的方法路径，让民众提高防范意识、准确甄别并自动过滤某些生成式人工智能发布的别有用心的虚假错误信息，防止被舆论操控，引导民众为营造良好的舆论环境作出贡献。二是要提醒民众保持高度警惕，审慎对待各类自媒体平台传播的信息。目前，利用生成式人工智能制作的网络虚假信息呈现出制作专业化、传播精准化、内容逼真化等新特点，普通民众很难凭肉眼直观辨别，一些自媒体平台是传播这些虚假信息的“重灾区”。要着力提升全民数字素养与风险防范意识，重点防范一些自媒体平台发出的未经证实的消息。三是建立效果评估与持续改进机制。要从多个维度评估教育效果，并建立反馈循环机制，收集参与者对教育活动的评价和建议，及时调整教育策略。另外，还要选择一定比例参与者进行定期追踪，观察他们在媒介素养和风险防范意识方面的变化，持续改进教育内容和方法。

一方面，智库应当着力打造一支“舆情队”，做好舆情的监测分析、风险研判、应急处置等工作。这支队伍以社交机器人的消息和评论、智能伪造制作的视频和音频为语料来源，不断加强舆情监测，收集整理相关舆情信息，分析研究舆情发展趋势，做好风险研判，构建应急处置机制。要深刻把握社交机器人消息和评论、深度伪造制作的视频和音频的话语特征，用好话语分析这把利器，加强话语分析，特别是污名化妖魔化涉华言论的话语分析，努力揭示生成式人工智能影响舆论的话语逻辑，以此更精准有效地寻找破解之道。另一方面，应当有意识地建设一支“宣传队”，讲好中国故事、粉碎不实谣言、营造良好外部环境。要引导智库积极参与“构建更有效力的国际传播话语体系”使命任务，努力破解“有理说不清、说了传不开、传了对方不想听听不懂”等不利局面，主动向世界讲好中国故事、传播好中国声音，彻底粉碎利用生成式人工智能发布别有用心的不实言论和污名化音视频作品带来的负面效应，营造有利于中国发展的国际舆论环境。

作者系长沙学院外国语学院副教授

来源：中国社会科学报

责任编辑：闫勇

新媒体编辑：宗敏

如需交流可联系我们