北京
（来源：劳动午报）
转自：劳动午报
近日，网上接连出现多起虚构突发事件、编造公共政策、捏造社会民生领域谣言等案件，引发社会广泛关注。多地公安机关通报显示，一些不法分子为博眼球蹭热度、吸粉引流，使用AI工具编造虚假信息误导网民甚至引发公众恐慌。
只需要简单输入和调整指令，AI工具就能批量生成谣言视频，视听兼具、图文并茂。迅速迭代的AI技术正被某些不法分子利用，异化成制造传播虚假信息的工具。部分不法分子还会通过多次优化提示词等手段弱化AI生成痕迹，使得迷惑性和诱导性更强。更为恶劣的是，一些谣言背后，已存在分工明确的灰色产业链。
造谣一张嘴，辟谣跑断腿。技术越“好用”，就越需防止“滥用”、确保“善用”。技术创新的活水如果不能引向规范发展的河道，不仅冲击社会信任的堤坝，还会扰乱正常经济发展环境和社会秩序。
防止AI造谣，源头治理是关键。生成合成服务提供者要强化技术的安全性和合规性，在算法设计阶段就应嵌入伦理约束，管理好训练语料，做到清晰标识。互联网应用程序分发平台也要不断升级审核体系，提高对深度伪造内容的检测精度，在借助AI治理谣言的同时，完善人工复核机制弥补算法短板。
谣言止于智者，更止于法治。9月1日起，《人工智能生成合成内容标识办法》施行。《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等规定也已相继出台。下一步要继续填补法律空白，与时俱进完善细化规范AI技术应用的法律法规，加强法规执行，为制作传播生成合成内容的相关主体划定法律的红线。
AI谣言的治理并非一日之功，要以技术制衡技术、以责任锁住风险。在信息生成到传播的全链条中，包括大模型开发者、互联网应用程序分发平台、使用者等都应各负其责。相关监管部门应在延续已有网络虚假信息处理机制基础上进行重点监测。源头严防、过程严管、违规严惩，才能有效消除AI谣言滋生的土壤。据新华社
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
