网易首页 > 网易号 > 正文 申请入驻

AI幻觉如何防范和治理?这场圆桌沙龙谈到人防、技防等措施

0
分享至

“人工智能的三驾马车是数据、算力、算法,源头还是数据,现在互联网上的语料五花八门、鱼龙混杂,数据如果本身不干净,再加上算法和机制的问题,就导致AI幻觉产生。” 11月28日,2025中国报业传媒行业人工智能应用大会在沪举办,上海市信息安全测评认证中心总工程师李宏达在圆桌沙龙环节表示。

本场圆桌沙龙的主题是《AI的幻觉、伦理、法理与治理》,围绕AI为什么会产生幻觉、如何防范和治理AI幻觉,与会者谈了自己的看法。

11月28日,2025中国报业传媒行业人工智能应用大会在沪举办,图为圆桌沙龙。 澎湃新闻记者 朱伟辉 摄

澎湃新闻·明查工作室主理人李怡清表示,AI幻觉其实就是AI生成过程中带来的虚假信息或者具有误导性的信息,公众媒介素养的培育、AI素养的培育、对于已经产生误导的信息进行事实核查并将其展示在公众面向,是必不可少的流程。

复旦大学人工智能创新与产业研究院研究员、博士生导师朱思语表示,对于大模型来讲,训练模式是侧重于对大量数据的压缩,数据里面有错误,让训练后的模型产生的结果不一定准确,有些时候甚至会为了讨好人类胡说八道,产生AI幻觉。

如何兼顾安全和隐私保护?与会者提出了人防和技防等措施。

安永大中华区网络安全与隐私保护咨询服务合伙人夏文婷表示,避免AI产生幻觉,好的数据源很重要,可以起到正本清源的作用。传媒行业作为公信力承载者,有动力和义务帮助用户了解什么样的内容可能是AI生成的、AI生成到什么程度,做好这一轮AI素养教育。

上海人工智能研究院首席数字官、技术与创新中心主任林圆圆指出,技术方、内容生产方、平台方、内容消费者这四个角色都有责任和义务保证对应的内容生产和消费是安全的。其中,内容生产者是链条关键的一环,需要保证生产的内容信源完全准确,内容里使用什么样的AI能力、产出了哪部分内容,也需要有对应说明;平台方有责任和义务做好内容核查、抽审;终端消费者也要注意甄辨事实到底是什么样的,而不是人云亦云随大流。

李宏达表示,今年《人工智能生成合成内容标识办法》发布,主要涉及哪些是可以生成、在哪生成、谁生成的,要打显标和隐标。显标就是提醒受众这是AI生成的,隐标打在数据原文件里面,一旦虚假信息传播,便于完成追溯。从监管角度来说,标识生成、传播验证到最后的溯源追责都形成了闭环。上海市信息安全测评认证中心也一直在支持标识检查等相关工作。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
郎平接受鲁豫专访,自曝颈椎、髋关节、膝关节全都换了;现在是钓鱼高手,从不“空军”;盛赞在《夺冠》中演郎平的巩俐“演得非常像”

郎平接受鲁豫专访,自曝颈椎、髋关节、膝关节全都换了;现在是钓鱼高手,从不“空军”;盛赞在《夺冠》中演郎平的巩俐“演得非常像”

极目新闻
2026-11-20 19:43:20
俄乌炸桥冲突再升级,相关谈判设想被放弃,普京预告“更沉重打击”

俄乌炸桥冲突再升级,相关谈判设想被放弃,普京预告“更沉重打击”

环球网资讯
2026-11-21 07:06:38
太夸张!A股罕见一幕!还会有新低?

太夸张!A股罕见一幕!还会有新低?

龙行天下虎
2026-11-21 00:00:26
37岁前归化国脚艾克森社媒晒出多张效力中超时期旧照:中国是我生命中非常特别的一个阶段,我一直珍藏着这些故事

37岁前归化国脚艾克森社媒晒出多张效力中超时期旧照:中国是我生命中非常特别的一个阶段,我一直珍藏着这些故事

极目新闻
2026-11-20 09:35:14
刘德华被问到多个流传多年的传闻,他亲口证实“都是真的”

刘德华被问到多个流传多年的传闻,他亲口证实“都是真的”

韩小娱
2026-11-19 08:49:36
女生雨天等车时被轿车水花从头浇到脚,雨伞都被冲变形……上海一司机被罚150元!

女生雨天等车时被轿车水花从头浇到脚,雨伞都被冲变形……上海一司机被罚150元!

新民晚报
2026-11-20 19:55:27
悲催!20多年倾尽60万培养的211毕业生遭裁员,河南老父亲发帖控诉,引发轩然大波

悲催!20多年倾尽60万培养的211毕业生遭裁员,河南老父亲发帖控诉,引发轩然大波

火山詩话
2026-11-20 09:53:44
1300公里的前线,10公里外的和平:乌克兰父亲最刺骨的战争真相

1300公里的前线,10公里外的和平:乌克兰父亲最刺骨的战争真相

老马拉车莫少装
2026-10-16 17:34:01
白宫发布特朗普访华视频,中国仪仗队再次出圈,特朗普曾多次大赞“叹为观止”

白宫发布特朗普访华视频,中国仪仗队再次出圈,特朗普曾多次大赞“叹为观止”

极目新闻
2026-11-19 09:25:11
汪祥旺退休四年仍被罢免,光谷那把椅子,坐过的人不止他一个!

汪祥旺退休四年仍被罢免,光谷那把椅子,坐过的人不止他一个!

王姐懒人家常菜
2026-11-21 05:52:24
官媒发文,高调官宣47岁沈腾喜讯,全网恭喜,地位又变了!

官媒发文,高调官宣47岁沈腾喜讯,全网恭喜,地位又变了!

叨唠
2026-11-21 04:53:26
定了!天津这所211大学,即将搬迁!

定了!天津这所211大学,即将搬迁!

天津人
2026-11-21 06:11:54
兴奋剂违规!28岁国羽名将遭禁赛3年 曾获全运会冠军 教练被禁1年半

兴奋剂违规!28岁国羽名将遭禁赛3年 曾获全运会冠军 教练被禁1年半

我爱英超
2026-11-20 19:31:46
油价从6块冲到9块再回8块,账单降了,老百姓的心却回不去了

油价从6块冲到9块再回8块,账单降了,老百姓的心却回不去了

沙雕小琳琳
2026-11-21 00:57:39
扫地出门!曼联“标王”或火速转投尤文!2亿镑强援有望空降红魔

扫地出门!曼联“标王”或火速转投尤文!2亿镑强援有望空降红魔

头狼追球
2026-11-20 13:01:14
局势彻底变天了!54年来头一遭,打破美国总统常规,特朗普在深圳究竟看到了什么?引发舆论热议!

局势彻底变天了!54年来头一遭,打破美国总统常规,特朗普在深圳究竟看到了什么?引发舆论热议!

林杰论事
2026-11-20 12:42:26
广东两孩男子晒42岁妻子例假到访消息 全网集体共情

广东两孩男子晒42岁妻子例假到访消息 全网集体共情

奇思妙想生活家
2026-11-21 02:40:38
中国绝不会接受本土遭到攻击后,还陪着你打所谓的 "有限战争"

中国绝不会接受本土遭到攻击后,还陪着你打所谓的 "有限战争"

迷彩人生
2026-11-13 10:25:30
中方:强烈不满,坚决反对!若美方执意妄为,中方将采取反制措施

中方:强烈不满,坚决反对!若美方执意妄为,中方将采取反制措施

经纬戎韬
2026-11-20 00:09:28
现货黄金直线跳水,跌破760元!深圳水贝金店老板直呼“补早了”:870元至880元时补过一批货,没想到跌得更快

现货黄金直线跳水,跌破760元!深圳水贝金店老板直呼“补早了”:870元至880元时补过一批货,没想到跌得更快

封面新闻
2026-11-20 14:10:14
2026-11-21 09:51:00
澎湃新闻 incentive-icons
澎湃新闻
专注时政与思想的新闻平台。
949248文章数 5098963关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

时尚
艺术
亲子
教育
军事航空

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

军事要闻

沙特首都第一高楼遭袭:炮弹从天而降

无障碍浏览 进入关怀版