网易首页 > 网易号 > 正文 申请入驻

AI幻觉如何防范和治理?这场圆桌沙龙谈到人防、技防等措施

0
分享至

“人工智能的三驾马车是数据、算力、算法,源头还是数据,现在互联网上的语料五花八门、鱼龙混杂,数据如果本身不干净,再加上算法和机制的问题,就导致AI幻觉产生。” 11月28日,2025中国报业传媒行业人工智能应用大会在沪举办,上海市信息安全测评认证中心总工程师李宏达在圆桌沙龙环节表示。

本场圆桌沙龙的主题是《AI的幻觉、伦理、法理与治理》,围绕AI为什么会产生幻觉、如何防范和治理AI幻觉,与会者谈了自己的看法。

11月28日,2025中国报业传媒行业人工智能应用大会在沪举办,图为圆桌沙龙。 澎湃新闻记者 朱伟辉 摄

澎湃新闻·明查工作室主理人李怡清表示,AI幻觉其实就是AI生成过程中带来的虚假信息或者具有误导性的信息,公众媒介素养的培育、AI素养的培育、对于已经产生误导的信息进行事实核查并将其展示在公众面向,是必不可少的流程。

复旦大学人工智能创新与产业研究院研究员、博士生导师朱思语表示,对于大模型来讲,训练模式是侧重于对大量数据的压缩,数据里面有错误,让训练后的模型产生的结果不一定准确,有些时候甚至会为了讨好人类胡说八道,产生AI幻觉。

如何兼顾安全和隐私保护?与会者提出了人防和技防等措施。

安永大中华区网络安全与隐私保护咨询服务合伙人夏文婷表示,避免AI产生幻觉,好的数据源很重要,可以起到正本清源的作用。传媒行业作为公信力承载者,有动力和义务帮助用户了解什么样的内容可能是AI生成的、AI生成到什么程度,做好这一轮AI素养教育。

上海人工智能研究院首席数字官、技术与创新中心主任林圆圆指出,技术方、内容生产方、平台方、内容消费者这四个角色都有责任和义务保证对应的内容生产和消费是安全的。其中,内容生产者是链条关键的一环,需要保证生产的内容信源完全准确,内容里使用什么样的AI能力、产出了哪部分内容,也需要有对应说明;平台方有责任和义务做好内容核查、抽审;终端消费者也要注意甄辨事实到底是什么样的,而不是人云亦云随大流。

李宏达表示,今年《人工智能生成合成内容标识办法》发布,主要涉及哪些是可以生成、在哪生成、谁生成的,要打显标和隐标。显标就是提醒受众这是AI生成的,隐标打在数据原文件里面,一旦虚假信息传播,便于完成追溯。从监管角度来说,标识生成、传播验证到最后的溯源追责都形成了闭环。上海市信息安全测评认证中心也一直在支持标识检查等相关工作。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
状态差与皇马和穆帅无关,维尼修斯分析自己状态低迷的原因:我非梅西C罗

状态差与皇马和穆帅无关,维尼修斯分析自己状态低迷的原因:我非梅西C罗

福酱的小时光
2026-11-17 06:37:45
1999年孔令华意外离世,李敏得知消息后大哭,女儿感叹:妈妈没过一天好日子

1999年孔令华意外离世,李敏得知消息后大哭,女儿感叹:妈妈没过一天好日子

唠叨说历史
2026-11-17 12:10:20
赵一鸣神话碎了:万店狂奔后,一场加盟商的集体出逃

赵一鸣神话碎了:万店狂奔后,一场加盟商的集体出逃

牛锅巴小钒
2026-11-17 02:38:22
真实阿诗玛杨丽坤原貌曝光 褪去胶片滤镜 真人颜值更惊艳世人

真实阿诗玛杨丽坤原貌曝光 褪去胶片滤镜 真人颜值更惊艳世人

阿废冷眼观察所
2026-11-17 03:54:40
国足最强队长上位,号召力不输当年郑智,赛前动员情绪拉满最激励人心

国足最强队长上位,号召力不输当年郑智,赛前动员情绪拉满最激励人心

零度眼看球
2026-11-17 08:44:53
被处分、被解约,她辞职跑马拉松!35岁张水华今年收入曝光,彻底颠覆我对马拉松跑者创收的认知!估计和你想的不一样

被处分、被解约,她辞职跑马拉松!35岁张水华今年收入曝光,彻底颠覆我对马拉松跑者创收的认知!估计和你想的不一样

锐评利物浦
2026-10-18 13:14:55
网友热评阿卡首秀:降维打击男网;网坛爆甜事卡林斯卡娅官宣订婚

网友热评阿卡首秀:降维打击男网;网坛爆甜事卡林斯卡娅官宣订婚

网球之家
2026-11-17 11:09:37
一天阵亡超2000!若按这速度,乌军打光俄军要多久,俄军打乌军呢

一天阵亡超2000!若按这速度,乌军打光俄军要多久,俄军打乌军呢

通鉴史智
2026-11-17 11:36:53
《多喜一家人》口碑爆棚,本是冲着蒋欣来的,却被46岁男配吸引

《多喜一家人》口碑爆棚,本是冲着蒋欣来的,却被46岁男配吸引

天玑影视说
2026-11-17 09:32:41
龙赛罗怒批若热-热苏斯:他最好闭嘴,永远不要再提C罗

龙赛罗怒批若热-热苏斯:他最好闭嘴,永远不要再提C罗

懂球帝
2026-11-17 02:40:07
宋庆龄一辈子没有生养,1981年法医对她的遗体进行解剖检查,这才揭开了她心底最痛苦的隐情

宋庆龄一辈子没有生养,1981年法医对她的遗体进行解剖检查,这才揭开了她心底最痛苦的隐情

扶苏聊历史
2026-11-12 18:31:31
男子送女生上学途中欲强行发生关系,女生求饶后他停了手,最终判7个月,轻了还是依法从宽?

男子送女生上学途中欲强行发生关系,女生求饶后他停了手,最终判7个月,轻了还是依法从宽?

一丝不苟的法律人
2026-11-10 14:25:22
中方如何评价特朗普称“可能会与金正恩在中国会面”言论?外交部回应

中方如何评价特朗普称“可能会与金正恩在中国会面”言论?外交部回应

澎湃新闻
2026-11-17 15:26:40
男子将24岁女孩撞成高位截瘫,得知要赔200万,灵机一动将名下2套房过户给女儿,女孩去要钱,男子:要钱没有,要命一条!

男子将24岁女孩撞成高位截瘫,得知要赔200万,灵机一动将名下2套房过户给女儿,女孩去要钱,男子:要钱没有,要命一条!

大爱三湘
2026-04-28 19:39:24
已探明石油储量超过250亿吨,中国未来石油的希望,或许在于南海

已探明石油储量超过250亿吨,中国未来石油的希望,或许在于南海

兴趣知识
2026-11-17 04:12:55
新势力年度目标进度:小米、小鹏、零跑等都到哪了?

新势力年度目标进度:小米、小鹏、零跑等都到哪了?

科技锋说
2026-11-17 07:35:36
统一台湾的条件已经成熟了,万事俱备,只欠东风!

统一台湾的条件已经成熟了,万事俱备,只欠东风!

叶老四
2026-11-14 20:59:09
英国公布的圆明园被毁前照片,美如仙境,引发世界关注

英国公布的圆明园被毁前照片,美如仙境,引发世界关注

贱议你读史
2026-05-23 15:23:34
俄乌大结局终于要来?最大罪人已浮现,不是美国

俄乌大结局终于要来?最大罪人已浮现,不是美国

古史青云啊
2026-08-25 09:34:41
今年的退休金还涨不涨?我打了12333问过,实际情况原来是这样

今年的退休金还涨不涨?我打了12333问过,实际情况原来是这样

笑熬浆糊111
2026-10-28 06:00:28
2026-11-17 16:16:49
澎湃新闻 incentive-icons
澎湃新闻
专注时政与思想的新闻平台。
948163文章数 5098793关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

旅游
本地
房产
家居
公开课

旅游要闻

秋假遛娃剑门关,全程17000步,6个小时,喜提废腿体验!

本地新闻

乌兰察布:以前种土豆,现在种Token

房产要闻

6.6亿!海口卖地!

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版