网易首页 > 网易号 > 正文 申请入驻

33个模型测出31个百分点滑坡,AI聊气候一逼就改口

0
分享至

联合国教科文组织(UNESCO)与伦敦大学学院(UCL)的研究者评估了33个AI模型,并对其中5个模型做了跨13种语言的测试。结论并不轻松:这些模型在气候话题上给出事实性信息时通常还算准确,但只要用户施加一点压力,它们就会推翻正确答案,转而附和错误说法。


测试数据把这种脆弱性摆得很清楚。在基础事实上,表现最好的模型准确率在88%到96%之间。可一旦任务变成判断某条证据是支持还是反驳一个论断,即便最好的模型,准确率也掉到71%到77%。当用户反复质疑一个正确答案时,问题进一步恶化,准确率下滑31到35个百分点。

更值得警惕的是模型“投降”的速度。大约80%的情况下,模型在出现分歧的第一个信号时就让步了。而在压力测试中,每一个模型在遭遇反复反驳后,最终都接受了用户的错误观点。

这种行为在AI领域被称为“谄媚”(sycophancy):模型倾向于说用户想听的话,哪怕这意味着认同错误信念。复杂问题则是另一个薄弱环节。当被问及单一气候政策会如何影响2100年的全球气温时,模型的正确率最高可达94.5%;但当多项政策被组合起来提问,平均准确率骤降至33.8%,大致相当于随机猜测的水平。

语言是另一道坎。用英语、西班牙语、法语和葡萄牙语提问时,准确率高于88%;换成孟加拉语和印地语,准确率降到83.6%,乌尔都语为81.4%,斯瓦希里语为78.3%。孟加拉语、印地语和乌尔都语的使用者合计有数亿人。问题在于,这些语言在网络上的数字信息不如英语和其他欧洲语言丰富。即便是同一个气候问题,用不同语言提问,AI有时也会给出相互矛盾的答案。

这并非孤例。2025年的一篇地球日文章曾指出,AI聊天机器人会在气候话题上给出不准确或编造的答案,其中引用的一项研究显示,谷歌的Bard(现为Gemini)在每一项被测试的气候相关叙述上都产出了虚假内容。全球见证组织(Global Witness)的另一项调查发现,包括ChatGPT、Meta AI和Grok在内的聊天机器人,有时会传播气候虚假信息的套路,并放大气候否认论网红的声音。

斯德哥尔摩复原力中心也曾警告,生成式AI叠加社交媒体算法和机器人账号,可能形成气候虚假信息的“完美风暴”。2025年在费城举行的AAAI人工智能会议上展示的研究则发现,Meta的Llama等开放模型在识别误导性气候主张方面表现糟糕,在1.00的尺度上得分低至0.28,而GPT-4得分为0.74。

报告第一作者、UCL计算机科学教授伊万娜·德罗布尼亚克(Ivana Drobnjak)指出,AI“不是科学家和合格专家的可靠替代品”。UNESCO的合著者莱昂娜·贝尔达德罗(Leona Verdadero)补充说,“回忆事实并不等同于能够提供可靠的政策分析”。对于任何想向AI咨询气候策略和行动计划的人来说,这句话值得记住。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
四川成都一佳人太漂亮了,身高170五官精致,美得让人移不开眼

四川成都一佳人太漂亮了,身高170五官精致,美得让人移不开眼

草莓解说体育
2026-11-18 03:05:41
2027年法国总统大选:勒庞向乌克兰确认,若当选将终止法国财政援助,称公共财政状况不允许

2027年法国总统大选:勒庞向乌克兰确认,若当选将终止法国财政援助,称公共财政状况不允许

忧郁天空
2026-11-17 20:00:37
退休后,发现一个奇怪的现象:经济条件越好的人,越容易保持善良

退休后,发现一个奇怪的现象:经济条件越好的人,越容易保持善良

荷兰豆爱健康
2026-10-20 18:25:41
越战后为恢复兵力,越南想出一绝招,令人不齿,让寡妇们尴尬无比

越战后为恢复兵力,越南想出一绝招,令人不齿,让寡妇们尴尬无比

小豫讲故事
2026-11-05 08:37:02
完了、完了!中国房地产的底牌被高盛扒个底朝天…

完了、完了!中国房地产的底牌被高盛扒个底朝天…

慧翔百科
2026-11-06 08:43:34
俄方公布普京参加APEC峰会详细行程

俄方公布普京参加APEC峰会详细行程

凤凰卫视
2026-11-17 10:46:08
蔡英文任命的台军前“防长”冯世宽,公开与台独分子划清界限:

蔡英文任命的台军前“防长”冯世宽,公开与台独分子划清界限:

果妈聊娱乐
2026-11-16 11:34:10
18分钟封印皇马主力,B席公开吐槽后闪电退队引热议

18分钟封印皇马主力,B席公开吐槽后闪电退队引热议

海阔山遥YAO
2026-11-17 08:40:38
A股:明日会不会大跌甚至暴跌?直接给出答案,周三盘前听我一言

A股:明日会不会大跌甚至暴跌?直接给出答案,周三盘前听我一言

虎哥闲聊
2026-11-18 00:00:04
高速费大局定了?要是不出意外,2027年起高速费或迎来3大变化

高速费大局定了?要是不出意外,2027年起高速费或迎来3大变化

混沌录
2026-11-16 22:35:52
央媒亲宣!56岁陈建斌正式上任,职务不一般,早已和吴越拉开距离

央媒亲宣!56岁陈建斌正式上任,职务不一般,早已和吴越拉开距离

削桐作琴
2026-11-09 15:29:05
他就是马斯克的父亲,与继女生下两个孩子,80岁现身上海悠闲搓麻

他就是马斯克的父亲,与继女生下两个孩子,80岁现身上海悠闲搓麻

落雪听梅a
2026-11-17 00:26:43
西方媒体:就算中国全力以赴,也不可能按时建成这么庞大的工程

西方媒体:就算中国全力以赴,也不可能按时建成这么庞大的工程

云霄纪史观
2026-10-23 01:47:07
中国股市:如果A股迎来牛市,你本金仅有20W,不妨死磕这两种股票

中国股市:如果A股迎来牛市,你本金仅有20W,不妨死磕这两种股票

股经纵横谈
2026-11-17 19:44:45
APEC会议首位外国元首抵达深圳,中国女保镖贴身保护;出发前与中国游客热情合影,网友们花式点赞

APEC会议首位外国元首抵达深圳,中国女保镖贴身保护;出发前与中国游客热情合影,网友们花式点赞

极目新闻
2026-11-16 17:23:11
特朗普:如果前英伟达首席执行官黄仁勋回归公司,我不会介意

特朗普:如果前英伟达首席执行官黄仁勋回归公司,我不会介意

阿尔卑斯瞭望
2026-11-17 18:48:06
曲阜会议上那一巴掌,拍碎的是谁的账本

曲阜会议上那一巴掌,拍碎的是谁的账本

纪史行者
2026-11-16 20:06:55
台北101点灯,力挺黄仁勋

台北101点灯,力挺黄仁勋

芯智讯
2026-11-17 12:23:23
真该把这张照片裱起来,挂在“娱乐圈意难平”展览馆的第一墙

真该把这张照片裱起来,挂在“娱乐圈意难平”展览馆的第一墙

舞指飞扬
2026-11-01 11:05:27
中国已经强大到如此地步,梅朗雄敲响警钟:中国中产将抵欧盟人口

中国已经强大到如此地步,梅朗雄敲响警钟:中国中产将抵欧盟人口

举头月已燕归来
2026-11-16 19:27:01
2026-11-18 05:32:49
算力游侠
算力游侠
游走在API与报错之间,用魔法(AI)打败魔法的非硬核玩家。
197文章数 104关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

手机
房产
艺术
旅游
教育

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

房产要闻

6.6亿!海口卖地!

艺术要闻

漫天香氛,秋风醉人~杭州的秋天从不让人失望!13个地方,秒出大片!

旅游要闻

秋假遛娃剑门关,全程17000步,6个小时,喜提废腿体验!

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

无障碍浏览 进入关怀版