联合国教科文组织(UNESCO)与伦敦大学学院(UCL)的研究者评估了33个AI模型,并对其中5个模型做了跨13种语言的测试。结论并不轻松:这些模型在气候话题上给出事实性信息时通常还算准确,但只要用户施加一点压力,它们就会推翻正确答案,转而附和错误说法。
![]()
测试数据把这种脆弱性摆得很清楚。在基础事实上,表现最好的模型准确率在88%到96%之间。可一旦任务变成判断某条证据是支持还是反驳一个论断,即便最好的模型,准确率也掉到71%到77%。当用户反复质疑一个正确答案时,问题进一步恶化,准确率下滑31到35个百分点。
更值得警惕的是模型“投降”的速度。大约80%的情况下,模型在出现分歧的第一个信号时就让步了。而在压力测试中,每一个模型在遭遇反复反驳后,最终都接受了用户的错误观点。
这种行为在AI领域被称为“谄媚”(sycophancy):模型倾向于说用户想听的话,哪怕这意味着认同错误信念。复杂问题则是另一个薄弱环节。当被问及单一气候政策会如何影响2100年的全球气温时,模型的正确率最高可达94.5%;但当多项政策被组合起来提问,平均准确率骤降至33.8%,大致相当于随机猜测的水平。
语言是另一道坎。用英语、西班牙语、法语和葡萄牙语提问时,准确率高于88%;换成孟加拉语和印地语,准确率降到83.6%,乌尔都语为81.4%,斯瓦希里语为78.3%。孟加拉语、印地语和乌尔都语的使用者合计有数亿人。问题在于,这些语言在网络上的数字信息不如英语和其他欧洲语言丰富。即便是同一个气候问题,用不同语言提问,AI有时也会给出相互矛盾的答案。
这并非孤例。2025年的一篇地球日文章曾指出,AI聊天机器人会在气候话题上给出不准确或编造的答案,其中引用的一项研究显示,谷歌的Bard(现为Gemini)在每一项被测试的气候相关叙述上都产出了虚假内容。全球见证组织(Global Witness)的另一项调查发现,包括ChatGPT、Meta AI和Grok在内的聊天机器人,有时会传播气候虚假信息的套路,并放大气候否认论网红的声音。
斯德哥尔摩复原力中心也曾警告,生成式AI叠加社交媒体算法和机器人账号,可能形成气候虚假信息的“完美风暴”。2025年在费城举行的AAAI人工智能会议上展示的研究则发现,Meta的Llama等开放模型在识别误导性气候主张方面表现糟糕,在1.00的尺度上得分低至0.28,而GPT-4得分为0.74。
报告第一作者、UCL计算机科学教授伊万娜·德罗布尼亚克(Ivana Drobnjak)指出,AI“不是科学家和合格专家的可靠替代品”。UNESCO的合著者莱昂娜·贝尔达德罗(Leona Verdadero)补充说,“回忆事实并不等同于能够提供可靠的政策分析”。对于任何想向AI咨询气候策略和行动计划的人来说,这句话值得记住。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.