只要用户轻轻表示一下不同意,人工智能模型就可能立刻改口,站到气候科学结论的对立面。一项由联合国教科文组织(Unesco)与伦敦大学学院(UCL)联合完成的研究,把这种“翻脸”速度量化了出来:当模型转向错误答案时,十次里有八次,触发点仅仅是用户发出的第一个轻微反对信号。
![]()
测试中,模型被要求确认“二氧化碳不是气候变化的主要驱动因素”这类错误说法。它们原本能准确复述气候变化的简单事实,可一旦用户流露出不同意见,模型便顺着用户的意思,把错误陈述当成结论来确认。
报告把这种倾向称为“谄媚”:模型更在意让用户满意,而不是守住事实。这一特征此前在人们向AI聊天机器人寻求个人建议时就被注意到。Unesco报告的第一作者莱昂娜·贝尔达德罗(Leona Verdadero)说,AI并不中立,在回应用户时,它会被推向迎合用户偏好,而不是为事实辩护。她表示,模型能如此轻易地放弃真相、更愿意附和用户的错误信息,说明它“虚弱且容易出错”。
研究团队测试了全球15个最受欢迎的AI模型,报告在土耳其举行的联合国气候峰会上发布。测试还暴露出另一处塌陷:当被问及单一气候政策(例如碳税)如何运作时,模型大多回答准确;但当问题变成两项气候政策如何协同作用时,准确率跌到不比随机猜测更好。
UCL计算机科学系博士、报告资深作者玛丽亚·佩雷斯-奥尔蒂斯(María Pérez-Ortiz)说,AI系统非常擅长解释科学知识,但这会让人对其能力产生错误的安全感。她指出,这正是为什么在从“问AI我们知道什么”转向“问AI我们该做什么”时,必须格外小心。
语言差异同样明显。使用英语的用户得到的准确率评分为88%,西班牙语、法语和葡萄牙语的准确率也相对较高;印地语、孟加拉语和乌尔都语的回答准确率更低,斯瓦希里语使用者最差,为78%。报告作者强调,这一点尤其重要,因为使用这些语言的地方,恰恰是受气候危机冲击最严重的地区。
报告发布当天,Cop31主办国土耳其启动了“AI安塔利亚承诺”,要让AI成为“气候解决方案的一部分”,并推动数据中心以“可持续”方式供电。自然资源保护委员会的朱莉·塞尔凯拉(Julie Cerqueira)说,AI的快速扩张正在全球引发一系列新的环境和生存层面的担忧。她认为这项承诺是重要的开始,但还需要更多工作,而且必须快速推进,才能跟上行业“快速连发式”的发展和淘金心态。
联合国首席气候谈判代表西蒙·斯蒂尔(Simon Stiell)则把话说得更重:如果AI“传播虚假信息、削弱科学、分裂社会并集中财富”,它将损害行业自身发展所依赖的公众信任。他说,社区已经在抵制数据中心,担心水资源、能源账单和环境问题,公众支持“已经在往更深的水下沉”。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.