北京
你可能以为，用人工智能审论文就像请了一位铁面无私的机器人法官——不讲人情、只看数据，比人类靠谱得多。但最近有一群计算机科学家发现，事情刚好相反：这些AI审稿工具非但不能明察秋毫，反而很容易被几招“花拳绣腿”骗过去，稀里糊涂给烂论文打高分。
这个发现来自斯坦福大学的计算机科学家约阿希姆·鲍曼和他的同事们。他们观察到，学术圈近十年始终被一个难题困扰：新论文涌现得太快，靠人力根本审不过来。有些研究者干脆搬来AI工具替自己“分忧”，过去花几天甚至几周才能读完的稿子，现在几分钟就能搞定。问题是，这种便利背后藏着个很扎心的软肋——论文作者完全可以耍些小手段，让AI审稿工具误以为他们的研究很厉害，给出虚高的分数和“建议发表”的评语。更让人哭笑不得的是，AI生成的审稿意见常常像一个模子刻出来的，缺少人类评审时那种微妙的差异和多元视角。
鲍曼的团队并没有凭空感叹，而是实实在在地分析了一批来自ICLR 2026（国际学习表征会议）的论文评审意见。他们对比了AI写的评语和人类写的评语，从语义和语言模式里看到了一个单调的AI世界：用词雷同、角度重复，就像同一台机器把差不多的话翻来覆去地说。这恰恰点中了同行评审最在乎的那根筋——学术判断本来就带有主观性，一篇论文到底够不够新颖、某个缺陷值不值得一票否决，不同的人往往看法不同。正因为如此，评审意见的多样性才珍贵。鲍曼解释说：“当我们用AI自动处理这些事时，很自然地也希望有一系列不同的观点被表达出来。可现实不是这样。”
AI审稿的脆弱性不只这一个。鲍曼团队还会在今年7月8日于韩国首尔举行的国际机器学习大会上详细介绍另一个发现：只要研究者刻意调整论文里的某些表述，就能轻易操纵AI评审工具，让它在不知情下给高分，哪怕文章本身并没有那么结实。这相当于在学术把关的门口放了一个容易被糊弄的门卫，而想做手脚的人只要摸清门卫的喜好就够了。不过需要强调的是，这些结论来自他们最新的实验和评估，并非说所有AI审稿都一定会出错，而是发现了这种被愚弄的可能性确实存在，而且相当容易实现。
除了性能上的软肋，AI审稿还带来一个更深层的麻烦：责任变成一团模糊的影子。芝加哥西北大学费恩伯格医学院的生物伦理学家穆罕默德·侯赛尼虽然没有直接参与这两项研究，但他的一句话很值得琢磨：“AI工具天生就是不透明的，它把责任和义务稀释掉了。在一个很长时间以来都在努力变得更透明的系统里，引入一个不透明的参与者，是一种倒退，而且可能带来难以预见的后果。”换句话说，过去我们能找到某个具体审稿人，问他为什么给出这个意见，而现在如果AI写的意见出了问题，到底是训练AI的人要负责，还是用它的人来背锅？这条边界正在消失。
AI在学术圈里渗透得比多数人想象的还快。根据去年11月Pangram公司的一个案例研究，向ICLR 2026提交的近2万篇论文里，大约每五篇就有一篇是完完全全由AI生成的。去年12月一项覆盖111个国家、1600名科学家的调查也显示，超过一半的人已经用AI工具来辅助审稿，比如总结研究内容、评判论点强度。这组数字放在一起，意味着AI不仅参与审稿，甚至也开始以“作者”的身份登场。如果用来评分的一方容易被愚弄，而写稿的一方又大量使用AI，学术交流的闭环就可能陷入一种令人生疑的自说自话。
鲍曼并没有因此全盘否定自动化的价值。他清楚地看到，面对海量投稿，人类确实需要一些辅助方案，自动化工具可以分担一部分机械劳动。只是他反复强调，在这些工具真正进入同行评审流程之前，我们必须做足够彻底的实验和评估，否则AI工具很可能在无意识中固化它本来就携带的那些偏见，并缩减对新兴科学提出不同意见的机会。
这些讨论的底色最终回到一个古老的问题上：我们到底期望评审这件事为科学提供什么？如果不能忠实反映一个想法所受的合理质疑，如果不能承载多种视角的相互较劲，评审就失去了它存在的核心意义。而那个看似聪明、实则容易被骗的AI裁判，眼下还远远接不住这份重量。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
