浙江
本文来源：饶议科学
10 月 18 日，饶毅老师在公众号「饶议科学」发布文章：《打假不能变成打击真正做科研的人》，全文如下——
我感觉，这次耿同学利用 AI 打假，从短期效果看，似乎是正向的；但从长期来看，如果导致科研造假的根本原因不消除，结果可能会更糟糕。
因为现在 AI 不仅能打假，更能造假，而且可以造出越来越「完美」的数据，符合各种统计规律和生物学逻辑。
更令人震惊的是，据说现在有些组学公司，甚至可以根据客户想要的结果（当然，不能明说，只能暗示[呲牙]），逆向生成一整套组学数据，连所谓的「原始数据」都能给你做出来，仪器根本不用开机！如果属实，那可真是科技改变科研了。
我甚至觉得，现在那些被 AI 检查出一些零星问题的论文，反而可能恰恰是真正做过实验的。因为真实实验产生的数据，本来就不可能处处完美，偶尔出现重复数值、异常值，甚至一些看似不合理的现象，都是可能的。
我自己也看过我们正在做的课题中的一些数据，确实存在零星重复的情况，但核对原始数据后，并没有发现问题。
而那些 AI 完全检查不出问题的论文，就一定是真的吗？未必！真正的造假高手，可能早已把大量精力放在如何制造一整套逻辑自洽、统计完美、经得起各种算法检查的数据上。
AI 发现数据异常，不等于发现造假；AI 没有发现异常，更不等于证明数据真实。
最近还有一个现象值得警惕：不少公众号热衷于曝光所谓的「科研造假」，但其中一些被指出的问题，其实可能只是探索未知世界过程中不可避免的错误、疏漏或数据异常。
科学研究本来就是不断试错、不断纠错的过程。尤其是探索未知领域，谁能保证每个实验都完美、每组数据都符合预期、每篇论文都毫无瑕疵？
科学允许犯错，但不允许造假。这本来是两件性质完全不同的事。
然而，现在有些人似乎有意无意地模糊了两者之间的界限。只要发现一点数据重复、图片疑点或前后不一致，就直接上升到「学术造假」的高度。个别别有用心的人借机做文章，再经过一些自媒体添油加醋，以及吃瓜不嫌事大的围观者不断放大，一个尚未查清的学术疑点，就可能迅速演变成一场舆论审判。
发现疑点不等于证实造假，存在错误不等于故意欺骗。真正严肃的学术监督，应该核查原始数据、听取合理解释、区分无心错误与故意造假，而不是靠几个截图、几处相似性和一场网络围观就给人定性。
更有意思的问题来了：
以后大家在投稿前，肯定都会先用 AI 检查自己的论文。如果发现几个真实数据被 AI 判定为「可疑」，为了避免投稿后不必要的麻烦，干脆把这些数字稍微改一改，让它们不再重复，变得更加「自然」。
那么，这到底是在「造假」，还是在「造真」？[呲牙]
当然，严格来说，修改真实数据就是造假。但讽刺的是，原本真实的数据，为了通过打假检测，反而被人为修改成了虚假数据！
再往前想一步，如果干脆先确定好结论，再让 AI 根据结果逆向生成一整套完美的原始数据，统计学规律符合，生物学机制自洽，连原始文件都准备得天衣无缝，那以后谁还能查得出来？
过去是先做实验，再想办法根据数据得出相符的结论；以后恐怕是先有结论，再让 AI 把实验都替你「做」了，包括完美的「原始数据」。
论文里的数据越来越完美，科学离真实却可能越来越远。
当然，我不是反对 AI 打假。打假有必要，也有积极意义。但问题是，如果只是在技术层面不断提高打假能力，却不去解决科研造假的根本诱因，最终可能就是一场「道高一尺，魔高一丈」的技术竞赛。
造假者不断升级技术，把假数据做得越来越真；真正做科研的人，却不得不花费越来越多的时间和精力，去解释那些真实数据中不可避免的不完美。
更令人担忧的是，如果科研人员因为害怕被质疑、被曝光、被舆论围攻，而不敢展示不完美的数据，不敢冒险探索未知，甚至把大量精力从科学发现转移到如何避免被人挑错上，最终受到伤害的，将不仅仅是几个科研人员，而是整个科研创新生态。
科学创新需要质疑，也需要容错；需要打击造假，更需要保护诚实的探索。
如果造假的根源不除，只会道高一尺、魔高一丈。造假者越来越善于躲避检查，真正做科研的人反而越来越容易受到质疑，最后稀里糊涂地成了陪葬品。
到那时候，我们究竟是在维护科学的真实性，还是在训练所有人生产更像真的数据？
这才是我真正担心的。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
