网易首页 > 网易号 > 正文 申请入驻

陷于“虚构信息”的泥沼

0
分享至

北京大学 徐仁新 编译自 Nicole Sharp. Physics World,2026,(9):8

本文选自《物理》2026年第10期

在人工智能时代的今天,我们比以往任何时候更需要学术技能。

2008年,美国作家斯蒂芬森出版了科幻小说“Anathem” (译者注:中译名《飞越修道院》、《失落的星阵》等)。故事发生在假想的“Arbre”类地行星上,涉及一群不同等级修行的僧侣,他们大多与世隔绝,但偶尔会开放接受外界信息。

书中,斯蒂芬森探讨了互联网的“黑暗时代”。那时,公司让网络涌入大量“看似合理其实虚假”的信息,以此迫使消费者购买本公司开发的工具来鉴别真伪。

正如斯蒂芬森所言,这种“胡扯”起初由人完成,但最终这一过程由所谓的“Artificial Inanity” (人工废话)运行,它可为每个合法文件创建成百上千个虚假版本(bogons,即“虚构信息”)。


机器的崛起。由大语言模型驱动的聊天机器人使得搜索结果和社媒信息泛滥

今天,我们正面临斯蒂芬森的“黑暗时代”。我们获取的信息中越来越多地充斥着人工智能(AI)垃圾,远不止AI生成的离奇小猫视频以及政客和名人的古怪举止。

随着大语言模型(LLM)驱动的聊天机器人的兴起,我们的搜索、社媒甚至学术期刊都被污染了。乍一看,这些数据有用且合理,但在其华丽表象背后却没有任何价值。

作为科学家,我们必须将自身工作与近期的其他研究联系起来。然而,当我们不得不从虚构成果中分辨出真实时,这项任务变得愈发艰难。随着大语言模型生成的劣质内容侵蚀我们此前信赖的知识库,我们正面临着一个迅速恶化的信息环境。

以前可以将一个想法追溯到人类作者(对学术不端承担后果)的论文;但未来,除评估科学价值外,我们还必须质疑文章的作者、机构或实验是否真实存在。

这并非杞人忧天。2024年,哥德堡大学医学研究团队虚构了一种名为“bixonimania”的疾病,并通过Medium 平台上的帖子和两篇预印本论文进行宣传。团队旨在测试AI聊天机器人是否会捕捉和传播虚假疾病信息,结果却得到肯定答案。值得一提的是,团队插入的若干信息已明确表明这一研究造假,如致谢“星际舰队学院”的一位同事、感谢“魔戒联盟大学”的资助,甚至在文章一开头就写道“整篇论文胡编乱造”。

困于沼泽


物理学家也不能幸免信息糟粕的危害。大量LLM生成的文章迫使预印本库arXiv今年5月宣布对“基于LLM生成”论文的作者的惩罚,包括引用“虚假参考文献”。措施包括:禁投arXiv一年,此后的手稿必须经过“信誉良好的同行评审”之后才能被接受。

我起初对这一举措表示欢迎。严重的后果将防范LLM的滥用,尤其是针对那些粗制滥造的投机行为。然而,我越想越不对劲,arXiv新的惩罚机制可能最终会落在那些不用LLM写论文的作者们身上。

抄近路是省事的。比如,你正在写一篇综述,你读过并信任论文A,考虑引用其中的一个要点,但你注意到该要点其实出现在论文B中(论文A只是引用)。很简单,直接滚动鼠标至参考文献,复制论文B并引用(相信我们中大多数都这么干过)。

但随着信息环境的恶化,这种捷径有可能让你违反arXiv等的新政策。看似有效的引文(甚至包含你熟悉的作者),也许根本就不存在。

研究也可能完全伪造。例如,一组研究人员在同行评审的文章中引用“bixonimania”预印本之一。期刊编辑不顾作者反对,撤回了该文。简单地复制粘贴引文而不进行检查,你可能会无意间被列入黑名单,你和合作者都将被禁用arXiv。

我并不认为arXiv有政策缺陷。相反,我觉得那些希望自己的写作不受AI影响的同行必须保持警惕。我们必须努力提升专业技能,包括科学判断、信息甄别、沟通技巧和严谨的学术态度。虽然AI公司声称LLM能够取而代之,我们还是应该致力于训练并传授这些技能。

在《飞越修道院》中,某位角色可以挥挥手离开那个充满虚构信息的互联网,而我们不可能这样解决问题。相反,随着信息环境的恶化,我们发现自己深陷泥沼。为了摆脱,我们必须认真计划下一步,不能想当然。看似可靠的途径,也可能被证明是危险的。安全前行是一个缓慢过程,在获得可信赖的方案和工具时,我们必须加倍努力推敲。

仅仅在写作时选择不用LLM已经不切实际了,我们必须依靠学术技能来分辨真伪。若想摆脱困境,所有人都必须放慢脚步。

欢迎订阅2026年《物理》杂志

《物理》是由中国科学院物理研究所和中国物理学会主办的权威物理类中文科普期刊,注重学科性与科普性相结合,秉承“轻松阅读,享受物理”的办刊理念,集学科大家之力,追踪物理学成果,服务物理学领域,促进学科交叉,让科学变得通俗易懂。已成为我国众多物理专业的大学生、研究生、物理学家案头常读的刊物之一。

(期刊订阅)

订阅方式:编辑部直接订阅优惠价240元/年,全国包邮。

方式1微信订阅

在“物理所财务处”微信公众号缴费,操作如下:公号下方“业务办理”-“订刊费”-收费部门“《物理》编辑部”,之后填写相应信息。如有问题,可添加编辑微信咨询:18627635857。

(注:仅针对需要对公开电子发票的读者,且务必提供正确的单位名称和单位税号)

方式2银行汇款

开户行:中国农业银行北京科院南路支行

户 名:中国科学院物理研究所

帐 号:11250101040005699

(注:请注明“《物理》编辑部”,汇款成功后请及时联系编辑部登记邮寄地址)

编辑部联系方式:

咨询电话:010-82649277;82649029

Email:physics@iphy.ac.cn

(赠阅活 动 )

为答谢广大读者长期以来的关爱和支持,《物理》编辑部特推出优惠订阅活动:凡直接向编辑部连续订阅2年《物理》杂志,将获赠《岁月有情- <物理> 50周年纪念本》。内有自1972年至2022年《物理》发表的50篇精选文章信息,扫描对应的二维码,可重温经典之作,感悟物理科学的真谛,领略学科大家的风采。希望读者们爱上《物理》!


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
让2追3!巴萨逆转比利亚雷亚尔,亚马尔丢点又助攻加脚后跟妙传

让2追3!巴萨逆转比利亚雷亚尔,亚马尔丢点又助攻加脚后跟妙传

硬腿子聊个球
2026-11-22 23:00:58
人老了真的没什么意思,我爸今年72岁,独自在家每天就做这五件事

人老了真的没什么意思,我爸今年72岁,独自在家每天就做这五件事

九哥哥车评
2026-11-21 09:38:35
比利亚雷亚尔中场:巴萨7人围裁判施压,这影响了判罚

比利亚雷亚尔中场:巴萨7人围裁判施压,这影响了判罚

快乐加载中21
2026-11-23 00:40:00
“四年本科一场空,进厂当普工”刷屏网络,多名毕业生记录工厂流水线日常,网友:现在的本科相当于以前的初中

“四年本科一场空,进厂当普工”刷屏网络,多名毕业生记录工厂流水线日常,网友:现在的本科相当于以前的初中

火山詩话
2026-11-22 15:06:22
特朗普表示:伊朗“不想达成我能接受的协议” 承认战争推高了油价,伊朗外长:“两日计划”仍摆在桌面上

特朗普表示:伊朗“不想达成我能接受的协议” 承认战争推高了油价,伊朗外长:“两日计划”仍摆在桌面上

每日经济新闻
2026-11-22 12:56:26
曾痴迷刘德华追到倾家荡产、逼死父亲的杨丽娟,如今过得怎么样?

曾痴迷刘德华追到倾家荡产、逼死父亲的杨丽娟,如今过得怎么样?

阿嬍体育评论
2026-11-21 19:47:48
热搜第一!云南一主播私闯果园带货,糟蹋一千多斤苹果:当场切开后果肉全被扔地上;有的苹果挂树上就被直接切开,甚至连花芽也被一并摘掉

热搜第一!云南一主播私闯果园带货,糟蹋一千多斤苹果:当场切开后果肉全被扔地上;有的苹果挂树上就被直接切开,甚至连花芽也被一并摘掉

大风新闻
2026-11-22 16:20:04
贵州省委书记徐麟李炳军拜会全国人大常委会副委员长洛桑江村

贵州省委书记徐麟李炳军拜会全国人大常委会副委员长洛桑江村

政知新媒体
2026-11-22 10:47:22
红军过草地其实仅用五六天,巨大非战斗减员源自哪里?有何隐情?

红军过草地其实仅用五六天,巨大非战斗减员源自哪里?有何隐情?

幻梦人生
2024-12-08 04:05:03
我在澳门赌厅干15年,说句实在话:赢钱的人,比输钱的人走得更早

我在澳门赌厅干15年,说句实在话:赢钱的人,比输钱的人走得更早

千秋文化
2026-11-18 20:52:59
比恒大更惊人,中国第二大民企轰然倒下,负债7500亿,创始人落网

比恒大更惊人,中国第二大民企轰然倒下,负债7500亿,创始人落网

墨策史
2026-11-14 02:15:05
佛山富婆覆灭史:她的奢靡与荒唐,只有你想不到没有她做不到

佛山富婆覆灭史:她的奢靡与荒唐,只有你想不到没有她做不到

锅锅爱历史
2026-11-22 05:13:05
美国务卿鲁比奥公开表示:看到中俄美元首会晤很高兴,有人认为这三国领导人不应定期进行交流,这种想法不仅荒谬而且危险

美国务卿鲁比奥公开表示:看到中俄美元首会晤很高兴,有人认为这三国领导人不应定期进行交流,这种想法不仅荒谬而且危险

吉刻新闻
2026-11-22 20:26:33
22分+23分+22分!36岁冠军控卫愈老愈妖,他能冲击NBA最佳第六人

22分+23分+22分!36岁冠军控卫愈老愈妖,他能冲击NBA最佳第六人

微评体育圈
2026-11-23 00:05:55
伊媒:因美国海上封锁,大量原材料改道陆路驶向伊朗,哈乌边境卡车排40公里长龙;美军:严格执行对伊海上封锁

伊媒:因美国海上封锁,大量原材料改道陆路驶向伊朗,哈乌边境卡车排40公里长龙;美军:严格执行对伊海上封锁

极目新闻
2026-11-21 19:06:23
神舟二十四号,传来重要消息!

神舟二十四号,传来重要消息!

普陀动物世界
2026-11-22 13:50:43
中国球员五大联赛首帽来啦!吴澄舒法甲14分钟连进三球率队4比2大胜

中国球员五大联赛首帽来啦!吴澄舒法甲14分钟连进三球率队4比2大胜

湖报体育
2026-11-22 17:56:35
11月27日开始正式落地?有线电视迎来新规,家家户户都要了解清楚

11月27日开始正式落地?有线电视迎来新规,家家户户都要了解清楚

混沌录
2026-11-22 16:50:12
湖南建工集团被暂停全军采购资格

湖南建工集团被暂停全军采购资格

地产微资讯
2026-11-22 19:50:11
野猪泛滥南方大地,与华南虎绝迹几十年,有直接的关系吗?

野猪泛滥南方大地,与华南虎绝迹几十年,有直接的关系吗?

作家王天祥
2026-11-19 14:22:33
2026-11-23 01:08:49
中国物理学会期刊网 incentive-icons
中国物理学会期刊网
最权威的物理学综合信息网站
4540文章数 21982关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

俄导弹落入波兰 北约秘书长吕特强硬回应

头条要闻

俄导弹落入波兰 北约秘书长吕特强硬回应

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨颖姐弟烧香被偶遇,清秀少年变粗犷大叔

财经要闻

沪深交易所、中国结算推出一揽子降费措施

汽车要闻

插混尊贵型真的超值 15万级的第二代海豹07配置拉满

态度原创

时尚
房产
旅游
亲子
公开课

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

旅游要闻

据说明代的旅游博主徐霞客游洱海时,也在这个桃源古渡登过船?!

亲子要闻

备孕期的性生活时长与质量,夫妻都该了解

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版