网易首页 > 网易号 > 正文 申请入驻

从DeepSeek向王一博道歉,到R2乌龙拉升股价,人类正在被AI“幻觉”欺骗

0
分享至

图片来源:视觉中国

蓝鲸新闻8月19日讯(记者 朱俊熹)2025年,行至21世纪前四分之一,AI早已不是科幻电影中的概念,而是人人可用的工具。如果从一些机构发布的统计报告来看,在全球超81亿人口中,已有17亿至18亿人使用过AI工具,其中每天使用者约为5亿至6亿。特别是对25岁以下的年轻人而言,AI聊天助手已成为获取信息和新闻的重要渠道。

但你有被AI生成的虚假信息欺骗过吗?又或者说,你意识到自己被骗了吗?

譬如最近传出的DeepSeek将在8月下旬发布R2模型的消息,虽然最终被证伪,但相关话题不仅登上社交平台热搜,还一度拉动了AI概念股的上涨。追溯其传播过程,最初是部分媒体在报道中引述了和DeepSeek产品的对话记录。随后,这些未经官方核实的内容又被一些AI搜索产品作为可信信源收录,最终呈现出似乎已被多方印证的假象。

图片来源:媒体报道

类似的情况并非个案。从"DeepSeek向王一博道歉"的乌龙事件,到用AI炮制的"三层游船倒扣江中30人坠江"谣言,过去一段时间以来,AI引发的假新闻层出不穷。

美国西北大学计算机科学博士生陈灿宇曾发起过应对大模型时代虚假信息的相关项目,其研究方向正是真实、安全、负责任的大语言模型及智能体。陈灿宇告诉蓝鲸科技,这类虚假信息可大致分为两种:一是用户恶意利用大模型生成的,另一类则是模型自身的幻觉所致,往往是无意的,却可能在不知不觉中误导用户。

大模型的幻觉指的是其生成的内容看似合理流畅,实际却是虚假的、不准确或不存在的信息,就像是人类在自信地胡说八道。

幻觉问题由来已久,且成因复杂。主流大语言模型采用自回归生成机制,即通过前面的内容预测下一个最可能的词,它的目标并不是事实准确,而是语言流畅、上下文合理。同时,大模型的训练数据存在时效性限制,难以实时获取到最新的信息,其中还可能夹杂了来自互联网的虚假信息。即使目前可以通过对齐技术(如RLHF)、检索增强生成(RAG)等手段来缓解,幻觉问题依然难以被彻底根除。

学界此前曾认为,推理模型能够减少幻觉问题,但实测数据却并非如此。OpenAI的推理模型o3和o4-mini的幻觉率不仅高于前代推理模型,也超过了GPT-4o等非推理模型。DeepSeek推理模型R1的幻觉率也显著高于V3模型。在5月版本更新时,DeepSeek特别强调称,新版R1模型针对幻觉问题进行了优化,在改写润色、总结摘要、阅读理解等场景中,幻觉率较旧版降低了45-50%左右。

一位AI算法工程师对蓝鲸科技解释称,推理模型提升了最终答案的精确度上限,但中间过程可能存在极大的幻觉。他将其归因于以DeepSeek为代表所采用的强化学习方法,这类方法主要关注在数学、代码等有明确正答的任务上,模型给出的最终结果是否正确,而不关注中间推理步骤是否合理。

DeepSeek在R1技术报告中提到,模型训练中采用了基于规则的奖励系统,主要包括两类奖励:一是准确性奖励,用于评估模型的回答是否正确;二是格式奖励,看模型输出内容是否符合规定的格式规范。DeepSeek没有选择用神经网络来给模型的输出或推理过程打分的奖励机制,以避免训练复杂化和奖励投机。

DeepSeek的横空出世推动了AI的普及,也放大了幻觉可能带来的虚假信息风险。陈灿宇认为,在大模型时代抗击虚假信息需要多方合力,除了大模型厂商尽可能地降低幻觉率外,也要求平台和用户合理使用大模型。他建议,对于没有相关技术背景的普通用户,可以通过让同一模型多次生成回答,或对比不同模型的结果,来更好地辨别幻觉。

目前,许多C端AI产品还会在生成结果后附上参考来源,方便用户进一步验证。陈灿宇提醒道,引用来源也存在一定局限性。"因为现在大模型有严重的虚假引用问题,引用不准确或者乱引用,可能会导致一些副作用,让用户更加盲从答案。"

前述AI算法工程师也表示,虽然可以通过调用搜索引擎或外部知识库来缓解幻觉,但大模型降低了造假的成本,核心挑战还是在于信息源和搜索引擎端的建设。

在科技社区中,另一种常用的减轻幻觉的方式是调节模型的温度参数。具体而言,低温度系数会让模型生成更保守、确定性高的内容,高温度系数则会产生更随机、富有创造性的输出,同时也更容易出现幻觉。

多位受访者均表示,在某些场景下,幻觉实际上是有利且必要的,它体现的是多样性、发散性。"如果模型不说胡话,它的创造性很有可能就不那么强了,这存在一定的权衡。"

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
10投7中是三分球、只投3个两分,哈登为何几乎不打进三分线内?

10投7中是三分球、只投3个两分,哈登为何几乎不打进三分线内?

琴音似君语
2026-11-20 08:25:04
哈里梅根恳求圣诞前与查尔斯私下会面!王室专家:英王很想念儿子

哈里梅根恳求圣诞前与查尔斯私下会面!王室专家:英王很想念儿子

艺利森
2026-11-20 13:01:34
中国绝不会接受本土遭到攻击后,还陪着你打所谓的 "有限战争"

中国绝不会接受本土遭到攻击后,还陪着你打所谓的 "有限战争"

迷彩人生
2026-11-13 10:25:30
中国正式改口!以后不叫“日本政府”了,新称呼传递的信号不一般

中国正式改口!以后不叫“日本政府”了,新称呼传递的信号不一般

潘冹旅行浪子
2026-06-23 00:04:49
现货黄金跌破3600美元!实探深圳水贝:买家等到了心理价位,商家却喊“补早了”

现货黄金跌破3600美元!实探深圳水贝:买家等到了心理价位,商家却喊“补早了”

澎湃新闻
2026-11-20 08:32:53
国内金价跌至“7字头”,杭州黄金投资者坦言心态变了

国内金价跌至“7字头”,杭州黄金投资者坦言心态变了

极目新闻
2026-11-19 16:20:18
刘青山死后30年,三个儿子找到当年举报者李克才:请为我父亲平反

刘青山死后30年,三个儿子找到当年举报者李克才:请为我父亲平反

健康快乐丁
2025-07-07 21:54:56
十家车企压了近万亿账款,中国车圈背着连环债的雷

十家车企压了近万亿账款,中国车圈背着连环债的雷

虎嗅APP
2026-11-19 17:12:10
黄仁勋的妻子,根本不是普通阔太太

黄仁勋的妻子,根本不是普通阔太太

做一个合格的吃瓜群众
2026-11-10 07:58:28
多国首脑在深圳开启逛街模式,每个人的路线选择都很有意思

多国首脑在深圳开启逛街模式,每个人的路线选择都很有意思

麓谷隐士
2026-11-19 22:19:16
真的崩了,iPhone Duo 又降价!

真的崩了,iPhone Duo 又降价!

花果科技
2026-11-19 22:50:55
沈阳原奢侈品商场改7层高端大洗浴,评价咋样?

沈阳原奢侈品商场改7层高端大洗浴,评价咋样?

沈阳生活圈i
2026-11-19 10:56:01
细思极恐!黄金走势几乎完美复刻2008年:金融危机要来了吗

细思极恐!黄金走势几乎完美复刻2008年:金融危机要来了吗

王嚾晓
2026-10-26 18:02:50
27分+24板!法尔要是有他50%的水平,76人都能成为争冠热门

27分+24板!法尔要是有他50%的水平,76人都能成为争冠热门

移动挡拆
2026-11-20 13:18:32
二胎大局已定?明后年,拥有2个以上孩子家庭的人,坚定4不做!

二胎大局已定?明后年,拥有2个以上孩子家庭的人,坚定4不做!

云景侃记
2026-11-19 10:07:21
AMD遭做空重挫8%,英伟达6日市值蒸发超3万亿元,美股芯片股多股跳水,Anthropic上市首日大涨17%

AMD遭做空重挫8%,英伟达6日市值蒸发超3万亿元,美股芯片股多股跳水,Anthropic上市首日大涨17%

21世纪经济报道
2026-11-20 06:45:50
杯水车薪,隐患重重!俄罗斯计划投入74亿美元修缮桥梁,89%濒临坍塌桥梁却不在修缮清单内

杯水车薪,隐患重重!俄罗斯计划投入74亿美元修缮桥梁,89%濒临坍塌桥梁却不在修缮清单内

军迷战情室
2026-11-19 21:31:42
竟然有那么多人想方设法拖垮你孩子的成绩!网友:人心险恶

竟然有那么多人想方设法拖垮你孩子的成绩!网友:人心险恶

夜深爱杂谈
2026-11-03 18:43:42
内蒙古牧民捡到小狗当牧羊犬9年,专家检查后脸色大变:这就不是狗

内蒙古牧民捡到小狗当牧羊犬9年,专家检查后脸色大变:这就不是狗

红豆讲堂
2025-05-19 17:03:14
20岁农村男子做尽坏事,只对六旬老太下手,被捕后道:还是老人好

20岁农村男子做尽坏事,只对六旬老太下手,被捕后道:还是老人好

林林故事揭秘
2025-04-27 15:27:28
2026-11-20 16:48:49
蓝鲸新闻 incentive-icons
蓝鲸新闻
财经信息服务平台
141068文章数 194204关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

教育
艺术
房产
公开课
军事航空

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

房产要闻

6.6亿!海口卖地!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版