网易首页 > 网易号 > 正文 申请入驻

视频能造假、记忆会改写,我们还能信谁?

0
分享至

1961年,罗伯特·海因莱因(Robert Heinlein)在小说里发明了一种职业:公正见证人(Fair Witness)。受过训练,只报告自己直接观察到的东西,不做推断,不做假设。你问这种人一栋房子是什么颜色,他会告诉你他能看到的那一面的颜色。其他几面?不归他管。

海因莱因写这个设定,本意是讽刺律师总爱越过直接观察去推断。现在它越来越像一份岗位说明书。

问题在于,我们正在进入一个"眼见不再为实"的时代。一段CEO宣布裁员的视频,一条孩子发来要钱的语音,一张抗议现场的照片,全都能在几分钟内生成,而且大部分足够以假乱真。

最直觉的退路是找人证。问一个当时在场的人就行。

可人恰恰是糟糕的证人。伊丽莎白·洛夫特斯(Elizabeth Loftus)等人几十年的研究表明,记忆不是录像,而是重建。我们会填补空白,会吸收后来对话里的细节,会对从未发生过的事变得笃定。目击者认错人,是导致冤案的主要因素之一。

更不舒服的地方在于:记忆不是你打开的一个文件,而是你打开、编辑、再保存的文件。每次回忆,大脑都会短暂地让这段记忆变得可塑,然后重新存回去。神经科学家把这叫作"再巩固"(reconsolidation)。你当时的情绪、之后听到的说法、走廊里别人随口的一句暗示,都可能被悄悄折进新副本里。这个副本随后就成了"原件"。重复足够多次,你可能会生动而自信地记住一件早已偏离事实的事。

这意味着,我们讲得最多的那些记忆、我们最笃定的那些记忆,可能恰恰是最不可靠的。这有点让人不安,也解释了不少家庭聚会上的争执。

于是局面变成:一边是伪造的证据,一边是不可靠的记忆。这个三明治不太好吃。

公正见证人在这里不再是科幻。海因莱因描述的那种能力不是超人的感知,而是纪律:把"我看到了什么"和"我得出了什么结论"分开,说"我观察到X",而不是"X发生了"。刻意让自己显得无聊。

这就引出真正的问题:你信谁,为什么信?

历史上大部分时间里,答案靠"近"。你信邻居、信医生、信五金店老板,因为你了解他们的过往记录,知道他们住在哪。

后来我们把信任外包给了机构。报纸、法院、大学。我们不认识那个记者,但我们信那家媒体的招牌。

现在这两者都在动摇。机构的公信力在流失,有些是活该。而"近"这种逻辑,没法扩展到一个由陌生人和合成内容组成的信息流里。

那还剩什么?信任得从"信谁"转向"怎么信"。不是"我喜不喜欢这个信源",而是"这个信源能不能让我看到它是怎么知道的"。它直接观察到了什么?推断了什么?又在猜什么?一个可信的见证者,无论人或机器,都要让它的推理过程可被检视,并承认自己视野的边界。

这个门槛比个人魅力或资历都高。但当任何人都能伪造一张脸时,它也是唯一站得住的标准。信任不该是一种感觉,它应该能通过一条审计链被验证。

深度伪造攻击的不是你的诚实,而是归属:你和一份证据之间的那条链。所以答案主要在于用"视频看起来很真"之外的手段重建这条链。一个不太舒服的结论是:你没法再在单个素材的层面确立真实性了。你要在"一个人"的层面确立它——这个人嵌在关系、渠道,以及一段"在代价高昂时仍说真话"的历史里。这大致就是人类历史上大部分时间声誉运作的方式。照片能一锤定音的那个世纪,也许才是异常。

所以我认为公正见证人这套纪律即将变得有价值,甚至可能成为一种资质。它的核心价值,是从观察到报告之间那条可验证的链。记者展示自己的工作过程;溯源标准记录一张图从哪来、被什么碰过;以及,AI智能体被造来引用它真正检索到的东西,而不是听起来对的东西。

转折在这里:AI智能体也会遭遇"再巩固"。

不少智能体的记忆系统会先检索一段记忆、使用它,再让模型在保存前重写一遍。这次重写会被当前对话和模型一路上的推断染色。把历史总结一遍,再把总结总结一遍,几轮之后你就得到一段流畅、自信、却已偏离原话的记忆。带token预算的再巩固。

而限定词通常最先阵亡:那些保留条件和不确定性,在摘要过程中被降权。"用户对X不太确定"悄悄变成了"用户偏好X"。

区别在于,智能体不必这样运作。人类无法原样保存原始记忆,智能体可以。

  • 为原始观察保留不可更改的记录,把摘要当作视图,而不是替代品。
  • 标注哪些是陈述过的,哪些是推断出来的。
  • 让每条记忆都链回它的证据。
  • 从源头重新生成,永远不要从上一次改写里生成。

这些都不是什么稀奇技术。它们是写给机器的公正见证人规则。

讽刺之处挺妙:正是这项技术,暴露了我们对证据的信任有多不可靠,也可能逼我们认真对待"见证"到底意味着什么。人类停不下再巩固,但我们可以造出不再这样做的见证者。海因莱因笔下的公正见证人穿白袍,好让所有人知道他们何时在值班。我们可能又需要类似的东西了,大概还得配上更好的元数据。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
汪小菲两个儿子同框逛街,8个月小儿子壮实可爱,10岁霖霖1米6多了!

汪小菲两个儿子同框逛街,8个月小儿子壮实可爱,10岁霖霖1米6多了!

情感大头说说
2026-10-22 00:47:02
王健林再聊房价:现在200万的房子,到2031年能值多少?说通透了

王健林再聊房价:现在200万的房子,到2031年能值多少?说通透了

爱看剧的阿峰
2026-10-22 09:01:54
金晨现身西安,生图脸浮肿嘴巴歪斜,被身旁的170cm央视主持抢镜

金晨现身西安,生图脸浮肿嘴巴歪斜,被身旁的170cm央视主持抢镜

娱说瑜悦
2026-10-22 17:10:31
美舰强闯南海!不到一天,特朗普亲信撂下狠话,解放军海空军出动

美舰强闯南海!不到一天,特朗普亲信撂下狠话,解放军海空军出动

观锐器
2026-10-22 21:55:04
22日晚间亚锦赛:首金诞生,日本女团逆转,国乒男团夺金女团获银

22日晚间亚锦赛:首金诞生,日本女团逆转,国乒男团夺金女团获银

老觷系戏精北鼻
2026-10-23 01:06:33
2980 元跌至 460 元!智谱市值缩水超万亿

2980 元跌至 460 元!智谱市值缩水超万亿

云头条
2026-10-22 22:56:17
蒋万安狂输17%原因找到!蓝营又有内鬼冒头?郑丽文彻底无奈了

蒋万安狂输17%原因找到!蓝营又有内鬼冒头?郑丽文彻底无奈了

爱意随风起呀
2026-10-22 07:24:10
和于文华有私生子、现金多到发霉?被举报的朱之文,这次真的怒了

和于文华有私生子、现金多到发霉?被举报的朱之文,这次真的怒了

天天热点见闻
2026-10-22 06:46:25
“还不分床,等着看德国骨科?”家长晒姐弟俩午睡一幕,让过来人直言:你会后悔的

“还不分床,等着看德国骨科?”家长晒姐弟俩午睡一幕,让过来人直言:你会后悔的

妍妍教育日记
2026-09-14 21:18:41
“一斤赶上买两只鸡了”,消费者直呼吃不起,有店主无奈:做了快30年生意,从没见过还能涨到这个价格

“一斤赶上买两只鸡了”,消费者直呼吃不起,有店主无奈:做了快30年生意,从没见过还能涨到这个价格

极目新闻
2026-10-22 07:55:07
体制内外退休金的巨大差距引起老百姓的很大不满!

体制内外退休金的巨大差距引起老百姓的很大不满!

逍遥论经
2026-10-08 14:57:40
欧冠3连胜!54岁名帅造英超第1奇兵:卖6主力仍能活 1神迹仅逊皇马

欧冠3连胜!54岁名帅造英超第1奇兵:卖6主力仍能活 1神迹仅逊皇马

风过乡
2026-10-22 08:26:48
母亲36岁改嫁40岁教授,洞房夜,我撞见他往母亲杯中滴入不明液体

母亲36岁改嫁40岁教授,洞房夜,我撞见他往母亲杯中滴入不明液体

千秋文化
2026-08-11 19:45:43
中共中央批准:常斌任河北省委副书记

中共中央批准:常斌任河北省委副书记

极目新闻
2026-10-22 19:12:08
美专家:中美加紧备战,3大原因或将开战,美方不许中国平起平坐

美专家:中美加紧备战,3大原因或将开战,美方不许中国平起平坐

林子说事
2026-10-19 07:35:47
“星链”遭遇联合对抗:德国、法国、西班牙、英国4家企业宣布探讨联合竞拍欧盟卫星通信所用频谱资源可行性,降低卫星通信领域对美国依赖

“星链”遭遇联合对抗:德国、法国、西班牙、英国4家企业宣布探讨联合竞拍欧盟卫星通信所用频谱资源可行性,降低卫星通信领域对美国依赖

吉刻新闻
2026-10-22 12:37:10
金与正警告,“必将招致严重灾祸”

金与正警告,“必将招致严重灾祸”

中国新闻周刊
2026-10-20 14:03:11
友情版《再见爱人》首播,许飞厉娜差点打起来,看得我脑瓜子嗡嗡的

友情版《再见爱人》首播,许飞厉娜差点打起来,看得我脑瓜子嗡嗡的

八卦南风
2026-10-22 17:20:01
新婚夫妻用AI生成婚纱照,花费约3小时,被人看出来不觉得尴尬,当事人:跟金钱无关,两个人以后把日子过好这些都不是问题

新婚夫妻用AI生成婚纱照,花费约3小时,被人看出来不觉得尴尬,当事人:跟金钱无关,两个人以后把日子过好这些都不是问题

背包旅行
2026-10-16 18:08:08
两性心理学:女人主动跟你说例假来了,过来人都懂,她其实是在暗示你这两句话,不要再傻乎乎地听不明白

两性心理学:女人主动跟你说例假来了,过来人都懂,她其实是在暗示你这两句话,不要再傻乎乎地听不明白

心理观察局
2026-09-06 06:41:37
2026-10-23 05:59:00
爬虫饲养员
爬虫饲养员
业余养了只叫“龙虾”的AI爬虫,主业是给互联网打工。
191文章数 86关注度
往期回顾 全部

科技要闻

腾讯云谷歌紧急行动!互联网安全出大事

头条要闻

西藏那曲7.0级地震已造成16人遇难32人受伤

头条要闻

西藏那曲7.0级地震已造成16人遇难32人受伤

体育要闻

卢卡:伦德伯格,欢迎来到NBA

娱乐要闻

芭莎盛典,张小斐因救场实现口碑暴涨

财经要闻

宁德,跌成了一只红利股?

汽车要闻

搭城市NOA/续航555KM 捷达M6上市售7.98万起

态度原创

家居
艺术
旅游
手机
教育

家居要闻

2026建博会(广州) 公装联探展交流活动

艺术要闻

故宫藏一幅特殊古画:饱经起落的帝王画钟馗,不是吓人,是送整年好运

旅游要闻

6.5米高塔菊首次亮相天坛,菊花班班长揭秘如何拿到全国金奖?

手机要闻

荣耀手表Fit 6现身官网:1.97英寸AMOLED全面屏、适配iOS /鸿蒙设备,支持腕上微信

教育要闻

研三秋招找工作才发现:有没有论文不重要,重要的是英语六级不能少,好多国央企都卡六级

无障碍浏览 进入关怀版