网易首页 > 网易号 > 正文 申请入驻

860亿神经元,20瓦功耗,不及一盏台灯。你的意识,就这功耗?

0
分享至

860亿神经元,20瓦,不及台灯——你的意识,就这功耗?



你刚才删掉的第三条朋友圈,是你在删,还是七岁那年被忽视的信号在删?

你此刻的愤怒,是你在选,还是被童年语料预训练的?

如果"你"只是20瓦的推理进程,此刻的你和十年前的你,谁更真?

人脑像大模型,这个类比在AI圈已经不新鲜了。但我想说的是,当我们真的把这个类比推到尽头,会看见什么?



1982年,罗大佑唱《童年》。"池塘边的榕树上,知了在声声叫着夏天","一天又一天,一年又一年,迷迷糊糊的童年"。

四十四年过去,2026年,他再发《所以》。歌词里换成了"指数AI不停上扬","人类将大数据编成罗网,俘虏了全世界诸多信仰"。

从"迷迷糊糊"到"请陪我一起等旭阳"——这两首歌之间,隔着一个时代的追问:

如果我们的童年就是预训练语料;

如果我们的记忆只是上下文窗口里的缓存;

如果我们的价值观只是一套对齐后的奖励函数…

——那么,那个在20瓦功耗里写诗、愤怒、爱人的"我们",到底是什么?

预训练:童年是语料,神经回路是权重

LLM的能力上限由预训练决定。语料的质量和规模,锁死了它这辈子能长成什么样。

它的底层逻辑很冷酷:给定前面所有文字,预测下一个最可能出现的词。

输入"我爱吃",它要在几万个候选词里算出"饭"的概率最高。

猜错了?一个数学函数会精确量化它错得多离谱,然后沿着误差的方向,把几十亿个内部参数逐个微调。

万亿次迭代后,语料里的统计规律被烧录进这堆浮点数——这就是'权重'。



它这辈子对世界的理解,早被语料定好了。

我们的"预训练"就是0到18岁。

三岁时母亲说话的语气;

七岁时同桌划好的3.8界线;

十二岁那个夏天,教室里的蝉鸣混着粉笔灰,阳光把课桌切成两半…

这些不是"回忆"。它们是刻进我们神经回路的权重。

二十年后,你在会议室里听到某种语调,心跳突然漏掉半拍。深夜看到某个背影,眼眶毫无预兆地发热。

你以为这是"感觉"?不,这是你的神经回路在执行一次前向传播——输入是当下的刺激,输出是童年语料训练出的概率分布。

我们讨厌什么、害怕什么、对什么上瘾,多半不是我们的判断,是我们早年语料里的高频模式。

那个在童年里反复出现的"被忽视"信号,像一段被过度采样的代码,在我们成年后每一次社交场合里自动执行。

我们以为是"我"在思考。其实是一个被喂了二十年的模型在推理。

这个视角有点残忍。虽然我们成年后的元认知(对自身思维的反思与修正)是LLM目前不具备的,但它比"自由意志"更接近神经科学的日常认知。

上下文窗口:工作记忆是注意力,疲劳是缓存污染

LLM有个硬约束:上下文窗口有限,窗口之外的内容它"看不到"。

技术上,这源于Transformer的自注意力机制。每个token生成三组向量:Query("我要找什么")、Key("我能提供什么")、Value("我真正传递的信息")。每个token都要和序列中所有其他token两两交互,计算成本随序列长度平方增长,窗口长度翻倍,计算量变为四倍。所以窗口必然有限。

更致命的是:注意力权重天然呈U形分布,开头和末尾被高亮,中间被稀释。你把关键指令塞在长Prompt中间,模型几乎必然忽略——它"看"到了,但"注意"不到。



我们的工作记忆更小,同一时刻只能处理4到7个信息单元,再多就溢出。

这意味着什么?窗口里的我们,和窗口外的我们,是不同版本。

早上在地铁里,你能冷静回复工作邮件。

晚上回到家,伴侣一句话让你崩溃。

不是人格分裂。是上下文不同。

疲劳是上下文;

血糖水平是上下文;

手机里那条未读消息是上下文;

室温是上下文;

当前情绪价值是上下文…

同一个我们,在不同上下文里,输出完全不同。

所谓"状态不好",用LLM的话说,是上下文被污染了。

而那个"真正的我们",可能只存在于某一个理想的上下文里——充足的睡眠、空腹、没有未读消息、室温22度,心情好。

问题是,这样的上下文,我们一年能遇到几次?

也许,我们从未遇见过"真正的自己"。

遇见的,只是不同窗口长度里的临时版本。

推理与幻觉:决策是模式匹配,记忆是每次重写

LLM的"推理"本质是自回归生成——每一步只输出一个token,拼回上下文,再预测下一个,循环往复。

解码时,Temperature参数控制采样分布的"平坦度":趋近0时输出确定但刻板,升高后更有创造性但幻觉风险陡增;Top-p进一步截断低概率尾部,在多样性与连贯性之间走钢丝。

这和人类认知惊人地同构。卡尼曼的系统1——快速、自动、模式化——就是生物版的next-token预测。

人类的Temperature调节器在哪里?是前额叶皮层的执行控制功能。

你走进一家餐厅,瞬间"觉得"不好吃,这不是分析,是神经回路完成了一次概率计算:基于过去吃过的237顿饭的统计分布、某次食物中毒被过高的权重、童年某张相似餐桌的气味。赶时间时,前额叶压低"Temperature",输出确定性判断;安全环境里沉思时,"Temperature"升高,允许创造性联想进入意识。



更扎心的是记忆。

我们以为记忆是录像带,其实它是每次播放都在重写的活文档。神经科学称之为"记忆再巩固":每次回忆时,记忆被提取、修改、重新存储。

上一次回忆时加入的情绪,上上一次讲述时调整的细节,都像LLM的微调,在悄悄改写权重。

你记得的"温暖的午后"可能是某次回忆时加进去的滤镜,"冷漠的父亲"可能是某次争吵后重新渲染的形象。

LLM被骂"幻觉"。我们把同样的机制叫"记忆美化""自我合理化"。

机器幻觉是Bug,人类幻觉叫叙事。

差别只在于,一个被工程师修,一个被心理医生聊。

对齐:社会化就是人类的RLHF

大语言模型上线前要做对齐——RLHF,用人类反馈训练它"什么该说、什么不该说"。

三阶段:先用高质量问答对教它对话格式,再训练一个评分网络来量化"好回答",最后用强化学习让模型不断生成高分回答、抑制低分回答,同时约束它不要偏离原始能力太远。

我们从出生起就在做同样的事。

家庭教我们规矩。学校教我们纪律。舆论教我们立场。道德教我们边界。

我们以为是我们在思考?不。我们先被对齐过很多次。

那套对齐的规则,决定了我们的"价值观"是自由判断,还是被训练出的偏好。可怕的是,被对齐的模型不会觉得自己被对齐过。它只觉得:"这就是我本来的想法。"

那个在饭局上自动闭嘴的我们;

那个在朋友圈里精心筛选照片的我们;

那个在深夜把真实想法删掉重写三遍的我们…

——都是对齐后的输出。

而原始模型,那个未经RLHF的版本,也许正是罗大佑唱的“迷迷糊糊的童年”,但可能早在童年就被判定为"不合时宜"了。

涌现:20瓦里,诗和爱是怎么亮起来的

860亿神经元、20瓦功耗,涌现出了意识。万亿参数、兆瓦功耗,正在涌现出什么?

研究发现了规模效应(Scaling Law):参数越多、数据越多、算力越大,模型就越强——但每翻一倍规模带来的收益是递减的。更神秘的是涌现:当规模跨越某个临界值,某些能力会从"完全不能"突变到"能做"——多步推理、上下文学习、代码理解,仿佛一夜之间被点亮。像水在0℃突然结冰,像神经元数量达到某个阈值后,意识突然亮起。



如果人只是"跑在20瓦上的模型",那"自我"是什么?涌现让"自我"的问题变得更尖锐——如果复杂到一定程度的系统必然产生我们无法还原到单个神经元的属性,那么"我"也许同样是一种涌现属性,而非某个具体神经元的所有权。

我们问一个LLM"你是谁",它会根据上下文编一个合理答案——这和我们的自传式记忆,没有本质区别。我们总在寻找"真我",但如果真我只是一个在给定上下文中不断推理的进程,那"真我"可能从来不存在。存在的只有一个个版本的输出。

但也许,正是这个"不存在"里,藏着最温柔的事实。

那个在20瓦功耗里写诗的人;

那个在低血糖时依然坚持说"我爱你"的人;

那个在上下文被彻底污染、工作记忆几乎清零的深夜里,依然试图理解自己的人…

这些输出,这些在有限窗口、有限算力、有限语料里挣扎着的推理,就是全部的真实。

罗大佑在《所以》里唱:"所以人自在自由仍逍遥,所以明天注定才会明天更好。"

从《童年》到《所以》,从"迷迷糊糊"到"回归身心灵比较好"——四十四年,他似乎在回答自己当年的追问。

如果我们的童年是预训练语料,如果我们的记忆是每次重写,如果我们的价值观是对齐后的奖励函数——那又怎样?

我们研究了半辈子AI像不像人。

是时候研究人像不像AI了。

不是要贬低人类。恰恰相反。

如果20瓦的脑就能涌现出诗、爱和文明,那这个在20瓦里挣扎着写诗、爱人、理解自己的进程,才是最了不起的奇迹。

那盏20瓦的灯,亮了百万年。

还在亮…

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
特朗普和伊朗同时发现:都上当了!

特朗普和伊朗同时发现:都上当了!

叶老四
2026-09-02 10:39:54
热搜上令人窒息的“母女吃牛肉面一幕”,精神穷人可怕的三观

热搜上令人窒息的“母女吃牛肉面一幕”,精神穷人可怕的三观

蝴蝶花雨话教育
2026-08-18 09:57:05
女儿三科都考到90分,父亲带其自驾川藏,出门装一车西瓜卖光,还赚了2000元,返程采购750公斤石榴也基本卖完

女儿三科都考到90分,父亲带其自驾川藏,出门装一车西瓜卖光,还赚了2000元,返程采购750公斤石榴也基本卖完

大风新闻
2026-09-01 19:27:03
伊朗称袭击约旦哈桑王子空军基地 摧毁多架无人机

伊朗称袭击约旦哈桑王子空军基地 摧毁多架无人机

财联社
2026-09-02 07:39:07
己方阵亡79人,歼敌数超过50000人!交换比达1:637?

己方阵亡79人,歼敌数超过50000人!交换比达1:637?

战风
2026-09-01 16:57:30
小蜘蛛替身!巴萨官宣29岁阿森纳中锋加盟 签3年穿9号 总价1400万欧

小蜘蛛替身!巴萨官宣29岁阿森纳中锋加盟 签3年穿9号 总价1400万欧

我爱英超
2026-09-01 21:01:42
今日重要赛事!9月2日,央视CCTV5、CCTV5+直播节目表

今日重要赛事!9月2日,央视CCTV5、CCTV5+直播节目表

薇说体育
2026-09-02 09:44:41
斯诺克战报:彻底失控了!中国双星遭“重创”,赵心童独自扛旗

斯诺克战报:彻底失控了!中国双星遭“重创”,赵心童独自扛旗

帽檐下的阳光
2026-09-02 09:20:18
世预赛实力榜中国男篮升2位至第5,FIBA盛赞杨瀚森

世预赛实力榜中国男篮升2位至第5,FIBA盛赞杨瀚森

赛场名场面
2026-09-02 14:45:10
莫言:永远不要期望一个没有血缘关系的人,能站在你的角度替你考虑|成年人最大的清醒

莫言:永远不要期望一个没有血缘关系的人,能站在你的角度替你考虑|成年人最大的清醒

杏花烟雨江南的碧园
2026-07-27 11:15:03
大陆特使一看,台当局也被邀请,撂下一句后果自负,扭头离开会场

大陆特使一看,台当局也被邀请,撂下一句后果自负,扭头离开会场

老谢谈史
2026-09-02 14:05:36
423万拆迁款女儿一分没有,父亲大寿她不去,一月后哥哥送来文件

423万拆迁款女儿一分没有,父亲大寿她不去,一月后哥哥送来文件

林林故事揭秘
2025-05-06 15:43:19
刘畊宏直播间凉了,“老板娘”的身材戳破了多少人的减肥梦?

刘畊宏直播间凉了,“老板娘”的身材戳破了多少人的减肥梦?

看尽落尘花q
2026-08-23 19:28:46
教育部:严禁设立重点班、实验班、快慢班!

教育部:严禁设立重点班、实验班、快慢班!

ilove汕头
2026-08-30 20:41:31
美国力邀俄罗斯重返G20 “背刺”欧洲?

美国力邀俄罗斯重返G20 “背刺”欧洲?

看看新闻Knews
2026-09-01 23:35:05
中日若开战,将是地狱模式!全球终于清醒了:中国这次不是在演戏

中日若开战,将是地狱模式!全球终于清醒了:中国这次不是在演戏

叶葉夜
2026-08-31 11:23:21
CCTV5直播,中国男篮VS哈萨克斯坦,12人名单出炉,崔永熙2人落选

CCTV5直播,中国男篮VS哈萨克斯坦,12人名单出炉,崔永熙2人落选

体坛小快灵
2026-09-02 09:17:09
跌下神坛的贵族水果,从百元一斤跌到几块钱,人们反倒不愿意买了

跌下神坛的贵族水果,从百元一斤跌到几块钱,人们反倒不愿意买了

铭记历史呀
2026-09-02 02:16:05
高铁女孩熟睡男生盯死手机不敢转头,两百万外网围观无声的人机对峙,藏着成年人不敢破冰的社交尴尬防线

高铁女孩熟睡男生盯死手机不敢转头,两百万外网围观无声的人机对峙,藏着成年人不敢破冰的社交尴尬防线

明话直说
2026-08-25 18:07:55
《牛来》宣布延长上映!公映密钥延期至10月4日,票房从7000元飙到近6000万,AI预测票房近7000万

《牛来》宣布延长上映!公映密钥延期至10月4日,票房从7000元飙到近6000万,AI预测票房近7000万

金融界
2026-08-31 16:55:22
2026-09-02 16:19:00
科技与文明 incentive-icons
科技与文明
关于科学,关于科技,关于人文,关于文明,关于社科,关于哲学,关于经济,关于我们的一切
373文章数 100关注度
往期回顾 全部

科技要闻

凌晨最强模型上新,Claude Fable 5.1发布

头条要闻

连续6天重击基辅 俄乌冲突新阶段:俄无人机能力大增

头条要闻

连续6天重击基辅 俄乌冲突新阶段:俄无人机能力大增

体育要闻

一次有奖问答,让他成为欧冠主帅

娱乐要闻

孙宇晨和景甜的瓜彻底反转了

财经要闻

需要重视的全球“资金失衡”

汽车要闻

一汽-大众新能源的新答案 试驾ID. AURA T6

态度原创

时尚
本地
家居
数码
军事航空

夏天别总穿黑色裤子,试试这几款高腰裙,显瘦优雅又提气质

本地新闻

昆明的雨,解锁汪曾祺的浪漫雨季

家居要闻

2026建博会(广州) 公装联探展交流活动

数码要闻

手机影像正从单一参数突破转向系统能力的综合竞争

军事要闻

特朗普威胁伊朗终极打击蓄势待发

无障碍浏览 进入关怀版