网易首页 > 网易号 > 正文 申请入驻

万字追问:如何用“时间的本质”,丈量人脑、意识与人工智能?

0
分享至


时间究竟是什么?是宇宙中不可动摇的维度,还是我们大脑创造出的主观体验?

在物理学中,时间常被描述为一个静态的维度,过去、现在和未来在“块状宇宙”中同时存在,时间的流逝不过是人类意识的幻觉。然而,在神经科学的视角中,时间却是动态的、不可分割的,是塑造记忆、感知和行为的核心力量。

“物理学和神经科学之间存在着一种持续的张力,喜欢相互攻讦。神经科学家常会说,如果物理学告诉你时间并不流动,那一定是物理学出了问题。”加州大学洛杉矶分校神经科学家迪恩·布奥诺马诺(Dean Buonomano)如此形象地描述了两种时间观之间的分歧。

然而,这种分歧有何而来?两者是否真的无法调和?一直以来,布奥诺马诺通过与物理学家卡洛·罗韦利(Carlo Rovelli)合作,试图在这两种视角之间寻找共识。在最近的一场对谈中,布奥诺马诺与卡内基梅隆大学的保罗·米德布鲁克斯(Paul Middlebrooks)深入探讨了这些问题。

从神经科学对时间的研究,到人工智能如何理解时间和因果,再到时间观念对意识理论的影响,他们尝试从不同的学科视角为这些复杂的问题提供答案。这场讨论为我们重新思考时间的本质,以及时间对于理解智能与宇宙万物的启发。

保罗·米德布鲁克斯

Paul Middlebrooks

卡内基梅隆大学助理研究员,播客“Brain Inspired”主理人

他在匹兹堡大学马克·索默实验室获得认知神经科学博士学位。随后在范德堡大学Jeffrey Schall, Geoff Woodman, and Gordon Logan实验室从事博士后研究,研究运动皮层和基底神经节神经群活动如何影响自由行为小鼠的自然行为。

迪恩·布奥诺马诺

Dean Buonomano

神经科学家、作者

加州大学洛杉矶分校(UCLA)教授,研究领域为计算神经科学和大脑的时间意识。主要作品有《脑虫:大脑的缺陷如何塑造我们的生活》、《你的大脑是时间机器》等。

目录:

01 人工智能忽视了脑科学吗?

02 物理学“时间” vs.神经科学“时间”

03 为何说整合信息论“不科学”?

04 器官型切片与传统脑切片有何不同?

05 大脑可以感知时间吗?

06 人工智能需要感知时间吗?

07 译者后记

人工智能忽视了脑科学吗?

保罗·米德布鲁克斯今天的第一个问题,让我们从人工智能开始聊起。今年初,你发表过一篇推文《大脑并不是创造智能的唯一方式》(The brain holds no exclusive rights on how to create intelligence),这篇文章读起来略显悲观。你提到,人工智能忽视了大脑的动态特性以及脑科学进展,且这种趋势未来有增无减。这是否意味着人工智能的发展已经偏离了神经科学的轨道?

迪恩·布奥诺马诺:是的,我想我可以做一些补充。

首先,人工智能和神经科学自诞生之初起就一直是姊妹领域。我从未以任何方式暗示过人工智能忽视了神经科学。事实上,人工智能的基础正是神经科学的一些基本原理。比如,神经科学认为,信息和记忆存储依赖于突触连接的强度及其维持,而学习依赖于突触连接强度的变化。这一点也是所有基于人工神经网络的人工智能的核心。

从卷积神经网络到正则化(体现了某种稳态可塑性特征),再到神经网络随机失活(dropout,类似于突触失效),以及卷积神经网络基于V1架构而设计等方面,这些显然都受到了神经科学的启发,人工智能和神经科学之间的关系非常密切。当冯·诺依曼写下我们现在称之为“数字计算机”或“冯·诺依曼计算机”的第一批架构的第一个代码时,他也是受到了大脑的启发。然而,计算机科学和神经科学的分化也非常迅速。

我认为,现在我们正处于一个分水岭——人工智能和神经科学的联系正在逐渐削弱。

在2010年左右,当人工智能开始认真处理语音识别、动作识别以及与世界交互等问题时,循环神经网络(RNN)被认为是未来的发展方向,它模仿了大脑感知时间的方式,并具有自己的内部动态。

然而,2017年Transformer架构的出现改变了一切。那篇论文《注意力就是你所需要的一切》(Attention is All you Need)提出了一种全新的方法,使领域迅速从RNN方法转向了Transformer。对我来说,Transformer最令人惊叹的地方在于,它无需感知时间,却仍能在许多任务上表现出色。

Transformer无关时间,但它能分辨顺序和时序。比如,它可以区分“我是”和“我是吗”之间的差别。它是如何做到的?答案是通过“位置编码”。Transformer不是先处理“我”,然后再处理“是”,而是同时并行处理“我是”或“我是吗”,,并通过位置编码标记词元的位置。例如,“我”被标记为第一个词元,“是”被标记为第二个词元。这样,虽然它不感知时间,但它仍然能理解顺序。

例如,如果你在ChatGPT里输入“等10秒钟再告诉我法国的首都”。它不会忠实地执行,而是立即回复“OK”,给出答案,没有等待。当然,如果你使用了合适的提示词,它可能会调用Python编译器,实现等待10秒钟再回答。

保罗·米德布鲁克斯:位置编码本身并不利用时间,而是利用时序的位置。你对此的态度是悲观还是乐观,或者你只是指出这种情况可能会持续下去——你从中得出什么结论呢?

迪恩·布奥诺马诺:我认为,这是对“人工智能只有在神经科学的指导下才会迈出下一步”这种观点的回应。我对此持中立态度,属于不可知论。在某些方面,NeuroAI的观点有一定道理:为了达到更高的智能水平,人工智能或许确实需要神经科学的支撑。然而,正如刚才所说的,过去十年人工智能的进步令人惊叹,而它并没有严格遵循神经科学的基本原理,就如时间的连续性或大脑动态处理时序等。

顺便说一下,我可能不太喜欢用“sequence”这个词,因为它往往暗含着时间。我更倾向于用“ordinality”这个词,它只表示第一、第二和第三的顺序……这里的术语非常模糊,确实会造成一些混淆。


Joey Guidone

保罗·米德布鲁克斯:你一直用“进步”(progress)这个词来形容人工智能领域的成就。我们如何定义“进步“?又是如何定义通用型人工智能”(AGI),AGI与奇点的区别是什么?

迪恩·布奥诺马诺:有些人所谓的进步,可能是其他人的倒退,这取决于你最终是追求通用人工智能(AGI)还是奇点。

讽刺的是,AGI指的就是通用型人工智能。别管它是什么了,直接定义为“智能”(intelligence)就好。事实上,智能的成因目前尚无定论。而不定义智能就谈论它,其实并不明智,虽然很多领域都是如此——无论是意识领域还是自由意志领域,甚至是基因的含义,我们有时不得不处理一些定义不明确的抽象概念。AGI的定义不明确,但智能本身也同样不明确。人类聪明吗?这个标准是高还是低?人类智力的标准非常低。

物理学与神经科学中的“时间”

保罗·米德布鲁克斯:对此我们观点一致,下面让我们来聊聊物理学和神经科学对时间的不同理解。也许我们可以从你和物理学家的合作这点开始。

迪恩·布奥诺马诺:刚才我们讨论了Transformers,这可能是一个很好的引子。在Transformers中,过去和现在同时存在,因为你同时把整段内容“并行地”输入到Transformers中。这与我同身为物理学家的Carlo Rovelli讨论时间本质时的两种观点,略有相似之处。

在Carlo和我合作的这篇《连接神经科学与物理学的时间》(Bridging the neuroscience and physics of time)的文章中,我们试图弥合哲学、物理学和神经科学中关于时间本质的两种观点:

一种是“现在主义”,这是我们作为神经科学家的直觉观点:现在是真实的;过去曾经是真实的,但它在此刻不再真实,我们对过去的记忆仅仅是大脑中残存的印象;而未来尚未成为真实。

另一种是“永恒主义”,或块状宇宙(block universe)观,甚至更极端的“静态永恒主义”。这种观点认为宇宙是一个四维的块状宇宙,在某种意义上,时间已经消逝(transpired)。所有时间,过去、现在和未来,都同样真实。一种方便的比喻是,“现在”之于时间,就像“这里”之于空间;正如我们接受自己处于某个“这里”,但也承认其他位置会变成“这里”。

在现在主义中,我们不接受其他的“现在”的可能性。而在永恒主义中,所有现在都同样有效。

Transformers在很大程度上体现了“永恒主义”或“块状宇宙”的观点——过去和现在同时存在。而RNN则不同,它更接近“现在主义”,是逐步处理信息的。


块状宇宙。图源:Scientific Diagram

保罗·米德布鲁克斯:我总是把块状宇宙想象成一块蜡,可以把它切成任意薄片,每一片都代表一个时间点,然后可以访问不同的切片。我很想听听你是如何与Carlo Rovelli合作的。我不知道你们之前是否认识,你们的合作是怎么发生的?是哲学把你们联系在一起的吗?

迪恩·布奥诺马诺:是的,绝对是。我和Carlo一起参加了几次关于时间的会议,还有几次关于时间的哲学研讨会。物理学和神经科学之间一直有着张力,我们喜欢互相攻讦。神经科学家喜欢说:“听着,我们生活在一个现在主义的宇宙中,时间在流动,时间在变化,如果物理学告诉你不是这样,那物理学一定是哪里出了错”。这里我稍微夸张了些。

而有些物理学家认为,时间的流动是一种思维的幻觉,他们会反驳:“听着,你们神经科学家,反而应该弄清楚为什么我们会有这种时间流动的幻觉,因为它根本不存在”。部分物理学家(不是全部),把永恒主义视为理所当然的教义,因此很难想象时间如何流动,为什么神经科学家会有这种主观的时间流动感。

这里我一分为二地看待这个问题。“时间是静态的”,这对大多数神经科学家来说非常违反直觉。那为什么物理学家会持有这种观点?有几个原因。一是物理学中的许多方程都是时间可逆的,你既可以用它正向预测未来,也可以拿它们来反向追溯过去。这种时间对称性与相对论无关,尽管相对论方程当然是时间可逆的。

在相对论中,时间和空间是一种权衡,而存在一个叫做“闵可夫斯基空间”的概念,它表明时间和空间可以统一为一个四维的整体。这个空间最好的可视化方法是:如果没有绝对的“现在”,那么你以一个速度运动,我以另一个速度运动,我们的时钟就会以不同的速度运行。回到“蜡块”的比喻,想象我们所有人都在一个蜡块里,如果我们以不同的角度(正交或对角)切割它,就会发现我们可能分别处于不同的“同时性平面”上——这表明了时间的空间化。

保罗·米德布鲁克斯:所以在这个问题上,无论是神经科学还是物理学,哪方都没有强有力的证据支持。这些都是基础的开放问题。这个问题的关键在于,我们对时间流逝的主观体验。


西班牙超现实主义画家萨尔瓦多·达利对时间的诠释。图源:imuseum

在我们人类所处的中观时间尺度上,神经科学家持有现在主义的观点是可以接受的,因为这是我们所能研究的全部范围,我们的时间感是基于中观世界的有限经验。而物理学家对于时间的哲学理解,则超出了我们的认识论范畴,因为我们无法直接测量或观察到那个尺度上的现象

迪恩·布奥诺马诺:当然,我们生活在中观尺度上,相对论速度或量子现象并不存在于我们的日常生活中。这解释了为什么我们的直觉在理解这些现象时会出错。我们对“现在主义”的理解是中观世界的产物,我不认为这是一种错觉,因为块状宇宙正是在那个时间尺度上运行的。块状宇宙与时间尺度无关。

我不想从中发散出太多结论,我认为这正是问题的一部分。与黑洞附近的引力或相对论速度下的时间不同,时间的流动应该在所有尺度上发生。我的观点是,由于大脑进化是为了理解我们所生活的宇宙、我们的中观宇宙与世界,而它们都受物理定律的支配,因此我们看到时间流动也是现实的一部分。

保罗·米德布鲁克斯:它受近似牛顿物理学的支配,这就是我们生活的世界。那么我们的时间感也是如此,对吗?

迪恩·布奥诺马诺:是的,这就是我们的物理感,也是我们的时间感。但即使在块状宇宙观中,时间感也适用于中观尺度。我想说,我们对时间的感知,并非仅限于我们生活的这个以中观尺度运作的世界。

我们提出,我们感知到了时间,但在这一点上我和Carlo存在分歧。我认为,我们感知到时间是因为它确实在流动。需要明确的是,这与物理定律绝对不矛盾。物理定律允许现在主义,也允许永恒主义,前提是局部现在主义,而不是牛顿式的绝对时间。

我们这些异常聪明的猿类,确实没有能力真正弄清楚这些定律,无论是在量子尺度还是宇宙尺度上。假设我们不是生活在黑洞或对撞机旁边,这些定律的表现稳定。我不知道你们为什么不相信定律。

保罗·米德布鲁克斯:对。我认为我现在对定律的理解已经和以前不一样了。也许这样说才对。我记得Yael Niv(雅尔·尼夫)说过,数学的美妙之处在于,“你可以设计实验去验证它,你可以做数学运算,进行各种数学运算,可以把这些数学运算用到不同的东西上,它都能有效。这就是数学的美妙之处”。我喜欢这个说法,我想这正体现了“规律”之所在。

迪恩·布奥诺马诺:大脑充满了认知偏见,我们会做出错误的决定。

大脑进化,并非为了满足我们的智力意愿,其目的显然不是为了理解物理定律或意识的本质,更不是为了理解心智。

对我来说,数学是迄今为止发明的最好的智力工具。或许有一天,会有人提出一组描述抽象事物的方程式,无论是一般运动还是量子物理中的薛定谔方程,这些方程式尽管复杂,但如果运用得当,我们就能预测周围的世界。是的,我认为这些方程式是我们理解这些定律的工具。

需要说明,我根本不是柏拉图主义者。我不认为它们反映了宇宙中存在的实体。

数学并不完美。数学在某些配置下可以是完美的。数学可以捕捉真理,但也存在很多糟糕的数学。有些东西你可以用数学来记录。那只是应用数学。同样,数学在反映现实方面可能并不特别准确。数学有时能捕捉到宇宙运作的方程,有时则不能。

为何说整合信息论“不科学”?

保罗·米德布鲁克斯:现在可以谈谈整合信息论(Integrated Information Theory,IIT)吗?一大群学者认为IIT是伪科学。您最近写了一篇文章,详细阐述了为什么您认为它是不科学。能否请你解释一下,IIT是什么,以及它为什么不科学,却能做出预测。

迪恩·布奥诺马诺:我认为,理解为什么一百人签署了一封担忧IIT不科学的公开信,比讨论“是否是伪科学”的措辞更有意义。首先,我先声明几点。与其说形成了一个IIT关注联盟,这或许更应该被看作是一群人聚集起来而已。而他们竟然聚集了一百个人来签署某个文件,我认为这才是人们应该反思的事情,而不是去思考它为什么会出现。另外,我不能代表这个群体发言,我只能分享我的观点,仅此而已——我绝不以任何方式、立场或形式代表任何群体。

回过头来聊聊你问的问题。COGITATE项目正在收集数据,未来会将高质量的数据开源,这总归都是好事,我想这一点大家都会认同。而我对IIT的所有担忧都与COGITATE项目无关,只与IIT和物理定律有关。

我认为人们需要理解这一点(很多人对此存在误解):IIT并非神经科学理论,而是一种基础物理理论。它就宇宙的结构和属性提出了一种新的本体论,认为某些物质结构具有意识。这就是为什么有些人认为它是一种泛灵论。在IIT理论下,许多形式的物质,无论是否属于神经类型,都可以具有意识。这就是我在这里要关注物理定律的第一原因。

我之所以认为IIT不科学,最简洁的解释是:新的物理定律必须整合到现有定律中,否则,你将得到的就是一个自由浮动、脱节、未整合的规则或定律,既无法对其进行可靠性检验,也不知道它是否与现有定律相符。物理学就像一个未完成的美丽拼图,包含了许多碎片。你不能随意地拼凑新的碎片,而不与现有的碎片整合,因为那样你就不知道自己是否违反了已有其它碎片的规律。

因此,我认为在不整合现有定律的情况下就制定全新的定律,不符合正常的科学方法。需要结合旧定律才能知道是否存在违规行为。在我看来(只是我个人的看法),“是的,我确实认为IIT可能违反了某些物理定律。”

真正的关键在于,它就像一个孤岛——IIT虽有“整合信息”之义,但讽刺的是它与其他科学领域却没有整合。IIT通常被描述为具有内在因果性的系统,而“内在因果性”这三个词在直观上的含义上并不一定能让人一眼就看出。

我尽力用一个真实的例子来解释。由于IIT并非神经科学理论,它不需要神经元,我们可以用逻辑门系统来解释。

假设有两个逻辑门A和B,它们是简单的复制门或阈值门,状态要么开(1)要么关(0),接收0就输出0,接收1就输出1,仅此而已。

IIT要求,系统的当前状态需包含关于过去和未来状态的信息。现实中,这涉及许多复杂概念,如分区、子网络、通道、机制等等,但在这个由A和B组成的简单系统中,只需思考一个问题:如果B当前是1,这是否限制了系统的过去?答案是肯定的,因为如果B现在是1,那么A在上一个时程就必须是1,这是B变为1的唯一原因。

这就意味着,这个系统有可能具有意识,它可能拥有一个正的φ值(IIT用来衡量意识的指标)。但我们还必须考虑未来:B是否对未来有任何限制吗?答案是否定的,因为B的状态不会回馈到自身或A。

换句话说,这个系统对未来没有任何约束力。它的行为与随机状态相比并没有额外的信息,也无法预测未来,就像你刚才提到的那样。

这里,神经科学家可能会问:“你所说的过去和未来具体指什么?是过去和未来的某个时间点?”这是IIT的难题,因为它有时要求我们查看某个范围内过去和未来的所有的时间点。它是离散的。对于计算机来说,这种离散的时间步长是清晰的,因为计算机的时间是明确划分的。但对于大脑来说,情况并非如此,这可能会引发一些问题。

现在,如果我们将B重新连接到A,就形成了一个循环神经网络。如此连接确实会让B的状态开始影响未来,并限制未来可能发生的事情。这样一来,系统就表现出了一定的意识。通过增加这个连接,系统的意识phi值变成了1。

接下来,我们可以尝试做一个思想实验来进一步理解这一点。IIT的一个特点是,它与空间和时间无关。如果我们将系统中的两个单元分开,并拉大其间的距离,这种分离实际上并不会改变系统的意识状态。只要连接保持良好,系统就一直是有意识的。甚至,即使两个单元都处于关闭状态(值均为0),系统仍然是有意识的。


假设我们进一步改变系统的状态,把两个单元取出,剪断它们之间的电线,用光束连接起来,再把它们放到太阳系的两端的随便什么地方,比如一个在地球上,另一个在海王星上。根据IIT理论,只要连接良好,它的phi值始终为1。这真的很重要,因为它引发了一个问题:意识究竟在哪里,是在地球上,在海王星上,还是在两者之间?

我们可以再做一个思想实验——现在我们要阻断光路。记住,光路没有传输任何东西,因为它们处于0状态,就是在它没有激活的情况下阻断它。按照我们物理学家的传统思维方式,什么都不应该发生,这在物理学中没有先例。此时,唯一会发生的事情就是phi值趋于零。

那,归零需要多长时间?大多数人认为它会瞬间归零——即使这两个门相距很远,它也会瞬间归零。然而,你应该对物理学中出现的瞬时变化提高警惕,因为“超光速传输”是物理学中的大忌。因此,Phi值会瞬间下降,但实际上并没有任何信息被传输。

现在,让我进一步扩展这个思想实验,我们可以你的名字来命名这个实验——“米德布鲁克斯裂脑实验”。在你允许的情况下,我们将取出你的大脑,一半留在地球上,另一半放到海王星,其间用光束连接。根据大多数人的说法,你仍然会有意识。而有意识的实体的一个特点是,可以交流意识的变化。现在,如果我们干扰其中一些连接,并且我们清楚我们在做什么,这会发生什么?

我实际上是在问一个问题:如果阻断大脑半球的这些连接,现在你可以通过phi值(你的意识层面)传达这些变化。你的意识状态如何改变,是否还可以交流?我们现在是否有办法即时传递信息?

这里,我认为IIT的支持者会提出几点:

  • 延迟的影响:增加延迟会改变信号分发,你的意识就在海王星或地球上,但可能无法通讯了。我认为这是可以解决的,因为这是一个思想实验,我们可以根据大气层间连接的延迟和大气层内连接的延迟进行调整。

  • 干扰的结果:IIT的支持者会说:“嗯,因为我干扰了地球上的线路,所以造成了这个结果”。现在情况有点复杂,可能会有论点认为phi值趋于零,或者系统因为“知道”未来某个时刻我会干扰这些连接而提前改变,有点像千里眼。

总之,事情变得有些复杂了。对此我感到抱歉,但这正是IIT及其相关思想实验的挑战所在:很难明确指出它是否违反物理定律。我的观点很简单:由于IIT是“自由浮动”的,与其他物理学分支脱节,所以无法回答我提出的这些问题。我不知道它是否违反了物理定律,因为它的定义不够明确,与其他物理学分支的整合也不够紧密,以至于无法知道这些定律是否被违反。

我认为问题不在于我们是否同意新的本体论,而在于如果新的本体论得到支持,我们就会同意。在我们同意新的本体论之前,我想先搞清楚它是否违反了现有的本体论。对我来说,这是科学过程的第一步。正如我之前所说,物理定律并非一成不变,它们有改变的空间。但我需要知道,在没有任何经验数据的情况下,提出的新本体论是否与现有的本体论一致。

保罗·米德布鲁克斯:值得一提的是,从卡尔·波普尔(Karl Popper)的视角来看,科学的本质在于它实际上是可以不断被证伪,这取决于我们现有的整个科学知识库。

卡尔·波普尔(Karl Popper)是20世纪杰出的哲学家(1902~1994)。他提出了“可证伪性”原则,强调科学理论必须能够被经验事实证伪,即理论需要有被证明错误的可能性。波普尔反对归纳法,主张科学知识的发展依赖于假设的提出和批判性检验。波普尔还探讨了开放社会的概念,在《开放社会及其敌人》一书中批判了历史决定论和乌托邦式社会主义,强调民主和个人自由的重要性。他的哲学思想对科学哲学、社会科学以及教育学等多个领域产生了深远影响,促进了科学方法论的发展和对知识增长机制的理解。

有趣的是,听了你的“长篇大论”,我发现,我们讨论的不是COGITATE项目,而是海王星和冥王星、视觉通路,以及瞬时性。归根结底,预测结果是IIT位于后顶叶皮层。

迪恩·布奥诺马诺:我再次强调,我说过COGITATE项目很棒。我认为数据收集很好,但我并没有说它的解读或使用方式是理想的。我认为他的问题在于,它是对两种理论的检验,而这两种理论都缺乏约束。如果你读过Stan Dehaene(斯坦尼斯拉斯·迪昂)的结论,他明确地指出,IIT实际上并没有被检验;被检验的是IIT的一种松散的解释,它预测了IIT位于后顶叶皮层的原因。

说实话,我并不完全理解。IIT是以数学为核心(这一点尚未经过测试),IIT建立在数学支柱之上,它过于复杂而无法计算。一个拥有321个神经元的秀丽线虫的φ值,如果你从今天开始计算,等你完成的时候,太阳就已经完全消失了。这种数学结构用处有限。

我想澄清的是另一点。如果IIT的支持者认为φ值与意识相关,或者说是意识的衡量标准,我认为IIT的关注度就不会这么高。IIT值得称赞的是其数学框架,但实际上他们并没有考察其数学框架。因为根据定义,φ值无法计算,充其量只得到了估算值。

保罗·米德布鲁克斯:在COGITATE项目的案例中,他们最终进行了IIT与全局神经工作空间(Global Neuronal Workspace Theory,GNWT)理论的比较测试。科学界为什么可以接受GNWT理论,而IIT却不行?

从你所说的认识论角度来看,GNWT理论似乎很难定义。Bernard Baars(伯纳德·巴尔斯)的哲学定义更抽象,其后的Stanislas Dehaene(斯坦尼斯拉斯·迪昂)使其更加神经科学。

全局神经元工作区理论(Global Neuronal Workspace Theory,简称GNWT),GNWT试图解释意识如何从大脑活动中涌现,以及意识内容如何在大脑中被表征和处理。GNWT认为,意识是大脑中信息在广泛区域之间传播的结果,特别是通过前额叶皮层的“全局信息广播”机制。GNWT强调意识内容的全局可访问性,即一旦信息进入意识,它就可以被大脑中的所有信息处理系统所获取。这一理论在认知科学和意识研究领域具有重要影响,并且已经通过多种神经成像技术进行了实验验证。

伯纳德·巴尔斯(Bernard Baars)是GNWT的创始人之一,他在1988年提出了这一理论的早期版本,强调意识是一种动态的、整合的过程,其中信息在大脑的多个区域之间传播和共享。巴尔斯认为意识的产生需要一个全局工作区,这个工作区能够整合来自不同感官和认知过程的信息,并将这些信息转化为我们可以意识到的内容。

斯坦尼斯拉斯·迪昂(Stanislas Dehaene)是GNWT的另一位重要贡献者,他在巴尔斯的基础上进一步发展了这一理论。迪昂的研究主要集中在意识的神经机制上,他使用多种神经成像技术(如fMRI、MEG和iEEG)来研究意识的神经基础。迪昂提出了“全局神经元工作区”的概念,认为意识的产生需要大脑中的特定区域(如前额叶皮层)将信息广播到其他区域,从而使信息具有全局可访问性。

迪恩·布奥诺马诺:我认为你想表达的是,GNWT理论非常模糊、不定型,而且严重缺乏约束。这正是造成困惑的原因,我很高兴你提起这件事。

事实上,很多事情都是如此,造成了人们的困惑。我找不到更简单的答案或更简单的二分法。所谓“理论”,我们其实应该用引号,或者我们可以称之为“前理论”或“猜想”,因为它们并非真正成熟的理论。

我认为困扰我们很多人的正是你所指的,当你试图比较两套理论,一套理论虽然不完美,但不需要改变人类科学史上最成功的本体论——物理定律,而另一套理论则需要改变;且如果GNWT和IIT的支持几乎各占一半。那这两个理论是否处于同一水平?当然不。

我是指,两者势均力敌,但其中一套理论需要改变物理定律,那么谁会占优?肯定是不需要改变物理定律的那套理论。实际上,在我和他们交流的时候,讨论了一个问题:考虑到结果,你如何衡量哪一个更可信?

我觉得Karl Friston(卡尔·弗里斯顿)可能建议用贝叶斯方法来解决这个问题。这很有意思,如果你有很多需要分级的考虑因素和衡量标准,你可以采用贝叶斯方法。而正如我们所知,在贝叶斯方法中,物理定律是一个重要的先验假设。

保罗·米德布鲁克斯:这是一个强有力的先验假设,甚至是最强有力的先验假设。人们常说,正是它让我们(人类)登上了月球,但我们都知道我们(俩)还没去过月球,对吧?

器官型切片与传统脑切片有何不同?

保罗·米德布鲁克斯:我不知道这是否适合评论你最近的器官研究——它不是类器官,而是器官型。类器官和器官型之间有什么区别?器官型切片只是一块脑切片吗?

迪恩·布奥诺马诺:自80年代以来,器官型切片已经存在很多年了。如果你知道大脑切片的电生理实验,就应该熟悉那种“现切”的脑切片实验。也就是从啮齿动物身上取到的脑组织,然后将其切片放在ACSF(人工脑脊髓液)中保持活性,这就是脑组织切片,你也可以对其进行培养,它可以存活数周甚至数月。

艾伦研究所(Allen Institute)最近发表了一些关于人类器官型切片的论文。他们所用的脑组织保留了很多结构连接以及细胞类型,我们将其看作是大脑的一个小型VLSI(超大规模集成电路)芯片,并且可以“训练”它。

类器官作为一个近期发展起来的技术,它从具有多能性的干细胞或细胞培养物开始,诱导它们进入神经发育的早期阶段。这项技术仍在发展中,还无法用来研究学习过程或人大脑皮层的功能。目前培育的脑类器官只是在大脑非常早期的发育阶段,突触还没有完全发育成熟,还不具备完整功能。我认为最终会实现这个目标,但现在还为时过早。

保罗·米德布鲁克斯:让我回忆一下,从小鼠身上取脑切片,这是神经科学世界的入门课——处死小鼠,剥离出大脑,截取部分脑组织,然后放在一个精巧的切片机中,由此得到非常薄的脑组织切片,再把切片放入一种能维持细胞活力的溶液中。然后,由于过程中切断了许多神经连接,也就是神经元之间的长距离连接,需要等待一会儿使这些脑组织切片“恢复”。这之后,就可以使用膜片钳之类的技术,用电极记录单个神经元的信号,例如记录局部场电位或者导入电流等。那么,类器官与器官型组织的区别,就在于实验之后会继续培养细胞,是吗?

迪恩·布奥诺马诺:正如你刚才所说,过程中切断了许多长距离的神经连接。这种组织里每个神经元都失去了大量的输入,所以它处于异常动态中。接下来,稳态可塑性开始发挥作用,它会调整阈值、突触强度,使其恢复到某种个体发育状态或动态。这可以观察到神经元开始有电生理活动,像网络一样传递电生理活动,甚至会表现出“上行状态”(up states),呈现出动态变化的特性。

保罗·米德布鲁克斯:那么,脑切片和器官切片有什么区别呢?

迪恩·布奥诺马诺:传统的脑切片,不再处于可以传递电生理活动的动态状态,已经失去了大部分活性……另外,有的实验需要进行几天时间,传统脑切片其实活性难以维持那么久。

这是一堂关于脑切片、类器官和器官型切片的速成课。为什么要使用器官型切片?让我们先来谈谈一个科学问题——如果神经元是计算设备,神经回路是执行计算的系统,为什么我们必须在完整的大脑中研究这些计算?神经科学受益于还原论方法,比如可以从海兔、斑马鱼还是秀丽线虫中获得启发。但是,还原哺乳动物大脑皮层的最佳模型还得是哺乳动物的大脑皮层。

所有皮层都只是接收动作电位的场所,听觉皮层听不见,视觉皮层看不见。那么,是什么让听觉皮层更擅长处理听觉信息?Mriganka Sur的实验发现了一个惊人的现象,视觉刺激被重新定向到听觉皮层,这些听觉皮层的细胞竟然表现出了选择性。他们的观点核心在于,皮层是一个通用的计算设备,可以响应动作电位的时空模式。

借用这个原理,我们正在测试,如果感觉皮层、运动皮层、听觉皮层或视觉皮层,从根本上讲都在处理动作电位的时空模式,那么在这些独立的神经回路中,是否能捕捉到某种计算,或者某种依赖于经验的学习。

我们把器官型切片看作一个简化的系统,可以使得研究更可控。我们知道它的输入、输出,以及组织的处理过程。如果我们能找到方法赋予它稳定且可重复的生理活动模式,那么我们就能控制它。

例如借助光遗传学手段,我们能够用不同的光学模式刺激细胞或细胞亚群,从而关注它们是否能够学习和预测。在我们的实验中,先会给一个“红光”刺激,这串刺激持续了大概400毫秒;然后再给一个“蓝光”刺激,蓝光要么在红光开始时亮起,要么在红光结束时亮起。实验分为两个不同的组,早期组和晚期组,两组实验的唯一区别是刺激的时间先后顺序。我们每20秒或30秒就重复一次,持续训练24小时。后续实验还试着只给一串红光刺激,观察不同类型的细胞行为是否不同,或者系统的动态是否发生改变?如果观察到了模式变化,就意味着它根据经验进行了调整。

我们希望回答的问题是,脑组织会学习吗,会根据经验改变其结构和动态吗?我们很高兴地观察到,早期组中蓝光和红光会更早地引发活动,而在晚期组中则更晚。一种解释是,它预测了某事会发生,或者说,它预测蓝光会出现,但蓝光并没有出现,这是一个预测错误。我认为这对应了Karl Friston的观点。不过,我们的关注重点是,神经回路能够以经验依赖的方式学习,并捕捉时间结构——脑组织确实会学习,我们对这个结果很满意。

这项成果来自于我实验室里一位非常优秀的研究生Ben Liu,他现在在加州大学旧金山分校工作。Ben告诉我,他意外地发现了切片中似乎存在自发活动的重现,他注意到早期组和晚期组的自发活动结构有所不同。在早期组中,自发活动通常进展迅速,然后衰减;而在晚期组中,自发活动会随着时间推移而增长,并在预期的爆发时间之后达到峰值。

我们长期以来的研究方向或结论大致是,时间感知不应该被视为大脑的一项特殊功能,它如此基础,应该是神经回路的普遍属性。如果我们所说的神经回路本质上能够感知时间的说法是正确的,那么就应该可以通过这种实验方法得以证明。

而这也表明,即使没有身体,神经回路也能感知时间。

我把这个问题与IIT理论联系起来,因为根据IIT预测,神经回路中存在循环因此也是有意识的。这是这项研究的伦理意义,它明确了许多类器官、胎儿组织和其他物质可能具有意识。


来源:Davide Bonazzi

保罗·米德布鲁克斯:神经回路中,“时间”和“时序”有何区别?为什么它代表的是“时间”而不是“时序”?

迪恩·布奥诺马诺:在神经回路中,时序和时间的联系更为紧密。正如我们之前讨论过的,“时序”需要某种东西在时间中流动。谈到大脑时,我通常不使用“时序”这个词,因为时序指的是某种离散的东西。这适用于Transformers,不适用于大脑。但有时候两者很难区分。

提到神经时序,比如鸟鸣研究或交互中的神经时序,是存在顺序的。例如,按照神经元A、B、C、D、E的顺序,整个模式进行一秒钟或者半秒钟,两种模式的顺序性相同,而时间发生了变化,这只是动态系统的速度问题。动态的定义是随时间变化的,它通过改变动态的速度来提供。我们有办法改变速度,我可以讲得很慢,也可以讲得很快。这没什么特别的,只是大多数动态系统或许多动态系统的属性。

保罗·米德布鲁克斯:我也可以放慢语速,但那种放慢是一致的。有时我语速慢,有时我语速快。这就像鸟鸣,其中时间内部间隔的模式非常重要。也许这就是时间与时序的区别,时序中蕴含着时间。

迪恩·布奥诺马诺:是的。通常我认为时间是一个容器。我认为时间流(temporal flow)中蕴含着时序性,你可以控制它的速度。但我认为,这并非理解动态的根本。一切都在时间中流动,而时间的流动可以被捕捉为时序,而这与时间无关,或者只会真正地体现在你所关注的时间中。

你可以这样想:如果我让“分辨绿灯和红灯哪个先出现?”,这就是一个顺序任务。而如果我问“灯闪烁的间隔是多久?”,现在这就变成了一个计时任务。它们都需要顺序和连续性,但后一个被称为时间任务,因为答案以毫秒为单位,而前一个顺序任务不需要毫秒为单位,只需要序列。

大脑可以感知时间吗?

保罗·米德布鲁克斯:David Robbe(大卫·罗比)通过研究基底神经节,暂时得出了一个结论,那就是大脑无法测量时间。事实上,生物体测量时间的方式是通过行为过程。“无论如何,时间不是用大脑来衡量的,而是生物体利用自身行为作为替代物来估计时间。”他托我带给你一个问题:“如果大脑里有群体时钟,谁可以读取它?”群体时钟的解码者是什么?

大卫·罗比“大脑无法测量时间”的观点,参见追问相关文章

迪恩·布奥诺马诺:首先,“解码者是什么”这个问题,适用于几乎所有过程,无论是空间解码还是颜色解码。我认为这个问题源于,人们认为时间定有某种特殊之处。但我不认为时间是一个特别独特的问题,我觉得所有的编码过程都类似。

那么,是谁在解码呢?这可以追溯到大脑中的“小人”理论。我认为这个问题已经找到不错的答案——并不需要“读取器”,全程只需要“计算”,计算也就是代码会生成神经元的活动模式,进而引发机体的运动模式。

罗比的观点或者你刚提到的“大脑无法感知时间”,是一种非常极端的观点。我不知道他是否真的这么说,但我们知道这种观点是错误的。

保罗·米德布鲁克斯:我认为他的观点是,假设我在敲摩尔斯电码。时间当然存在,这一点我们都同意。神经回路和时间维度,受到身体的限制,如神经元通路、肌肉组织的限制,或者学习时序的限制。然后,我可以按照节奏执行任务,而无需明确知道某个动作需要200毫秒。换句话说,这种时间感知受到中观层面的限制。它依赖于我们在世界中的行为能力,以及大脑-行为的输出能力,而不是单纯依赖神经元精确地“测量”时间。

迪恩·布奥诺马诺:我想我知道这个困惑问题的答案。

你举了“一个密西西比河、两个密西西比河”的例子。我们通过身体来计时,有时还会用运动指令,比如嘴唇的运动来控制节奏。那是谁在控制嘴唇?毫无疑问是大脑控制着嘴唇。即使存在反馈机制,但我们可以控制、切断反馈。虽然很多神经系统疾病都与反馈的破坏有关,导致机体的能力下降。但毫无疑问,是大脑在产生动态,是控制者。

我认为问题或误解可能在于,时间对这个领域的大多数人来说意味着什么。当我们说“节奏”时,实际上指的是动态。

有时,我觉得他是说大脑无法感知时间,就像时钟无法感知时间。但是,时钟只是一个机械系统,一个随时间变化的动态系统。时间是我们用来标准化变化的一种抽象概念。物理学家Ernst Mach(恩斯特·马赫)有一句名言,“用时间来衡量变化是完全不可能的,因为时间是我们通过测量变化而得到的抽象概念。”他说“时间不在大脑里”,这有点玩字眼,但没关系,反正时间也不在时钟里。

时间只是一种体现变化的抽象概念。

当我们说200毫秒或700毫秒,真正的意思其实是指,这段可以被时钟测量出来的时间,这里需要时钟去匹配它,有时我们会用身体来匹配它。

我可以举一些具体化或不具体时间的例子:

加州大学洛杉矶分校的电梯很烦人,你必须先刷卡,然后在之后大约905毫秒的时间内按下你想去的楼层的按钮(我还没掌握这个技巧)。为了做到这一点,我们有时会改变手臂的速度来配合,大脑会利用身体来帮助我们计时。否认大脑没有控制身体并做出动态动作,无疑是错误的。

我的大脑控制着我的身体来帮助我“计数”。我不知道这是否应该叫做“计数”。如果你愿意的话,确实可以这么说,但千万别把因果关系混为一谈。很明显,是大脑在与身体联系,即使大脑是控制身体的一部分。

保罗·米德布鲁克斯:那你的器官切片含有神经元,它们也是可以感知时间的,对吧?

迪恩·布奥诺马诺:是的。不过,我认为罗比可能会反对。时间是我们用来量化变化的词。而罗比使用“时间”这个词的方式与大多数人不同,他认为没有人能够感知时间,因为时间是一个抽象的概念,我们通过测量变化来获得它。我们暂时不讨论物理。我想找机会跟和他一对一聊聊,看他如何面对这个问题。


图源:Shuzhan Yu

保罗·米德布鲁克斯:总之,我的想法是,一个神经元,它经历了所有这些变化和过程。这些变化需要时间。神经元是个活体,既是个体,又不是个体,但却是自主的物体。你也可以说,人体是一个整体。如果我一边打鼓一边计时,我体内的所有这些过程都会影响我最终的行为。

我有个问题,一个神经元,它被光线照射时会逐渐适应,会习惯以一定的速率回收突触小泡,也会涉及到ATP的产生等节奏性过程。虽然这些节奏发生在细胞内,但那里没有“时间”。这些只是活细胞内部发生的物理过程的具体体现。你说,我们不谈物理,但我们必须讨论物理。

时间就是变化。假设我挑战极限,比如持续刺激24小时,可能就是在挑战细胞的极限。在刺激方案中,是否存在一个最佳刺激点,能够让单个细胞,乃至整个细胞群跟上并被诱导?这是一个小问题,但是我想问的问题。

迪恩·布奥诺马诺:首先需要澄清的是,这些现象并非单细胞特性,而是电路特性,需要神经电路整合才能实现。这确实有点令人困惑。有时我们会用神经动力学来表示单细胞特性,而神经动力学现在指的是电路特性。那么,什么是动力学?

动力学指的是任何遵循物理定律、在时间中运行的动态系统,无论是计算机还是从山上滚下来的球。

同样,我认为“时间”这个词很容易让人产生困惑。在这场辩论中,我担心有些人会错误地认为时间是某种存在的东西。

当我们说“某个过程持续500毫秒”时,是的,我们说的是刺激方案被设置为两个刺激之间的时间差是500毫秒。这里的“500毫秒”,是石英晶体振荡17000次所需的时间。我认为这就是这些争论如此令人困惑的原因,因为时间是一个如此重要的概念,以至于我们往往会忘记它并不存在于外部世界。

时间通常被认为是英语中最常用的名词。说它不存在有点讽刺。它确实锚定了我们生活的方方面面以及正在发生的变化。当我说大脑能感知时间时,我的意思是,大脑毫无疑问拥有动态过程,使其能够同步、预测、匹配和解码外部世界正在发生的变化。无论是内部情况还是外部情况,我们都恰好使用“时间”这个词来量化这些变化。

我明白,有时这会引起某种困惑。这也可以追溯到柏格森。我认为他只是用了“时间”这个词,跟大多数人(尤其是如今的人)使用“时间”的方式不太一样。所以这并非一个特别有研究价值的课题。

人工智能需要感知时间吗?

保罗·米德布鲁克斯:最后一个问题,我们一开始讨论了人工智能,以及时间在人工智能中为何无关紧要。那么,人工智能需要时间吗?

迪恩·布奥诺马诺:我想再次澄清:我从未说过时间在人工智能中无关紧要。我说的是,Transformer的成功令我惊叹,尽管它的架构不允许它们感知时间。显然,在机器人技术、自动驾驶汽车领域,时间很重要。此外,时间的结构也体现在语音处理上。例如,当你通过语音与ChatGPT交互时,像“大眼睛”或“灰色领带”,或者“他们给她猫粮”和“他们给了她猫粮”之类的语句,这些都体现了时间结构,而ChatGPT可以捕捉到这些时间差异。

其实,这不是Transformer的能力。语音识别是前端的处理,但它确实依赖于对时间间隔和时间结构的捕捉。

所以,我从未否认时间的重要性。你的问题是,时间对于人工智能是否重要?答案是肯定的,只不过它的实现方式不同。我们可以通过许多策略来处理时间,比如基于带有延迟的前馈网络来模拟时间动力学。

回到意识的话题上。对我来说,意识是一个生物过程,其定义取决于它如何随时间演化。对我来说,意识就像音乐。它只存在于时间的流动或生命本身中。你观察生命,问一个冰冻的生物是否活着是没有意义的,因为生命的定义在于变化、新陈代谢、繁殖......

保罗·米德布鲁克斯:我同意你的说法。我们唯一知道的是,意识是一个生物过程。至少,我们在生物过程中所知的唯一意识例子是那些随时间流动的事物。我认为,当意识场试图探索各种不同的渠道和理论时,从一开始就尝试将其建立在时间规则之上是有帮助的。在我看来,IIT不是一个过程,而是一种状态。

迪恩·布奥诺马诺:据我理解,IIT并不需要时间(改变)的概念。如果一切都是静态的,那么IIT仍然是有意识的。但这很难真正理解,因为它的定义并不明确,也没有相应的度量单位。我推测,对于在标准数字计算机上实现的人工智能,考虑到这些计算机本身没有连续时间,它们的计算是离散的,我因此推测,仅仅是推测,这些计算机不支持意识,因为它们不支持连续时间。

编译后记

时间是理解大脑和智能的关键。这次访谈,两位专家深入探讨了大脑如何处理时间的问题。时间不仅是外部的一个维度,更是大脑内部计算的核心维度之一。

布奥诺马诺强调了神经动力学、做预测的机制及其在人工智能中的潜在应用。他也对意识和自由意志等哲学议题做了探讨。布奥诺马诺强调了时间在大脑功能中的核心作用。他区分了“计时”(timekeeping)和“时间感知”(timing)两个概念,指出大脑并没有一个专门的“计时器”,而是通过动态神经网络对时间进行编码。

大脑中的信息处理,可以看作是神经元活动在高维空间中不断演化的轨迹。这种“时空轨迹”不仅编码外部信息,也反映了内在的时序结构。大脑不仅在处理当前输入,还在不断预测未来。预测性编码(predictive coding)是他强调的一个关键机制,用以解释感知、记忆和动作的时间协调。

布奥诺马诺讨论了时间如何嵌入到我们的认知功能中,比如语言、音乐、运动等。语言理解就是一个高度依赖时间结构的过程。他指出当前人工智能系统在处理时间和动态信息方面仍然较弱,大脑的时间处理机制有助于AI系统的改进。

在哲学层面,他简要讨论了时间与自由意志的关系。他认为要真正理解和模拟人类智能,需要深入探索大脑如何处理时间、因果关系和动态信息。这对于神经科学研究具有重要意义,也促使人们思考人工智能的底层逻辑。

*为了阅读体验,本文对听稿进行了适当的编辑。

原对话指路:https://www.thetransmitter.org/brain-inspired/dean-buonomano-explores-the-concept-of-time-in-neuroscience-and-physics/









关于追问nextquestion

天桥脑科学研究院旗下科学媒体,旨在以科学追问为纽带,深入探究人工智能与人类智能相互融合与促进,不断探索科学的边界。如果您有进一步想要讨论的内容,欢迎评论区留言,或后台留言“社群”即可加入社群与我们互动。

关于天桥脑科学研究院

天桥脑科学研究院(Tianqiao and Chrissy Chen Institute)是由陈天桥、雒芊芊夫妇出资10亿美元创建的世界最大私人脑科学研究机构之一,围绕全球化、跨学科和青年科学家三大重点,支持脑科学研究,造福人类。

Chen Institute与华山医院、上海市精神卫生中心设立了应用神经技术前沿实验室、人工智能与精神健康前沿实验室;与加州理工学院合作成立了加州理工天桥神经科学研究院。

Chen Institute建成了支持脑科学和人工智能领域研究的生态系统,项目遍布欧美、亚洲和大洋洲,包括、、、科研型临床医生奖励计划、、等。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
一夜之间,中国传来2个爆炸性突破,美国从88%降到9%,中国猛追

一夜之间,中国传来2个爆炸性突破,美国从88%降到9%,中国猛追

元爸体育
2025-11-19 13:19:59
重生!杨瀚森两场比赛证明自己,球迷怒喷开拓者主帅,追梦盛赞!

重生!杨瀚森两场比赛证明自己,球迷怒喷开拓者主帅,追梦盛赞!

林子说事
2025-11-19 13:06:37
心梗去世的人飙升!医生含泪苦劝:无论多大年纪,天冷坚守4原则

心梗去世的人飙升!医生含泪苦劝:无论多大年纪,天冷坚守4原则

39健康网
2025-11-13 10:36:12
78岁北京大爷赴四川寻找失散60年的初恋,仅一眼,他便狠扇自己耳光

78岁北京大爷赴四川寻找失散60年的初恋,仅一眼,他便狠扇自己耳光

如烟若梦
2025-10-30 16:10:24
模特大赛冠军“乌龙”,为何舆论滔天才肯认?丨中听

模特大赛冠军“乌龙”,为何舆论滔天才肯认?丨中听

大象新闻
2025-11-19 19:42:03
希望我国出手相助?计划在中国建厂,还承诺将整条生产线搬来我国

希望我国出手相助?计划在中国建厂,还承诺将整条生产线搬来我国

苏曼文史
2025-11-14 17:00:15
朱元璋登基后赏赐姐夫,姐夫跪地只求回乡种地,承诺此生不进京城

朱元璋登基后赏赐姐夫,姐夫跪地只求回乡种地,承诺此生不进京城

晓艾故事汇
2025-11-18 17:12:56
张博恒单杠失误瞬间一裁判鼓掌大笑遭质疑,官方回应:涉事裁判员终止比赛执裁资格

张博恒单杠失误瞬间一裁判鼓掌大笑遭质疑,官方回应:涉事裁判员终止比赛执裁资格

台州交通广播
2025-11-18 23:35:12
男按摩师亲述:女客人的要求是不一样的

男按摩师亲述:女客人的要求是不一样的

诡谲怪谈
2025-03-29 21:57:50
梅艳芳为何红颜薄命?白龙王揭秘:她本有长寿之相,错在关键一步

梅艳芳为何红颜薄命?白龙王揭秘:她本有长寿之相,错在关键一步

萧竹轻语
2025-11-14 17:10:43
浙经贸的三分钟战士大二弟弟火了

浙经贸的三分钟战士大二弟弟火了

杭城村叔
2025-09-11 12:54:47
“700多万买的房,竟成这样!”沪上热门新楼盘“满目大疮疤”,业主“细思极恐”→

“700多万买的房,竟成这样!”沪上热门新楼盘“满目大疮疤”,业主“细思极恐”→

新民晚报
2025-11-18 20:56:46
阿里开始严查午休

阿里开始严查午休

蚂蚁大喇叭
2025-11-17 09:56:58
48岁曾黎回老家种地!满脸褶头发花白断崖衰老,徒手摘黄瓜像农妇

48岁曾黎回老家种地!满脸褶头发花白断崖衰老,徒手摘黄瓜像农妇

金风说
2025-11-01 15:41:57
把这篇文字,发给你身边的日本人

把这篇文字,发给你身边的日本人

柴差说
2025-11-18 21:53:19
广岛、冲绳、长崎接连表态:反对!日本一航司跟进免费退改赴日机票政策,有乘客已提交申请;日本国债遭投资者抛售

广岛、冲绳、长崎接连表态:反对!日本一航司跟进免费退改赴日机票政策,有乘客已提交申请;日本国债遭投资者抛售

每日经济新闻
2025-11-19 11:47:03
喻恩泰的X瘾症!

喻恩泰的X瘾症!

八卦疯叔
2025-11-18 10:34:19
《鬼灭之刃》票房越高,我越为国产片感到悲哀!

《鬼灭之刃》票房越高,我越为国产片感到悲哀!

八卦南风
2025-11-19 10:54:09
美媒公开中国轰炸计划:日本若敢走错半步,将被万枚导弹轰炸成渣

美媒公开中国轰炸计划:日本若敢走错半步,将被万枚导弹轰炸成渣

标体
2025-11-14 19:47:19
51年曾泽生从朝鲜回国,见过主席之后回家吩咐妻子:北京不能待了

51年曾泽生从朝鲜回国,见过主席之后回家吩咐妻子:北京不能待了

鹤羽说个事
2025-10-25 11:52:27
2025-11-19 20:31:00
追问Nextquestion incentive-icons
追问Nextquestion
科研就是不断探索问题的边界
617文章数 27关注度
往期回顾 全部

科技要闻

一夜封神,Gemini 3让谷歌找回“碾压感”

头条要闻

台旅行团在意餐厅点5份披萨遭老板嘲讽 当地华人反击

头条要闻

台旅行团在意餐厅点5份披萨遭老板嘲讽 当地华人反击

体育要闻

世界杯最小参赛国诞生!15万人岛国的奇迹

娱乐要闻

史林子出轨对方前妻放锤!

财经要闻

荷兰政府暂停接管安世半导体

汽车要闻

此刻价格不重要 第5代帝豪本身就是价值

态度原创

艺术
游戏
教育
手机
旅游

艺术要闻

启功:我是画家,但书名超过了画名

《永恒之塔2》公测首日初期体验:一场令人又爱又恨的韩式MMO盛宴

教育要闻

班上不违法纪律,但也不学习的学生很多,是什么回事?

手机要闻

vivo S50 Pro mini处理器曝光:全球首批搭载第五代骁龙8

旅游要闻

灵隐寺免门票,打开文旅新姿势 | 新京报专栏

无障碍浏览 进入关怀版