ChatGPT之后，OpenAI的下一个目标：AI尼采超人…到2045年，我们将迎来技术奇点？

　　OpenAI公司推出了“顶流”ChatGPT和GPT-4；谷歌亮出了医疗保健模型MedPaLM 2外，还把AI工具整合进Workspace；微软也使用GPT-4构建Bing Chat，并推出重磅的GPT-4 Office“全家桶”；百度紧随其后，发布“文心一言”……就连OpenAI首席执行官萨姆·奥特曼（Sam Altman）在接受美国广播公司（ABC）采访时都坦言，对于人工智能带来的风险“有些害怕”。

　　此时，若展望未来几十年，隐约在心头的疑问将再次浮现：人工智能最终会怎样影响人类？或者更直接点，人工智能会替代人类吗？这已经不是一个科幻之问，甚至已经到了不得不思考的程度。

　　20世纪八九十年代，美国科幻作家弗诺·文奇 （Vernor Vinge） 首次推广了“技术奇点” （technological singularity） 的概念：人类创造的超级智能将终结人类文明时代，而它则继续自我升级，并以难以理解的速度进步。

　　今天，奇点意指在未来某个时间点，技术进步将变得无法控制且不可逆转，从而导致人类文明发生不可预见的变化。许多哲学家和科学家认为，人工智能有朝一日可以达到 （甚至超越） 人类式“思维”，我们似乎正在走向AI的奇点。

　　那个奇点处的AI，就是所谓的“通用人工智能” （AGI） ，具备人类智能的AI。它太先进太高级了，所以会不可逆转地改变人类文明。

　　脑机接口只是前戏

　　在许多未来学家眼中，脑机接口（BCIs）是奇点的自然开端，因为迄今为止，它们以其他技术无法做到的方式融合了人类思维和机器。

　　马斯克创立的Neuralink公司正寻求FDA的许可，希望就BCI技术开展人体试验。试验内容包括将神经连接器植入志愿者的大脑，以使其能通过思考来传达指令。

　　Neuralink 希望帮助截瘫患者重新走路，帮助视障人士重见光明。不过除了这些目标，他们还怀有其他雄心壮志。

　　马斯克长期以来一直表示，自己相信大脑植入物将实现心灵感应式的交流，并推动人类与机器的共同进化。除非人类使用这种技术来增强自身智力，否则我们就有被超级人工智能消灭的风险。

　　马斯克并不是唯一一个预测AI能力会大幅提升的人。调查显示，人工智能领域的绝大多数研究者都认同——“AI将在21世纪内实现人类水平的‘思考’”。而他们不认同之处在于——

　　这种“思考”是否等同于“意识”，又或者说，能像人类一样思考的AI会否对我们造成伤害。

　　另一家 BCI 技术公司Synchron创造了一种微创植入物，可助肌萎缩侧索硬化症（ALS）患者使用自己意念发送电邮和浏览网页。

　　Synchron的首席执行官汤姆·奥克斯利（Tom Oxley）认为，大脑植入物最终可能超越假肢康复功能，而彻底改变人类的交流方式。奥克斯利在TED讲说中表示，未来某一天，他们的BCI用户或许能“释放”自己情绪，让其他人获知，如此一来，“大脑的全部潜能会被释放”。

　　从某种意义上说，BCI技术的早期成就代表着人类向假定的奇点踉跄前行的第一阶段。在这个阶段，人与机器相“融合”。

　　当然，这并不意味着机器将变得“有知觉”或控制人类；但人机融合这件事本身，以及随之而来的我们对机器的依赖，或将不可逆地改变我们。

　　值得一提的是，Synchron的启动资金部分来自美国国防部高级研究计划局（DARPA）。作为美国国防部的研发部门，DARPA推动了互联网的诞生。

　　新皮质和AGI，天堂与地狱

　　根据谷歌前创新工程师、未来学家雷·库兹韦尔（Ray Kurzweil）的说法，拥有AI增强思维的人类或许会驶入进化的高速路，不受速度限制地向前疾驰。

　　库兹韦尔在2012年出版的《如何创造思维》（How to Create a Mind）一书中，详细阐述了新皮质（neocortex）理论。所谓新皮质，是指进化程度较高级的皮质，负责感官知觉、情感和认知等“高级功能”。如果把人脑比作机器，那么新皮质就是可能催生超级智能的基础。

　　库兹韦尔预测到2045年，我们会迎来技术奇点，迎来AGI对文明的颠覆，这个世界将存在拥有超级智能的人类，甚至是尼采口中的超人（“Übermensch”）：超越所有世俗限制以发挥其全部潜力的人。

　　但在一些人看来，AGI并不是好事。已故的伟大理论物理学家霍金曾于2014年警告称，超级智能的AI可能导致世界末日。

　　全人工智能的发展可能意味着人类的终结。[…] 它会自行升级迭代，并以不断加快的速度重新设计自己。受限于缓慢生物进化的人类无法与之竞争，只会被取代。

　　不过有意思的是，霍金是脑机接口的倡导者。

　　人类会沦为没有意识的蚂蚁吗

　　“蜂巢思维”（或者说“蜂群意识”），英文称“hive mind”，在韦氏词典里的定义是这样的——

　　一群社会性昆虫（如蜜蜂或蚂蚁）的复杂、协调的行为所表达的集体心理活动，被认为类似于控制单个生物行为的单一思想。

　　神经科学家朱利奥·托诺尼（Giulio Tononi）围绕蜂巢思维现象发展出一种理论——整合信息理论（IIT）。根据这套理论的观点，我们所有人都在走向所有思想和所有数据的融合。

　　哲学家 菲利普·高夫 （Philip Goff） 如此解释托诺尼的IIT理论：

　　IIT预测，如果基于互联网的连接度的增长导致社会中的整合信息量超过人脑中的整合信息量，那么不仅社会将变得有意识，人脑也会被“吸收”到更高层次的意识形态。大脑本身将不再具有意识，而只会成为具有超强意识的社会的齿轮。

　　当然，几乎没有证据表明如此惊悚的剧情真会上演。但IIT理论提出的重要理念，不仅涉及技术的快速加速，还涉及意识本身的本质。

　　假使蜂巢思维真在人类社会构筑完成，可以想象，这项工程将标志个性和依赖个性的制度（包括民主）的终结。

　　不久前发布ChatGPT的OpenAI公司最近又发表一篇博文，重申其实现AGI的承诺。毫无疑问，其他竞争者会效仿他们的宏图。

　　技术奇点的许多特征有望显著改善人们生活，但令人担忧的是，这些AI是私营企业的产品。它们几乎不受监管，而且大多都出自既是天才又是疯子的创新者/梦想家，还是那种富甲天下的梦想家。他们的创新狂想，可能引领时代，但也可能领着时代跑偏。