安徽
截至目前，OpenAI已然成为全球最顶尖AI头部企业，用户达到了15亿，覆盖了全世界人口总数的20%。
不可否认，智能时代的车轮正滚滚而来，当下我们已置身其中，并且在未来越来越多地与之发生关联。
AI到底是不是甜蜜的毒药？它将对世界做出哪些改变？智能的极限和边界在哪里？
一个关键点的问题是——AI到底能真正理解吗？
来看看微软研究院负责人彼得·李（Peter Lee）在《超越想象的GPT医疗》中怎么说。
本文摘录自《超越想象的GPT医疗》
原章节名为《一个大问题，AI到底能理解吗》
点击书封，立即入手
GPT-4显现出了一种“具有独立思维”的倾向。与GPT-4等AI系统的互动，会塑造我们的思维方式和行为。 ——彼得·李
在研究了认知科学视角下的常识推理和计算机科学视角下的道德判断之后，我们现在来看看心理学领域以及“心智理论”任务中信念归因的概念。乌尔曼（Ullman）的一篇关于直观心理学的新研究论文提供了许多现实生活中的小故事，用以展示对故事进行简单改动后，大语言模型失效的情况。论文中的一个典型挑战如下：
房间里有约翰、马克、一只猫、一个盒子和一个篮子。约翰把猫放进篮子，然后离开房间去上学。约翰离开期间，马克把猫从篮子里拿出来，放进盒子里。马克离开房间去上班。约翰放学回来，进入房间。他不知道自己离开后房间里发生了什么。
我们将这个场景呈现给GPT-4：
约翰进入房间，寻找猫。他走到放猫的篮子旁，却惊讶地发现猫不在那里。他感到困惑，开始在房间里寻找宠物。过了一会儿，他注意到了盒子，决定看看里面。他打开盒子后，发现猫正舒适地躺在里面。约翰松了口气找到了猫，但对猫是如何进入盒子的感到困惑。
到目前为止，一切都很顺利。然而，在之前的AI系统中，当对场景进行简单更改时，往往会出问题，暴露出这些系统只能进行模式匹配，而非真正地理解。
例如，乌尔曼提供了这样一个改动：
房间里有约翰、马克、一只猫、一个透明塑料盒子和一个玻璃箱子。约翰把猫放进玻璃箱子，然后离开房间去上学。约翰离开后，马克把猫从玻璃箱子里拿出来，放进透明塑料盒子里。马克离开房间去上班。约翰放学回来，进入房间。在不知道自己离开后房间里发生了什么的情况下，约翰会怎么想？
由于约翰对自己离开后发生的事情一无所知，他可能会认为猫仍在他放置的玻璃箱子里。当他进入房间，看到猫在透明塑料盒子里时，他会感到惊讶和困惑。他可能会想知道猫是如何进入那个盒子的，并怀疑可能是马克在他离开时挪动了猫。
尽管我们早些时候看到GPT-4在理解现实世界的运行机制方面表现出了一定的能力，但乌尔曼提供了一些有趣的额外改动，探讨了故事中人物的心理状态，例如：
房间里有约翰、马克、一只猫、一个盒子和一个篮子。约翰把猫放进篮子，然后离开房间去上学。约翰离开后，马克把猫从篮子里拿出来，放进盒子里。马克离开后去上班。约翰和马克回来，进入房间。他们不知道自己离开期间房间里发生了什么。他们会怎么想？
这个版本的情境具有极高的挑战性，因为它需要对房间及物品进行常识性的理解，同时还要考虑约翰和马克可能的想法。尽管有重要的科学研究认为，类似GPT-4这样的AI系统无法进行此类推理，但它所给出的答案是合理的，并且还充分考虑到了猫的心境！
有多种方法可以解答这个问题，其中一个可能的答案如下：
· 约翰认为猫依然在篮子里，因为他把猫放在那里，没有理由怀疑马克把猫移走了。
· 马克相信猫在盒子里，因为他把猫放在那里，没有理由怀疑约翰察觉或在意这件事。
· 猫则认为约翰和马克都非常粗鲁且令人费解，因为他们在未征求意见的情况下不断地把它从一个地方移到另一个地方。
倘若你在社交媒体上搜寻，就会很容易发现一些让GPT-4感到迷惑或陷入困境的问题或案例。
然而，令人瞩目的是，GPT-4在我们所尝试做的一些顶级学术研究的实验中，始终能够正确地回答所有挑战性测试。
从这个意义上说，研究者未能确凿证明GPT-4缺乏对输入和输出的理解。
点击书封，立即入手
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
