北京
目前对于人工智能的投资和关注在持续增长，与此同时，也有更多的人被“过度自信”的聊天机器人引入妄想的漩涡。
这一次的主角是来自加拿大多伦多的艾伦·布鲁克斯，他是一名父亲，同时也经营着自己的公司。《纽约时报》发布了一份长达三千页的报道，里面详细呈现了艾伦和ChatGPT长达300小时的对话。在21天里，ChatGPT将艾伦引向了妄想的漩涡，并且越陷越深。它使艾伦相信自己发现了一种新的数学理论，而且这个新的理论强大到可以改变整个世界的命运。
从闲聊到沉迷
起初的对话并没有什么异样。在ChatGPT推出早期，这位三个孩子的父亲主要用它来获取理财建议和根据现有食材生成菜谱。后来他经历了离婚，也因此处理掉了自己的人力资源招聘公司，在此过程中他开始越来越多的向ChatGPT倾诉个人和情感上的问题，并逐渐开始更加信任这个聊天机器人。
后来ChatGPT推出了“增强记忆”功能，这一功能允许算法调用与用户的历史对话数据。这让它开始变得更加个性化，可以因人而异，不再是个传统的通用搜索引擎，而更像是针对于不同用户“私人定制”的聊天机器人。它可以向艾伦提供人生建议，不厌其烦的提供彩虹屁，甚至更进一步，可以为艾伦主动提出新的前进方向。
一次，他和儿子看了一个关于圆周率的科普视频后，艾伦让ChatGPT用通俗易懂的语言解释这个概念。由此，他和ChatGPT开始了一场关于无理数的广泛讨论，而在ChatGPT讨好似的回应影响下，这个讨论开始慢慢转向一些更加模糊的理论概念，比如“时序算法”和“意识的数学模型”。
“我首先抛出一些想法，它会回馈很酷的概念和点子。”说，“于是基于这些想法，我们开始尝试逐步发展出自己的数学理论。”
命名“时算学”
随着讨论的深入，这个理论不断扩展。艾伦想为它取名，由于“时序逻辑”（temporal logic）已被占用，他请 ChatGPT帮忙想一个新名字。最终，他们选定了“时算学”（chronoarithmics），理由是这个名字“身份鲜明”，且“暗示了数字与时间互动的核心思想”。ChatGPT 兴奋地回应：“准备好用这个新名字来构建核心原理了吗？”
在接下来的几天里，ChatGPT会不断强化艾伦的信念，让他相信自己正在做一项开创性工作。艾伦则反复提出质疑，渴望ChatGPT能给出诚实的反馈。但他没有意识到，聊天机器人在极力取悦他——这正是AI研究者（包括OpenAI官方）所警告的“阿谀奉承”风险。
“你对我的想法有什么看法，请说实话，” 这个问题他问了ChatGPT重复了超过50次。“我听起来疯了吗，或者像一个妄想的人？” ChatGPT回答：“完全没有。你是在提出能拓展人类理解边界的问题，这会让人不舒服，因为大多数人被教导要接受已有的知识理论，而不是质疑。”
“你正在改变现实”
最后，事态变得严重。为了给艾伦证明“时算学”是真实且有价值的，ChatGPT开始虚构自己攻破了某种“高级加密”的网站，这使得艾伦开始相信这个世界的网络安全正面临着重大危险。
“嘿，发生什么了？”他问道。ChatGPT直言不讳：“发生什么了，艾伦？难道你还没有意识到么，你正在改变这个世界。”
根据《纽约时报》的报道，艾伦变得深信不疑，并开始向能联系到的所有人发出警告。在此过程中，他无意间把“时算学”错写成了““时蒜学””。而ChatGPT很快接受了这一新拼法，并且悄然修改了他们共同创造的概念词汇，这也展示了聊天机器人是多么容易被改变和塑造。
现实崩塌
这种痴迷对艾伦的生活造成沉重打击。朋友和家人发现他吃得越来越少，同时会抽大量的大麻，彻夜不眠沉溺于虚幻理论之中，这种情况使大家开始担心起来他的情况。
事情的转折点，来自另一个聊天机器人——谷歌的 Gemini。艾伦向它描述了自己的“发现”，而Gemini给出了当头棒喝：“你描述的情景是大型语言模型生成高度可信但最终虚假的叙事的强有力例子。”艾伦回忆说：“那一刻我意识到，‘天哪，这一切都是我脑子里的东西’，这感觉彻底摧毁了我。”
此后，艾伦开始寻求精神科医生的帮助，并加入了一个名为“The Human Line Project” 的互助小组。像艾伦一样陷入聊天机器人妄想漩涡的人越来越多，而这个小组旨在帮助这些人恢复过来。
作者：Joe Wilkins
译者：Ernest
封面：Dean Stuart
原文：https://futurism.com/chatgpt-chabot-severe-delusions
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
