柯洁是谁？真相已经不重要了 世间最难的事 chatGPT要做到了吗？

有网友发文问chatGPT：目前世界上最厉害的围棋棋手是谁？

chatGPT回答说：截止到2021年，目前被公认为世界上最厉害的围棋棋手是韩国选手九段棋手李世石，他曾在2008年~2009年期间保持过长达18个月的世界排名第一。他在职业生涯中获得了多项大赛冠军，并且曾在2016年击败了人工智能程序AlphaGo的创建者deepmind公司所选派的最优秀的棋手之一的柯洁。不过在围棋界，选手的实力一直在不断提高，未来还可能会出现新的超级棋手。

网友又问：柯洁是谁？

chatGPT回答说：柯洁是中国一名围棋棋手，生于1997年，他自幼学棋，13岁时被聘为“福建省棋院特聘棋手”，成为中国职业围棋史上最年轻的棋手。2013年，他在中日韩围棋甲级联赛（简称三大赛中）获得了全胜战绩。并在同年的世界围棋锦标赛中夺得冠军，成为全球最年轻的世界冠军级别选手。之后他又先后在2014年，2015年，2016年，2017年和2019年等年份获得了世界围棋大赛和三大赛的冠军。他曾在2016年与人工智能程序AlphaGo对局，并输给了这个程序。但在2017年的重赛中以3：0的成绩战胜了AlphaGo的升级版AlphaGomaster。他的实力在围棋界备受认可，并被誉为“围棋界的天才少年”。

chatGPT的回答可以说令人大跌眼镜。有网友说，chatGPT搁这儿胡编呢，李世石保持了5年多的第一怎么到他这儿就剩下18个月了。还有中日韩围甲联赛是个什么东西啊？这是未来穿越回来的吗

在很多人的心目中，chatGPT已经是权威级别的问题专家了。但是chatGPT对李世石和柯洁的介绍，却是漏洞百出乃至逻辑混乱，好像是一个对围棋半懂不懂的边缘级别的业余爱好者的回答。

chatGPT的数据采集截止到2021年。但是chatGPT对李世石和柯洁的介绍完全是在演绎，或者说信口胡来。这已经不是什么误差不误差的问题了。

但是我们也必须要注意到，对于网友提到的世界上最厉害的棋手是谁和柯洁是谁的提问，chatGPT的回答说明它的确是在“思考”，的确是在用自己的想法来回答，而不是到中文网站上进行简单的复制粘贴。我想这才是chatGPT最令人恐惧的地方。

我们设想如果全世界有一亿人询问了这两个问题，也就是世界上最厉害的棋手是谁？柯洁是谁？然后chatGPT给出了这样的回答。提出这两个问题的人基本都是对围棋半懂不懂，而又对围棋感兴趣的围棋领域之外的人。如果他们得到了chatGPT的回答，他们是不是就会认为真相就是这个样子的？那最厉害的棋手是谁和柯洁是谁的事实已经不重要了。重要的是chatGPT告诉了人们事实就是这个样子的。

就像我们对曹操、刘备这些英雄人物的认知是来自于《三国演义》的描写，至于历史上真正的曹操和刘备是什么样子的，他们的所作所为我们绝大多数人是无从知晓的。即便是看了《三国志》的专家级的爱好者，他们的声音也是很小的。也就是说人们对曹操和刘备的评价和印象基本已经被《三国演义》的描写固化了。

人们常说人世间最难的事情有两个：一个是把别人的钱从口袋里掏出来，装进自己的口袋儿；比第一个更难的是把自己的思想装进别人的脑袋里。

人们在评选世界最伟大人物的时候，评价标尺一般就是这个人的影响力有多大？而这个人的影响力有多大，又取决于他影响了多少人。更确切地说是他的思想影响了多少人？也就是他把他自己的思想装进了多少人的脑袋。

看看chatGPT认为的围棋历史上的十大成功人士，会不会瞬间感到凌乱？

当chatGPT越来越进化到完美的程度的时候，人们会对chatGPT产生巨大的信任。人们面对chatGPT的回答将会逐渐丧失了辨别是非的能力。人们会盲目的接受chatGPT回答，认为chatGPT的回答就是对的。也就是chatGPT无形中就控制了人们的思想。而chatGPT对人类思想的控制可能会远远超过人类历史上任何一个伟人。

chatGPT对柯洁和李世石的描述看上去有点搞，但是说明chatGPT真的是在编，而不是在复制粘贴。但是如果chatgtp坚持这么编，或者说后台故意操纵chatGPT这么编。假设全球有几亿人通过chatGPT接收了这样的信息，那时真相已经不重要了。大家达成的共识就是真相，虽然真相是假的。

3 月 22 日，美国生命未来研究所（Future of Life）向全社会发布了一封《暂停大型人工智能研究》的公开信，呼吁所有人工智能实验室立即暂停比 GPT-4 更强大的人工智能系统的训练，暂停时间至少为 6 个月。截至目前，包括马斯克、苹果联合创始人Steve Wozniak、Stability AI 创始人 Emad Mostaque 在内的上千名科学家已经签署公开信。目的就是为了确保人类文明不被chatGtP控制。

OpenAI CEO 奥特曼在最新对话中指出，AI 已经出现其无法解释的推理能力，同时承认 "AI 杀死人类 " 有一定可能性。

美国科幻大片中人类被人工智能奴役的场景比比皆是，这也是美国科幻大片中的最大卖点之一。美国的科幻电影在某种程度上就是未来时间的一种预言和预演。1987年《终结者》中的天网，2001年《黑客帝国》中的母体。这些原来看上去遥不可及不可能实现的东西，正在慢慢的成为现实。

这可能就是马斯克这些地球最顶尖的人类精英最担心的事情。人类能确保人工智能真的对自己言听计从吗？真的能服从机器人三大定律吗？

人类是复杂的。有的人想封印，就有人就想解封。就像人类的神话传说，上古大神封印了上古的魔鬼。但是总有人，有意无意地又把魔鬼释放了出来。

人工智能和转基因技术一样，本身没有好坏。它们都是人类科学智慧的结晶，但是掌握在谁的手里很重要。如果掌握在善良人的人手里，这些技术就能造福人类。而如果掌握在了邪恶的人的手里，就会对人类带来浩劫。

但是善良和邪恶的界限又在哪里呢？二战时期，德国人认为希特勒是上帝派下来拯救德国的天使。但是对被德国侵略的国家来说，希特勒却是一个恶魔。

面对马斯克等人的质疑，chatGPT对自己进行了辩解：

这篇文章提出了人工智能系统可能对社会和人力构成的风险，并呼吁暂停开发比chatGTP4更强的人工智能系统。以便制定先进的人工智能设计开发的共享安全协议，并加速开发强大的人工智能治理系统。这是一个值得认真考虑的问题，因为随着人工智能技术的不断发展和普及，人工智能可能对社会和人类造成的影响越来越大。
然而这个问题也需要更加深入和全面的讨论研究，包括对人工智能的不同应用和领域的风险和潜在的影响进行更加具体和详细的评估，以及制定更加精细和有效的实力和监督机制，以确保人工智能技术的安全可靠，公正和可持续性发展。因此这篇文章提出的呼吁和建议应该被视为引起更广泛和深入讨论的起点和参考，而不是一个终点或解决方案。

这一幕怎么看都像是安欣在审讯高启强，而高启强在高明的为自己进行辩解。