阅读即生活，书中有世界。读者朋友们晚上好，湛庐君与你一同回顾不平凡的一周。
本周，央行发布了以降低存量房贷利率为首的一系列经济提振组合拳，A股高歌猛进，逼近3100点，让不少人久违地长舒了一口气。
另一边，OpenAI创始人奥尔特曼在本周发表了一篇文章，提出了预测：超级AI，将在未来几千天出现！
奥尔特曼发表完这篇文章，业界一片哗然。紧接着，OpenAI的CTO Murati在社交平台上宣布离职，原因是OpenAI在2015年成立时，还是一个想用AI造福人类的非营利组织，如今在奥尔特曼的掌舵下要转向一个不受控的盈利性公司。
CHEERS' WEEKLY ｜ No.11
这意味着，OpenAI创始团队的核心成员已经“渐行渐远”。众人纷纷表示担忧——奥尔特曼会不会打开AI的潘yquxcv.cn多拉魔盒，最终放出一只不受控、甚至吞噬人类的怪兽？重要的是，这个怪兽很可能在不到10年内就会出现……
本期CHEERS’ WEEKLY，湛庐君想和你聊聊，当AI的奇点真正来临时，我们未来的生活发生什么bidlbp.cn变化，以及我们应该从现在起做哪些准备。
2024-09-29
?用阅读看世界?
一、如果AI失控，它的风险与边界在哪里？
在过去一年中，OpenAI经历了人事的etwnrq.cn剧烈动荡。除了CTO Mira Murati外，首席研究官Bob McGrew和研究副总裁Barret Zoph也相继辞职，连创始人之一Ilya Sutskever也在今年5月选择了离开。
自2015年成立以来，OpenAI一直声称致力于安全且有益的人工智能发展。然而，随着公司向营利性转型，许多人开始xiemte.cn怀疑其初衷是否依旧。前员工们反映，原本的非营利使命已被彻底扭曲，取而代之的是与利润紧密挂钩的目标。
马斯克发文“吐槽”OpenAI的人事变动
尽管如此，OpenAI在市场上的表现却异常强劲。2023年8月，该公司的收入达到3亿美元，较年初激增1700%。预计到2025年，收入将增长至116亿美元。尽管这样的增长令人振奋，却也引发了对其可持续性和伦理风险的grqovt.cn担忧。例如，GPT-4o模型在推出后就曾出现了安全问题。
在奥尔特曼的高压政策下，许多研究者被迫在极短时间内进行安全测试，导致一些关键问题未能及时发现。高管们急于在重大活动前推出新产品的决策加剧了团队的不满和nulnib.cn挫败感。
随着奥尔特曼对盈利组织的倾斜，OpenAI的未来充满了不确定性。gmutoi.cn许多专家和前员工担心，人工智能可能在缺乏足够监管的情况下快速发展，甚至成为一个不受人类控制的“怪兽”。
-??点击书封，立即入手-
在《如何创造可信的AI》中，AI专家盖瑞·马库斯指出：值得信赖的人工智能需要在法律和行业标准的监管之下，以优秀的工程实践为基础。然izkslu.cn而，目前相应的法律和标准基本上缺失。太多的人工智能项目只是在短期内解决问题，缺乏其他行业常见的关键工程保障。
马库斯提醒：在超级人工智能到来之前，相比于一路高歌猛进，我们更需要警醒的是安全feuqtq.cn。
他向读者引出了艾萨克·阿西莫夫（Isaac Asimov）于1942年提出的“机器人三定律”，它们不仅是科幻小说中的设定，更是我们在构建未来人工智能时应认真对待的原则——第一，机器人不得伤害人类，或因不采取行动而任由人类受到伤害；第二，机器人必须服从人类的命令，但与第一条定律相冲突的命令除外；第三，机器人必jntnae.cn须保护自身的存在，前提是这种保护不违背第一、第二定律。这些基本原则为我们提供了一个反思的框架，提醒我们在追求技术进步的同时，必须始终把人类的安全与伦理放在首位。
二、芯片帝国崛起，重塑未来世界最重要的力量
奥尔特曼还在积极推动一个ockfdk.cn“芯片帝国”计划。这一宏伟构想旨在与阿联酋、亚洲芯片制造商及美国官员谈判，计划投资高达7万亿美元，在全球范围内（包括中东）建立新的芯片工厂和数据中心。
这一计划不仅反映出奥尔特曼的雄心壮志，也svckkf.cn表明他在全球科技界的影响力与日俱增。
根据《纽约时报》的报道，奥尔特曼的愿景是建立无dleyaw.cn数数据中心，提供全球算力库，以支持下一代人工智能的构建。目前，尽管具体的运作模式尚不明确，OpenAI似乎正在组建一个松散的公司联盟，涵盖微软、投资者和芯片制造商。
在这一过程中，OpenAI的筹资似乎即将成功。然而，台积电高管对此计划的“荒谬”看法，及其要求阿联酋出资建设多个高达430亿美元的芯片制造厂的提议，均表明这一野心并非易事。OpenAI发言人Liz Bourgeois对此表示，尽管未来几十年内全球AI基础设施的总投资可能达到数万亿美元，但OpenAI正在探索的规模仅为数千亿。
-??点击书封，立即入手-
芯片作为现代科技的核心，构成了社会运转的基础，影响国家安全、商业和文化等多个方面。在此背景下，了解芯片的历史和未来显得尤为重要。而《芯片简史》这本书恰好为我们提供了这样的视角。书中详细呈现了芯片从发明到发展的60多年历程，涵盖了量子力学、半导体物理学以及各种半导体器件的演变，最终形成了今天的数字和模拟芯片。
在理解OpenAI的发展和变化时，我们也许能从这部经典著作中获得启发，帮助我们更全面地看待芯片与未来科技的关系。随着OpenAI的进展与挑战不断浮现，回顾这一领域的发展脉络，能让我们更好地理解现状，并思考未来可能的走向。
三、奇点降临，人类何为？
倘若那个时刻真正降临，未来世界什么样，人和AI的关系如何，我们要做哪些准备？
我们终于等到了《奇点更近》。库兹韦尔预言，2029年，AI将完全通过图灵测试；而到2045年，我们将真正走到人类文明与技术的“奇点”。
-??点击书封，立即入手-
“我们将与AI融为一体，并利用比人类强数百万倍的计算能力来增强自己的能力，这种智能和意识的提升影响深远，以至于人们会感到难以完全理解。我所谓的“奇点”，正是指这一事件。”
库兹韦尔是比尔·盖茨口中“最擅长预测人工智能未来的人”。“深度学习”“脑机接口”“3D打印”“DNA结构破解”“超算力芯片”……库兹韦尔做出过147次预测，其中86%已经成真！
为什么奇点更近了？库兹韦尔说：当前超级计算机的计算能力已远超模拟人脑所需。现在，我们正在进入指数增长的陡峭阶段。这些进步都建立在库兹韦尔定义的“加速回报率”之上：技术持续进步，而计算和信息技术成本呈指数下降，每一次进步都让下一阶段的迭代变得简单。
奇点到来前的世界究竟会怎样。不妨一起看看库兹韦尔的最新的预测：
2020年末，3D打印技术将能够打印服装、商品，甚至摩天大楼；
2030年初，通过医用纳米机器人我们可以实现细胞层面的维护和修复，达到“长寿逃逸速度”；
2030年末，人们将能够随心所欲地改变自己的外貌；
2040年初，我们将能够创造出与我们几乎没有区别的复制人。
随着库兹韦尔对未来的大胆预测逐渐浮现，我们似乎正站在一个巨变的边缘。超级人工智能的崛起不仅会重塑我们的生活方式，更可能重新定义“人类”这一概念。
在即将到来的奇点面前，我们不仅要面对技术的飞速发展，更要审视人类自身的定义与未来。《奇点更近》不仅是启示，更是航向。
我们必须认真思考：在与AI融合的未来，我们的角色是什么？我们的价值观如何调整？科技的进步会为我们带来无限可能，还是让我们陷入新的困境？这是留给每一个人的深思命题。
声明：本文文字原创，图片均来自网络，如有侵权请联系我删除，谢谢！！！
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
