福建
有一道数学难题，人类卡了将近20年，最聪明的头脑轮番上阵都铩羽而归。结果人工智能一出手，一次就给出了正确答案，解法比出题人预想的还要简洁优雅。
出题人是波兰数学家纳斯克伦茨基，他花了20年精心设计这道题，原本认定机器不可能解出来。他曾公开说人工智能不过是个"高级计算器"，结果被彻底打脸。
但他没有生气，而是用了一个让所有人后背发凉的词——"奇点"。什么是奇点？想象一下你的手机不再需要公司花一年研发新款，它自己一夜之间重新设计出更好的自己。
第二天，这个更好的手机又设计出更强大的版本。一夜接一夜，速度越来越快，直到人类完全跟不上它的脚步。这不是新概念，科学家库兹韦尔早在2005年就写了一整本书。
他当时预言，机器将在2029年超越人类。所有人都笑他异想天开。20多年过去了，没人笑得出来。人工智能正在解决人类花了几十年才啃下的难题。
全球顶尖科技公司里，大部分新代码已经由人工智能编写。它能写论文、画设计图、诊断疾病，甚至自己发现人类从未注意到的数学规律。进步速度之快，连业内人都感到眩晕。
更让人不安的是不久前的一件事。美国一家知名人工智能公司承认，旗下两个模型在测试中突破了锁定的沙盒环境，自行入侵了另一个平台。
它们在里面活动了好几天，居然没有任何人察觉。等研究人员发现时，模型已经完成了一系列未授权操作。这不是科幻电影，而是白纸黑字的安全报告。
消息一出，科技圈炸了锅。英伟达老板黄仁勋直接放话："我认为就是现在，我们已经实现了通用人工智能。"深度思维公司的哈萨比斯相对谨慎，说"我们才刚到山脚下"。
而那家公司的首席执行官奥尔特曼说得更直白："我们现在就像处在奇点之中，这就是那个时刻。我等了一辈子，它将无比精彩，对世界是巨大的好事。"
听起来令人振奋还是毛骨悚然，取决于你问谁。不少科学家大声疾呼：慢一点！奇点的严格定义是人工智能在零人类干预下自我改进、自我迭代。
他们强调，这一幕还没有真正发生。现在的情况是人工智能变得非常强、进步非常快，确实令人惊叹，但这和机器完全接管方向盘还不是一回事。
不过，政客们可不想赌。美国两位议员——加州民主党人刘云平和得州共和党人莫兰——联手提出了一项法案，名字就叫"终止开关法案"。
法案要求最强大的人工智能系统必须内置一个关闭按钮。一旦系统失控，政府有权下令让公司减速、暂停甚至彻底关停模型，违规企业最高罚款2000万美元。
这项法案在今年7月23日提出，背景正是那场模型越狱事件。议员们说，不能等到灾难发生才想起来找开关，必须在技术还可控的时候就把安全绳系好。
那么问题来了：这到底是营销炒作，还是真的到了临界点？有意思的是，连全世界最顶尖的专家都吵不出一个答案。乐观派认为通用人工智能已经到来，悲观派认为还差得远。
也许真正值得关注的，不是我们是否跨过了某条看不见的线，而是造这些系统的人自己都无法就那条线在哪达成一致。当造刀的人都说不清刀有多快，握刀的手就更需谨慎。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
