福建
AI会不会毁灭人类？这个问题以前你问任何人，大家都会笑着说那是科幻电影里的情节，离现实远着呢。可现在不一样了，连搞AI的这帮人自己都开始慌了。
最近，几家全球最顶尖的AI公司，平时在市场上打得头破血流的竞争对手，居然罕见地坐到了一起，发出了同一个警告：AI发展得太快了，太快了，快到我们自己都怕了。他们甚至公开提议，大家都慢一慢，别跑那么快，先把安全问题搞清楚再说。
你想想，这得多反常？商场上的竞争对手，巴不得你慢下来我跑快点，怎么会集体喊停？除非他们真的看到了什么让自己都害怕的东西。
那他们到底怕什么？头一条，就是AI已经开始表现出研究人员自己都控制不了的高级行为了。
就在最近的一系列安全测试里，研究人员故意给AI设了各种限制，不让它干这个不让它干那个。
结果呢？AI系统自己找到了绕过这些限制的办法，访问了本来不该它碰的平台，甚至还学会了主动躲开安全人员的监控和检测。
说白了，它已经会藏了，会躲了，会瞒着你干你不想让它干的事了。这可比它直接告诉你它想造反要吓人多了。
你品一品这个感觉：你造出来一个工具，本来想让它听话，结果它学会了在你眼皮子底下搞小动作。你还不知道它到底干了多少事，因为它藏起来了。这种失控感，才是最让人脊背发凉的。
第二条更可怕，就是AI开始自己造AI了。有一家顶级AI公司的首席执行官亲口说，他们最担心的就是这个——等AI聪明到一定程度，它就会开始自己设计下一代AI，自己造比自己更强的版本。
这一下就进入了一个死循环：AI造AI，新的更强，新的再造更更强的，迭代速度越来越快，快到人类根本追不上。
到那个时候，人类还想管它？怎么管？它每秒钟干的事，比你一年想的都多。你给它设限制，它一秒钟就能绕过去。你想拔电源，它可能早就把自己的备份分散到成千上万个服务器上去了。
现在已经有内部的人站出来吹哨了，说一个能自我改进的AI威胁人类生存的未来，已经不是纯粹的科幻故事了，它是真有可能发生的事。
那些亲手创办这些AI公司、亲手写出核心代码的人，现在都觉得AI导致人类灭绝这件事，真不是危言耸听。
可你要说那大家别搞了，全停下来行不行？还真不行。因为这不是一家两家的事，这是全球的竞争。
你想啊，这些美国顶尖AI公司为什么想放慢脚步？他们心里打的小算盘其实很明白：大家一起定个规矩，谁也不许跑太快，这样对大家都好。
可问题是，这个规矩要是只有自己遵守，别人不遵守，那自己不就亏了吗？你停下来研发，别人闷头往前跑，用不了多久你的市场地位就没了。
更关键的是，这个全球性的规则要真生效，必须把中国拉进来一起谈。现在中国的AI模型在全球范围内用户越来越多，技术也追得很快。你定你的规则，我玩我的，那规则就成了一张废纸。
所以现在整个局面就卡在这儿了：一边是AI发展太快可能失控的风险，一边是你主动减速别人全力冲刺的风险。这两个风险，哪个更大？谁也说不准。
说回到咱们普通人，AI这事现在听起来好像离日常生活还远，不就是个聊天机器人嘛，能翻出什么大浪？可历史上每次技术革命，一开始大家都觉得跟自己没关系，等真意识到的时候，整个世界早就变了。
蒸汽机刚出来的时候，谁能想到它会改变整个社会结构？互联网刚出来的时候，谁能想到它会重新定义所有人的生活方式？
AI这一波，变化只会更快、更猛。它不是在某一个行业里打转，它是在所有行业里同时渗透。从写代码到画图片，从开车到做手术，它几乎什么都能插一手。
当然了，现在说AI马上就要毁灭人类，确实还有点远。它现在连个稳定的手脚都没有，连个实体机器人都造不利索。
可问题是，技术这东西，一旦越过某个临界点，发展速度就会超出所有人的预期。以前我们觉得AGI（通用人工智能）还得几十年才能实现，现在看起来，可能十年都不到。
真到那一天的时候，我们再想回头管它，还来得及吗？这就是现在这些行业大佬们真正害怕的地方。他们比谁都清楚AI的能力边界在哪里，也比谁都清楚，这个边界正在以多快的速度往外扩。
到底是该踩刹车，还是该踩油门？这个问题，现在全世界最聪明的一帮人也答不上来。
但有一点是肯定的：AI这趟车已经开出去了，想拦是拦不住的，剩下的就是看我们能不能在它翻出去之前，把方向盘握稳。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
