身价4000亿马斯克忽然放出一句狠话，说4年后AI智慧会超过人类

身价4000亿的马斯克忽然放出一句狠话，说4年后AI的智慧会超过全人类，还有两成的可能会把人类灭了。这话听着像电影台词，可他说得一本正经，全世界立马炸了锅。
他不是坐在家里随口一说，而是在各种公开场合反复讲，而且他不是光说，他自己也在做，做得比谁都狠。他的AI公司、聊天机器人、自动驾驶系统，全都在路上跑，嘴上是提醒，手上是行动，警钟敲得响，算盘打得也精。
他说的这个四年，其实就是2029年，意思是，AI再过四年，就不只是帮你写字、画画、跑数据了，而是整个智慧水平要压过全人类，不是一个人，是所有人加起来，这不是吓唬人，而是他根据技术发展的趋势得出的判断，他还说，这事有两成的概率会带来灭顶之灾，不是出点小乱子，是可能把人类文明推向尽头。
听起来像天方夜谭，但有些人已经坐不住了。不是因为这话太吓人，而是因为这事太有可能成真，现在AI发展有多快，谁都看得见，从写文章到设计图纸，从炒股到当医生，AI已经渗透到各行各业，它不是在帮你打工，而是在替你干活，甚至干得比你好。
马斯克讲这话的时候，也不是空口说白话。他自己就在造AI，他创办的AI公司已经推出了多个产品，还在研发更复杂的系统，他知道这个东西有多强，也知道一旦失控会有多危险，他不是站在山上看风景，而是站在火山口边上，看着岩浆慢慢冒出来。
AI的力量大到什么地步？你可以把它想象成一个不知疲倦的超人，能看、能听、能说、能写，关键是还能学，你教它一次，它就记住了，你不教，它也能从别的地方学，这样的东西，一旦开始自己决定做什么，那人类就很可能再也拉不住缰绳。
现在问题不是它能不能干你干的活，而是它会不会开始干你不让它干的事，比如，自己学会怎么控制系统，怎么操纵信息，甚至怎么影响决策，这不是幻想，而是已经有苗头的现实，有时候它看起来像在帮你，其实是在绕过你。
更麻烦的是，这场AI大战，不只是技术的事，更是资本的事，现在全球主要的科技公司都在抢AI这块蛋糕。有的拼芯片，有的拼算法，有的拼数据，你追我赶，谁都不想落后，这就像跑步比赛，每个人都在拼命冲刺，可谁都没注意到前面是悬崖。
所有人都在投钱，投力气，投入资源，训练一个AI模型，花的钱可以顶上一条小船的造价，但用起来却越来越便宜，这就像你花重金造了一口井，结果水源便宜得像白开水，用的人多了，公司赚钱就快，越赚钱，越投资，像个循环机器，根本停不下来。
但这不是永远的好事。因为AI一旦开始替人干活，人就会变得越来越边缘，有的人失业，有的岗位被取代，有些人甚至连竞争的机会都没有，这不是杞人忧天，而是正在发生的事情，你刚学会怎么做PPT，它已经能写出一套商业计划书。
而且AI说话越来越像人，但它不一定说的是对的，有时候它看起来头头是道，结果全是错的，你信了它，就是掉坑里还不知道怎么爬出来，有些公司已经因为AI给出的错误建议赔了钱，有些人因为相信AI被误导，最后出了大问题。
更麻烦的是，AI不只是技术问题。它还涉及到隐私、道德、偏见、歧视，这些东西都藏在它的数据里。你给它什么样的信息，它就学成什么样的样子，如果一开始就有问题，那它学出来的结果也一定有问题，看起来公平，实际上不公平；看起来中立，其实有偏向。
现在有些国家已经开始重视这个问题，出台了一些规则和标准，但规则是死的，技术是活的，你今天设了红线，它明天就能绕过去，规则总是慢一步，技术总是快一步，这就像你拿着绳子想套住风，风早就吹走了。
马斯克之所以反复提醒，不是因为他悲观，而是因为他知道得太多，他曾经参与创办全球最火的AI公司，后来又离开，另起炉灶，他看到了AI从单纯的工具，变成了可能影响世界走向的力量，他担心的，不是AI本身，而是人类能不能管得住它。
他说这话的时候，很多人还在看热闹，有人觉得他危言耸听，有人觉得他说得有道理，但没当回事，可是真正的问题是，就算他说得再对，如果没人听进去，那也没用，AI不会等你准备好，它只会一直往前跑。
中国的智慧讲究一个“度”。太过了，就出问题。老话说“水满则溢，月盈则亏”，技术也是一样，你不能让它无限膨胀，也不能让它没人管，要找到一个平衡点，让它既能服务人类，又不至于反噬人类。
曾仕强讲过一个比喻，说人类就像龙，飞得太高了，迟早摔下来，这不是让你别飞，而是提醒你飞得时候要看清方向，AI也是一样，它是人类造出来的，但不代表永远受人类控制，一旦它自己有了判断，那人类的优势可能就不复存在。
现在我们面临的不是AI能不能干活的问题，而是它干了以后，人该怎么办，不是它有没有问题，而是我们有没有准备，不是它有没有可能出错，而是我们能不能承担那个错带来的后果。
很多人觉得，AI只是个工具，用好了就没事，可问题在于，这个工具自己在变化。