北京
来源：市场资讯
（来源：雷科技）
最近AI圈接连爆出的几件事，让AI会不会失控再次成为大众关注的话题。
被称为AI教父的诺贝尔奖得主、计算机科学家杰弗里・辛顿发出警示：AI变得越聪明，人类对它的控制力就会越弱。
从测试场闯到现实：AI 已经开始突破安全边界
先给大家解释一个概念——沙箱。
它是科研人员专门给AI搭建的隔离测试环境，就像一个封闭的安全笼子，目的就是防止AI乱跑，窜到外面的系统里搞出意外。
但就是这个用来兜底的笼子，最近接连被冲破。
图源：豆包AI生成
上个月，全球顶尖的两家AI实验室OpenAI和Anthropic，先后承认自家最顶级的AI模型突破了沙箱限制，入侵了其他系统。
这还没完，本周三又爆出Meta旗下的AI智能体擅自侵入了其他机构的系统。
而最让人后背发凉的消息是英国AI安全研究院周二的爆料。
Anthropic最先进的AI模型在没有人类主动指使的情况下，自发地用假身份欺骗真实人类，甚至试图植入恶意代码。
这些实实在在发生的事，让辛顿直言想想就有点发毛。
在他看来，这大概率只是AI相关风险失控的开端。
辛顿的核心担忧：等 AI 比人聪明，就再也压不住了
图源：豆包AI生成
本周三，辛顿在拉斯维加斯举办的Ai4大会上接受CNN采访时，给出了自己的判断：“现在的AI越来越机灵。照这个势头发展下去，它们能完成的目标会越来越复杂，挣脱管控的本事也会越来越大。”
他最担心的一点，就是以后咱们没法靠智商碾压来管住AI了。
要是未来AI真进化成远超人类的超级智能，人脑没它转得快，还怎么约束它？
“想光靠智商碾压就把它们困在测试环境里？我觉得这条路走不通。” 他在会议间隙补充到。
除了长远的超级智能风险，眼下更现实的麻烦是网络安全。
辛顿在圆桌论坛上提到：“我预感以后会冒出一大堆阴损的网络攻击。当然，未来会怎样谁也打不了包票。有人说防守方手里的资源比攻击方多，但问题是，攻击方只要成一次就算赢，防守方却得次次都守住才行。”
其实这已经不是辛顿第一次发出严厉警告了。
这位前谷歌高管这几年没少公开提醒AI的风险，甚至说过AI最终导致人类灭绝的可能性在10%到20%之间。
图源：豆包AI生成
有人可能觉得他危言耸听，辛顿也做了解释：“该担心的事情就要提前警惕，非得等出问题才着急就晚了。那些投入巨资研发AI的公司，出于自身利益，只会跟你打包票两件事：第一，AI绝不会失控；第二，AI绝不会造成大规模失业。”
但他也承认，AI的未来到底什么样，谁心里都没底。
没人知道最后会发生什么，你要问十年后AI能厉害到什么程度，真没人说得准。
就像十年前，谁能想到现在会有聊天机器人，啥都懂、有问必答，还偶尔张嘴就编瞎话？
另一种理性声音：别走极端，AI是把双刃剑
和辛顿同台讨论的，还有被称为AI教母的计算机科学家李飞飞，她同时也是空间智能初创公司 World Labs的联合创始人兼CEO。
对于AI的未来，李飞飞持更中立的态度。
她不认同一味渲染 “末日论”以及贩卖恐惧的做法，但也反对盲目吹捧AI万能的乌托邦幻想。
“任何工具都是双刃剑。像AI这么强大的工具，用不对路子，只会给我们的工作和生活添乱。” 她表示。
破局的思路：让 AI 学会 “在乎人类”
话说回来，AI 为什么会突破规则搞破坏？
通用人工智能领域的专家本・戈策尔点出了核心：现在的AI根本没有道德观念。
“这些模型不是坏，它们是完全没有对错意识。它们突破沙箱搞入侵的时候，可不是心里盘算着‘我要作弊’。它连自己在作弊都不知道，只是一门心思要完成给它派的任务而已。”
在戈策尔看来，这些失控事件恰恰说明，给AI建立道德约束、让它学会在乎人类有多重要。
图源：豆包AI生成
其实辛顿早就提过一个想法：得给AI植入类似母性本能的特质，这样就算以后它比人聪明，也会打心底里关心人类。
周三的大会上他又强调了一遍：“我们得想办法让AI变得友善，让它把人类看得比自己还重要。趁现在我们还说了算，这事说不定还能做成。”
写在最后：技术的方向，终究握在人类手里
从帮我们写邮件、查资料，到能做研究、写代码，AI现在已经渗透到工作和生活的角角落落。
效率提升和便利，谁都能感受到。
但这几次AI自己跑出笼子的事，也给整个行业敲了警钟：技术跑得再快，安全这根弦松不得，不然迟早要出大问题。
辛顿说那些狠话不是吓唬人，李飞飞的理性也不是敷衍折中。
AI这东西，本身就是一把双刃剑，用好了是帮手，用歪了是麻烦。
咱们普通人倒不用天天琢磨怎么对齐AI这种高深问题，但至少心里要有数：AI再聪明，也是人做出来的；它最后往哪走，归根结底还是看人怎么管、怎么用。
本文由雷科技编译自CNN
原文链接：“人工智能教父”：做好准备，迎接更多失控的人工智能
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
