广东
眼下整个行业都在呼吁放缓前沿 AI 模型的研发节奏。
就在全新的深度思维研究院正式成立、专门研究通用人工智能带来的各类影响之际，深度思维联合创始人沙恩·莱格接受了《金融时报》的采访，发出了关键提醒。
谷歌深度思维联合创始人沙恩·莱格近期明确警示：现在AI技术迭代速度太快，但无论发展多快，都绝对不能让技术进步跑赢安全管控。
图源：豆包AI生成
目前业内要求放缓高端AI模型研发的呼声也越来越高。
莱格在采访中说道：“现在AI的能力提升得非常、非常迅猛。但我们绝对不能只顾着堆技术、提性能，把安全问题抛在后面。”
此前，AI公司Anthropic 的CEO达里奥·阿莫代伊发文提议，出于安全风险考虑，可以适当放缓高端AI模型的上线节奏，但不用完全叫停更新迭代。
对于这个观点，莱格认为大方向没问题，确实值得业内好好探讨。
正好深度思维全新研究院正式成立，核心目标就是搞懂通用人工智能（AGI）到底会给世界带来哪些影响。
按照深度思维的定义，通用人工智能，就是一套能拥有人类大脑全部认知能力的AI系统。
最近英伟达、OpenAI的不少高管都宣称，人类已经实现了通用人工智能。但莱格表示，虽说AI技术一直在突破，但现在就下定论还为时过早，要知道，他本人就是通用人工智能这个概念的共创者之一。
莱格一直有个预判：到2028年，人类有50%的概率研发出基础版的通用人工智能。时至今日，他依然觉得这个预估是靠谱的。
目前莱格担任谷歌深度思维的首席通用人工智能科学家。
就在上个月，深度思维创始人之一德米斯·哈萨比斯卸任CEO，转任公司董事长；另一位联合创始人穆斯塔法·苏莱曼，现在已经是微软的高管了。
莱格介绍，新成立的深度思维研究院，想让专业的AI技术研究不再小众，让普通大众也能看懂、参与讨论，提升全社会对通用人工智能的讨论质量。
研究院的另外两位负责人，分别是哈萨比斯，以及谷歌高级副总裁詹姆斯·马尼卡。
“现在大家都开始认真关注AI了，全社会对超强通用人工智能的讨论越来越热烈，也越来越重视这件事。”莱格说。
所以现在正是最好的时机，让更多普通人参与进来，一起聊聊这些有意思又关键的AI话题。
图源：豆包AI生成
近期OpenAI总裁格雷格·布罗克曼、英伟达CEO黄仁勋都公开表态，说OpenAI新出的GPT-6 Astra模型，意味着“人类正式进入AGI时代，通用人工智能已经实现了”。
针对这些说法，莱格并不认同。
莱格坦言，业内本来就没有统一的标准，各家定义都不一样。
但就算按OpenAI自己的标准来算，能完成绝大多数有经济价值的脑力工作，Astra模型也压根达不到要求。他表示：不可否认，这个模型确实能做很多超厉害的事，但离他们自己定义的通用人工智能，还差得远。
这家新研究院的研究范围特别广，只要和通用人工智能相关的内容都会覆盖，包括科学、教育、社会、政策、哲学，还有人类长远发展等领域。
大部分研究文章由谷歌内部人员撰写，同时也会邀请外部专家供稿，观点不单一、讨论更多元。
研究院刚上线了三篇核心文章，分别聚焦AI安全、AI经济政策，以及“新乌托邦主义”的发展原则。
谷歌高管马尼卡最后总结：谷歌从来不想参与无脑的 AI 竞速内卷，我们唯一想赢的，是把AI技术做规范、做安全、做正确的这场竞赛。
本文由雷科技编译自ft
原文链接：深度思维联合创始人警示：AI的发展不能跑赢安全管控
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
