Salesforce联合创始人兼CEO马克·贝尼奥夫与OpenAI的Sam Altman进行了一场对话。在这场交流中,Altman把话题引向了一个他显然已经思考很久的方向——开源模型的能力边界,以及它可能带来的安全后果。
一句被反复咀嚼的判断
![]()
Altman在对话中给出了一个相当直接的判断:“我认为我们距离那些能造成严重破坏的开源模型已经不远了。”
这句话的分量在于说话人的位置。作为全球最受关注的AI公司掌门人,Altman对模型能力演进节奏的判断,通常会被行业当作一个参考坐标。他没有说“已经到来”,也没有说“还很遥远”,而是用了“不远了”这个模糊但带有紧迫感的表述。
他没有具体说明“严重破坏”指的是什么场景,也没有给出时间表。但结合他接下来的话,方向是清楚的。
开源不能停,但威胁会来
Altman在同一个场合明确表达了对开源模型的态度:“显然,我们不应该阻止开源模型的出现。这很重要。”
这句话值得单独拎出来看。在OpenAI自身越来越封闭的背景下,Altman公开表态支持开源模型继续存在,至少说明他不认为“禁止开源”是一个可选项。
但他紧接着补上了另一半:“但将会出现巨大的网络威胁,这是必然会来的。”
两句话放在一起,构成了一个典型的Altman式平衡术——既不给开源判死刑,也不假装风险不存在。他承认开源的价值,同时把网络威胁定义为一种“将要到来”的确定性事件,而不是“可能发生”的概率问题。
为什么这个表态值得注意
开源模型的能力正在快速逼近闭源模型,这已经是行业里被反复讨论的事实。当开源模型的能力跨过某个阈值,它就不再只是开发者手里的工具,而可能成为攻击者的武器。
Altman没有展开“严重破坏”的具体形态,但从“网络威胁”这个用词来看,他指向的是网络安全领域——用AI发起的攻击、自动化漏洞利用、或者更高效的恶意软件生成。这些都不是新话题,但从Altman嘴里说出来,意味着OpenAI内部对这件事的评估已经进入了一个更严肃的阶段。
另一个值得玩味的细节是对话的对象。贝尼奥夫是Salesforce的掌门人,而Salesforce的核心业务是企业软件和客户数据。网络安全对这家公司来说不是抽象概念,而是产品的一部分。Altman选择在这个场合谈开源模型的网络威胁,听众本身就是一个信号。
没有答案的问题
Altman没有在对话中提出解决方案。他没有说应该建立什么样的监管框架,也没有说OpenAI会采取什么措施来应对这种威胁。他只是把问题摆了出来。
这种“只提问不给答案”的姿态,在Altman的公开表达中并不少见。它既是一种谨慎——避免在复杂问题上给出过于具体的承诺,也是一种策略——先把议题设定好,让行业和监管去跟进。
对于关注AI安全的人来说,Altman的这番话至少确认了一件事:在OpenAI的视野里,开源模型带来的网络威胁不是一个“如果”的问题,而是一个“什么时候”的问题。至于这个“什么时候”有多近,他没有说。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.