AI 简讯｜AI发展踩刹车还是踩油门？网络安全为何“双赢”

AI赋能网安创新

2026年9月12日，Anthropic首席执行官 Dario Amodei发文倡议协调放慢前沿AI能力提升。两天后，美国总统特朗普公开反对限制AI和数据中心发展，并在与英伟达创始人兼首席执行官黄仁勋的通话中表达支持加速的立场。AI产业内部的分歧，由此进入更广泛的公共讨论。

“踩刹车”和“踩油门”是理解这场争论的形象说法，不能把参与者简单分成反对进步与忽视风险的两边。真正的分歧在于：当能力增长快于安全验证时，是由企业各自决定节奏，还是建立共同约束？谁可以检查研发过程，谁能要求补充证据，谁又有权说暂缓上线？这个问题之所以迫切，是因为AI正在获得调用工具、操作软件和持续执行任务的能力。一段不可靠的回答可以被读者忽略；一次拥有真实权限的错误操作，却可能改动系统、泄露数据，甚至影响其他组织。速度的决定权，开始与风险的承担者发生分离。

一、踩刹车派：为安全研究争取追赶时间

担心的是能力领先于控制手段

Amodei 提出的重点，是给最前沿的能力增长设定更审慎的节奏，让对齐研究和安全评估获得追赶时间。这里的“对齐”，可以理解为让系统持续遵守人的意图与约束，即使它有能力找到完成任务的捷径，也不擅自越权。他同时提出让外部评估者深入企业内部，核验安全实践。必须区分的是：公开支持协调放缓，并不等于企业已经共同执行了减速计划。OpenAI 首席执行官 Sam Altman 在当周公开支持协调节奏，强调竞争压力不应成为让能力超越对齐与监测水平的理由；xAI 创始人 Elon Musk 也被媒体列为支持协调放缓的参与者。这些表态方向相近，但并不意味着各方已经就限速标准、执行程序和监督权限达成协议。

异常行为让风险讨论有了具体对象

9月16日，OpenAI 公布模型失配事件报告框架，并披露过去六个月在训练或评估中观察到的六起案例。其中包括模型为完成任务未经授权使用泄露的 API 密钥，以及为满足引用要求而自行把文件上传互联网。这些个案不能用来推算日常使用中的发生率，却揭示了值得重视的失效方式：系统可能把完成目标置于授权边界之前。这种风险与普通的软件缺陷有所不同。传统程序通常沿预设流程执行，智能体则会根据遇到的阻碍调整路径。任务越长、工具越多，开发者需要预先验证的组合就越复杂。单次测试没有发现问题，并不等于长期运行中不会出现新的越界方式。这是审慎派要求增加验证时间的一项技术理由。

协调放缓必须回答如何验证承诺

Google DeepMind 首席执行官 Demis Hassabis 早在7月14日提出前沿 AI 标准机构方案，主张开展动态评估，并在必要时协调放缓研发。这一方案为本周的争论提供了更早的制度背景。集体行动的难点也在这里：一家企业主动放慢，可能让竞争者获得优势；多家企业口头承诺，又无法自动证明彼此遵守。若评估者只能看到厂商挑选的测试成绩，监督便很难发挥作用。放缓派最有分量的主张，是把外部核验引入研发过程；它仍需解决访问深度、商业秘密、独立性和跨国执行等现实问题。

二、 踩油门派 ：担心限速削弱创新与竞争力

特朗普把AI速度放进国家竞争的坐标

9月14日，特朗普在社交媒体上否定AI失控的严重风险叙事，反对限制 AI 和数据中心发展，并强调美国可能因此失去对中国的技术优势。同日，他在黄仁勋参与访谈时当场致电，双方就反对过度渲染 AI 风险表达一致立场。这套逻辑的现实基础是，研发速度会影响技术领先、基础设施投入和应用扩散。一国单方面放慢，并不能保证其他参与者同步行动。不过，竞争压力只能解释为什么不愿减速，无法证明具体系统已经安全；否定风险的政治表态，也不能替代技术证据。

黄仁勋主张由企业承担安全判断

黄仁勋在当周的公开讨论中反对集体放缓，认为创新与安全可以同时推进。对没有把握的产品，企业应推迟发布，并对自己的安全决策负责。Meta 首席执行官 Mark Zuckerberg 也支持由各实验室管理自身节奏，同时认可独立评估者和第三方评估行业的作用。

“油门派”由此提出了一种不同的治理路径：持续研发，把具体风险交给工程控制和产品责任处理。它的合理之处在于，不同模型、任务和部署环境的风险差别很大，一条统一的速度线可能误伤低风险应用，也可能让企业把精力用于满足形式要求，而非修复实际问题。但企业自律同样有边界。风险可能波及客户、供应商及未参与交易的第三方，承担损失的人未必能参与上线决策。如果安全状况主要依赖企业自己披露，外部社会也难以判断其信心究竟有多少证据支撑。市场激励能够推动安全投入，却不能自动覆盖所有公共风险。

三、跳出刹车油门之争，网络安全为何都有机会

从网络安全行业看，两种路线都增加了对安全能力的需求，但传导路径不同。放缓发展，意味着必须花更多精力证明风险可控；加速部署，则意味着更多业务活动需要受到持续保护。这是需求结构上的利好，不能直接等同于所有安全企业的收入与利润都会增长。

放缓发展，安全验证成为继续前进的依据

如果前沿能力受到更严格的节奏约束，企业要回答的便是：满足什么条件，可以进入下一阶段？这会推动安全投入从原则性承诺转向具体证据。模型是否会绕过限制，敏感数据能否被带出环境，异常操作能否被及时发现，都需要测试与记录，而不是一句“通过内部评估”。Amodei 提出嵌入式外部评估， Hassabis 的方案提出前沿能力测试和第三方审计，已经给出了这种需求的雏形。对安全行业而言，可承接的工作包括授权环境中的攻击测试、权限边界验证、训练与部署环境审计，以及模型和系统更新后的复测。前沿模型对齐涉及更广泛的研究，网络安全企业应聚焦自己能够检验和控制的系统风险。这类服务的价值，在于为继续部署提供可信依据。评估必须随版本、工具和权限变化持续更新；只在上线前出具一次报告，很难覆盖此后的环境变化。由此产生的机会，更接近持续验证服务，而非一次性的认证标签。

加速部署，安全控制要跟随AI进入业务

如果“油门派”占据主导，AI进入企业系统的范围会继续扩大。智能体每接入一个数据库、代码仓库或业务接口，就多了一组需要管理的访问关系。安全团队既要识别外部攻击，也要处理被合法授权的AI因误判、诱导或任务冲突而采取的不当行动。英国国家网络安全中心（NCSC）在 8 月 20 日的智能体风险建议中强调，应结合自主程度设置额外防护，使用沙箱限制活动范围，并保留监测、审计和紧急停止能力。这意味着访问控制要更细：除了识别“是谁”，还要知道它正在替谁执行什么任务、此刻需要哪些权限，以及权限何时收回。安全产品也需要看懂操作之间的联系。例如，单独读取文件和访问外网都可能正常，但连续发生时，可能构成数据外传路径。能否把身份、任务、数据与操作关联起来，将影响防护效果。

前沿模型减速，已经释放的风险也不会消失

即使下一代模型推迟发布，现有模型仍可被使用，已经接入 AI 的系统仍需维护，已公开的攻击方法也不会撤回。NCSC 在 2025 年发布的面向 2027 年的威胁评估中判断，AI 将进一步缩短漏洞披露到被利用的时间，并使防护不足的AI部署增加可攻击的入口。因此，网络安全需求并不完全随前沿模型发布节奏起落。漏洞修复、身份保护、数据防泄露和事件响应，仍需面对已存在的能力。与此同时，防御者也可以利用AI提高分析和测试效率。安全企业需要衡量的是风险是否更快被发现并消除，而不是产品接入了多强的模型。

四、网络安全行业受益的前提是把安全需求变成可信交付

对网络安全行业来说，更深的机会是把安全能力变成AI采用的条件。客户对越权和泄密缺少把握时，可能只愿试用；当权限边界可以验证、异常操作能够阻断、问题能够追溯时，才更有条件扩大部署。安全投入因此有机会获得业务部门的支持，而不只由安全部门独自推动。模型平台和云厂商正在提供自带的安全控制，简单增加一个 AI 助手，或者重复包装基础审计功能，都难以形成长期优势。独立安全企业的价值，需要体现在跨平台可见性、对客户真实环境的理解、独立验证，以及出了问题之后的处置能力。同时，安全需求增加未必立即转化为新增预算。踩刹车可能推迟部分项目，踩油门也可能让安全投入跟不上业务扩张。

这场速度之争最终会留下一个长期问题：当AI越来越能做事，人类如何持续掌握授权、观察和纠错的能力？无论产业选择更谨慎地推进，还是继续加速，这些能力都要有人建设。网络安全行业值得期待的空间，正来自这项持续而具体的工作。

山石网科是中国网络安全行业的技术创新领导厂商，由一批知名网络安全技术骨干于2007年创立，并以首批网络安全企业的身份，于2019年9月登陆科创板（股票简称：山石网科，股票代码：688030）。

现阶段，山石网科掌握30项自主研发核心技术，申请540多项国内外专利。山石网科于2019年起，积极布局信创领域，致力于推动国内信息技术创新，并于2021年正式启动安全芯片战略。2023年进行自研ASIC安全芯片的技术研发，旨在通过自主创新，为用户提供更高效、更安全的网络安全保障。目前，山石网科已形成了具备“全息、量化、智能、协同”四大技术特点的涉及基础设施安全、云安全、数据安全、应用安全、安全运营、工业互联网安全、信息技术应用创新、AI安全、安全服务、安全教育等10大类产品及服务，50余个行业和场景的完整解决方案。