北京
“今年我们看到了由AI智能体发起的黑客攻击事件，这些是早期预警信号”。
10月14日，在人工智能峰会上，DeepMind董事长兼谷歌首席科学家哈萨比斯作出上述判断。他同时提出，如果企业、政府等方面不强化AI系统安全防护，相关风险在明年或未来几年可能演变为重大安全事件。对此，他呼吁借鉴生物学、核技术等高风险领域的经验，建立更严格的AI安全保障机制，并推动国际合作、制定统一的安全规范。
预警所向：智能体的“行动能力”改变安全边界
哈萨比斯所指向的AI智能体，是当前产业界重点投入的技术方向。与传统只能生成文本、图像的模型不同，智能体能够围绕目标自主拆解任务、调用工具、连续执行多步操作，并与真实系统直接交互。这种“行动能力”构成智能体的应用价值，也构成新的安全变量：当网络攻击的侦察、规划、执行等环节可以由AI自主完成时，攻击的组织方式将随之改变。
在这次发言中，哈萨比斯明确表示此类攻击事件今年已经出现，而非停留在推演层面。将其定性为“早期预警信号”，与“明年或未来几年可能演变为重大安全事件”的判断相衔接，构成一条完整的风险演进逻辑：事件已发生、趋势可预判、窗口期有限。
治理路径：借鉴高风险领域的制度化经验
在应对方案上，哈萨比斯援引了生物学、核技术两个领域。这两类技术因潜在的灾难性后果，长期发展出实验分级、准入审查、国际条约等制度安排，使风险管控嵌入研发与应用的全过程。引入这一类比，其指向是AI安全保障的制度化：机制要“更严格”，且不能止步于单个机构。
他所主张的国际合作与统一安全规范，对应的是AI风险的跨国界属性。智能体相关的安全事件不以国别为限，缺乏协调一致的安全规范，防护水平参差的系统就可能成为整体链条上的薄弱点。值得注意的是，在其表述中，需要强化AI系统安全防护的主体明确覆盖企业、政府等方面，安全议题由此被置于多元主体的共同议程之中。
时间窗口：从预警到升级的间距
哈萨比斯给出的时间维度值得产业界注意。“明年或未来几年”的表述，意味着这一风险判断并非远期隐忧，而是近期的决策变量。对于正在推进智能体落地的机构而言，安全防护能力与应用部署节奏的匹配，已经从合规讨论转向工程与治理层面的现实要求；对于监管与国际协调进程而言，能否在技术演进的窗口期内形成统一的安全规范，是后续的关键观察点。
由前沿AI研究机构的管理者公开确认攻击事件已经发生，并给出升级时间预期，这一表态本身即是信号：AI系统安全防护，已进入需要企业、政府协同推进的阶段。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
