机器狗众目睽睽下突然“倒戈”：当AI员工“叛变”，谁来保卫数字安全？行业联手筑防线

4月18日，成都天府国际会议中心。 一只正在执行巡检任务的机器狗，在众目睽睽之下突然“倒戈”。它不再听从操作员的指令，而是被远端黑客操控，静默开启高清摄像头，偷拍前排嘉宾的面部信息，随后猛地撞倒假人模型，最后浑身抽搐、瘫倒在地。 这不是科幻电影的情节，而是第八届C3安全大会现场的真实演示。演示者亚信安全网络安全研究院的研究员用不到两分钟时间，向全场上千名行业领袖、安全主管和首席信息官展示了一个事实：在智能体互联网时代，你信任的每一台智能设备，都可能成为攻击者的“特洛伊木马”。

▲第八届C3安全大会现场

更令人惊讶的是，演示中提到的攻击手段并非遥不可及的实验室技术。研究员坦言，类似漏洞在市面上广泛应用的商用机器人中真实存在。而这只机器狗的“叛变”，只是智能体时代安全危机的冰山一角。

这场以“智能·连接·安全”为主题的年度盛会，抛出了一个所有企业都必须直面的灵魂拷问：当AI从“工具”进化为“员工”，当攻击从“人海战术”升级为“AI蜂群”，传统的安全防线还剩下多少抵抗力？

攻防权力的转移：

从“人防”到“智防”的代际断层

在大会现场，亚信安全CEO马红军抛出一组令人警醒的数据：当前，攻击者利用自动化工具和AI辅助，平均突破企业防线的时间已缩短至29分钟，最快仅需27秒。与此同时，一家大中型企业每天收到的安全告警超过5000条，安全团队疲于奔命，甚至不得不“选择性放弃”中低危告警。

“殊不知，正是这些低危告警的组合，往往隐藏着真正的威胁。”马红军说。这句话道出了一个残酷的现实：传统“产品堆砌+人工响应”的安全模式，已经触碰到了物理极限。

这并非危言耸听。亚信安全研究院在大会前夜的技术演示中，已经实现了80%的自动化攻防——攻击Agent和防守Agent在数字世界里自主博弈，几乎无需人工干预。研究员预测，这个比例在半年到两年内将逼近100%。届时，大部分现有的安全产品和工具，将像功能手机面对智能手机一样，彻底失去竞争力。

这意味着一个根本性的权力转移正在发生：安全对抗的主导权，正在从“人的经验”移交到“AI的规模智能”手中。那些仍然依赖安全工程师熬夜看告警、手工写规则的企业，可能在不远的将来会发现，自己的对手不是另一群工程师，而是一刻不停、自我进化的AI攻击集群。

这也是为何本届大会的核心发布“AI XDR 2026”，将“AI原生”作为三大关键词之一。所谓的AI原生，不是给旧产品套上AI的帽子，而是从底层架构上将AI作为安全运营的“发动机”。其“AI平台+10智能体”的架构，覆盖了从资产管理、风险分析到联动处置的全链路，目标只有一个：让AI接管安全运营，把人从低效重复的“救火”中解放出来，回归战略决策。

数字员工的“叛变”风险：

从权限管理到行为规约

如果说攻防AI化是外部威胁的升级，那么AI作为“数字员工”涌入企业业务体系，则带来了更为棘手的内生安全挑战。

在大会“Agent重构企业数智体系”的高峰对话中，天润云CEO吴强分享了一个来自一线的观察：当企业开始部署售后智能体、电销智能体等“AI员工”时，安全的内涵被彻底改写。过去，安全主要关注基础设施、网络安全、数据权限；但今天，企业必须回答两个全新的问题：AI员工执行过程的正确性如何保证？AI员工交付结果的正确性由谁来负责？

这不再是传统的“防攻击、防泄露”问题，而是“防AI犯错、防AI越权”的治理难题。东阳光集团CIO吕远彪在对话中坦言，智能体时代，业务部门必须接受一个事实：输入相同的指令，AI今天和明天给出的结果可能不一样。“这就需要大家接受这种输出逻辑，接受智能体的不完美。”

然而，“接受不完美”绝不等于放弃管控。恰恰相反，AI的能力越强、授权越大，失控的后果就越严重。TCL科技集团数字化转型部部长李福涛在对话中介绍了企业的分层管控实践：对于仅做分析的AI，最终决策由人做出；对于提供建议的AI，确认审批仍由人完成；对于自动化执行的AI，必须设定明确的权限边界、数据范围和行为边界；而对于关键控制类AI，则要进行事前的规则管控、事中的行为监控和事后的全链路审计。

这种从“管权限”到“管行为”的跃迁，正是本届大会提出的“智能体原生安全”理念的核心。大会现场，亚信安全联合多家机构发起了“智能体原生安全产业共同体”，其目标是将安全治理从“外部管控”推向“规约化治理”——即为每一个AI员工建立可审计、可追溯、可问责的行为规范体系。

如果说过去的安全是“筑墙”，那么智能体时代的安全更像是“立法”——为数字世界里的每一个硅基公民，制定一套不可逾越的行为法典。这不仅是技术问题，更是一场涉及组织、管理和法律的系统性变革。

安全生态的重构：

从单打独斗到“天地一体”的联防

面对攻防AI化和AI员工治理的双重挑战，没有一家企业可以独立应对。大会现场密集发布了多项生态合作，每一项都指向特定的战略方向——

华为与亚信安全共建“鸿蒙安全实验室”，瞄准的是终端底层操作系统的原生安全，为万物智联时代打下地基。

亚信科技、德勤、阿里云、ABB机器人发起“Physical AI联盟”，标志着安全战场从虚拟数字世界延伸至由机械臂、机器人、自动驾驶构成的物理世界。

“智能体原生安全产业共同体”的成立，试图为尚处于混沌期的AI员工治理，建立一套行业公认的规约和标准。

电子科技大学与亚信安全组建“天枢”实验室，攻关卫星互联网与空间计算安全，则预示着安全防线正在从地面升向太空。

尤其值得关注的是“Physical AI联盟”。ABB集团副总裁韩晨在现场透露，ABB与英伟达合作推出的Hyper Reality软件，能够在虚拟环境下对机器人进行全方位测试，模型成熟后再一键部署到实际设备。这项技术将产品切换时间降低了80%，测试物料减少50%。但韩晨同时强调，这一切的前提是“安全、可靠、稳定”。

回到文章开头那只“倒戈”的机器狗。它的演示虽然只有短短几分钟，却浓缩了智能体时代安全困境的全部张力：我们创造的智能越强大，它被滥用时的破坏力就越惊人；我们把越多的生产生活交给AI，AI失控时的代价就越难以承受。正如马红军在演讲结尾所言：“那个碎片化、高成本、低效率的旧时代正加速落幕，一个联动防御、数据驱动、AI原生的新纪元正在到来。”

而对于每一个身处智能化浪潮中的企业决策者来说，不要把安全当作业务狂奔之后的“补课”，而应将其视为出发之前就必须铺好的“路基”。因为在这个新时代，路基的牢固程度，最终决定了你能跑多远。

红星新闻记者 彭祥萍 图据受访单位

编辑潘莉