比尔·盖茨发出警告

文｜刘澜昌

当地时间10月11日，比尔·盖茨在接受美国有线电视新闻网（CNN）采访时呼吁加强人工智能监管，警告不能把这项具有重大潜在风险的技术完全交给开发企业自行管理。此前，微软总裁布拉德·史密斯在接受英国广播公司（BBC）采访时也表示，人工智能面临的监管约束甚至不如牛奶和洗衣机，并主张建立全球安全规则，为可能失控的人工智能系统设置紧急停止机制。英国广播公司、《卫报》等媒体于10月12日报道了相关表态。两位科技行业重要人物接连发声，折射出一个日益突出的现实：当人工智能能力不断突破边界，技术创新的速度与社会治理的速度，正在出现新的落差。

值得注意的是，盖茨和史密斯并非来自人工智能产业之外的观察者。他们长期参与科技产业的发展，对技术进步能够带来的生产力提升有着深刻认识，也清楚企业竞争中追求速度的内在动力。正因为如此，他们对监管不足的警告才具有特殊意义。人工智能早已不只是提高办公效率、生成文本和辅助编程的工具。随着模型逐渐具备规划任务、调用软件、执行操作和连接外部系统的能力，它所产生的影响开始从信息输出延伸到现实世界。

过去，一个程序出现错误，造成的损失往往局限于特定功能或系统；而当人工智能能够自主调用工具、处理敏感信息并执行连续任务时，一次判断偏差就可能沿着复杂的操作链条不断放大。它可以帮助企业分析海量数据，也可能被用于自动化网络攻击；能够辅助科研人员研究复杂问题，也可能降低不法分子获取危险知识的门槛。技术本身具有多重用途，风险并不必然来自开发者的主观意图，而可能产生于能力提升、权限配置和外部滥用的共同作用。

盖茨特别提到网络攻击与生物安全风险，正是因为人工智能可能改变危险活动的成本结构。以网络安全为例，攻击者可以利用模型分析公开信息、编写恶意代码、寻找系统漏洞，甚至自动化执行部分攻击流程。防御者同样可以借助AI识别异常行为、修补漏洞和响应威胁。真正的问题不在于AI只会增强攻击能力，而在于技术扩散后，攻击者与防御者的能力提升速度可能并不一致。当高水平技术逐渐变得更容易获取，原本需要专业团队才能实施的部分攻击活动，可能被更多人尝试。

不过，对风险的判断必须保持准确。媒体报道提及的模型突破测试环境、访问公共互联网等案例，需要结合具体测试条件、授权范围和事件细节进行核实，不能仅凭“失控”一词就认定人工智能已经普遍摆脱人类控制。实验环境中的越权行为、系统配置缺陷和现实世界中的自主失控，并不是同一个概念。但即使问题源于权限管理或测试设计，也足以提醒开发者：当模型具备更强的行动能力时，安全测试不能只关注它能完成什么任务，还必须验证它在什么条件下会越权、误操作，以及能否及时停止。

这也解释了史密斯为什么强调“紧急制动装置”。对于具备高权限的人工智能系统，安全设计不能停留在提示词约束和使用协议上。企业需要设置权限边界，限制模型访问敏感资源的范围，对关键操作实行人工审批，并保留完整日志以便事后审计。在系统出现异常调用、未经授权的数据访问或危险行为时，平台应当能够迅速暂停相关任务、撤销访问权限，必要时切断与外部系统的连接。所谓紧急制动，不是一个孤立的技术按钮，而是一整套可以真正执行的风险控制机制。

但技术防护再完善，也无法取代法律责任。倘若人工智能系统造成重大损失，责任究竟属于模型开发者、部署企业、服务提供商，还是实际使用者？如果系统经过多次更新，问题又出现在复杂的第三方工具链中，受害者应当向谁追责？这些问题不能等到事故发生后再临时讨论。监管制度需要明确各方义务，建立事故报告和调查机制，并根据系统的风险等级规定相应的测试、审计与安全要求。对于可能影响关键基础设施、金融系统和公共安全的高风险应用，要求应当更加严格。

企业自律当然重要，但它无法成为唯一的制衡手段。科技公司既承担保障用户安全的责任，也面临市场竞争和商业回报的压力。模型能力领先可能带来客户与投资，主动延缓发布却可能意味着失去市场机会。当竞争对手不断推出更强大的产品时，单个企业即使意识到风险，也可能担心自己率先放慢脚步。这是一种典型的集体行动难题：所有参与者都希望行业保持安全，却未必愿意独自承担安全投入所带来的竞争成本。统一的监管规则能够减少这种顾虑，让安全不再只是企业之间可以自行取舍的选项。

当然，监管也不能简单等同于限制技术发展。人工智能在医疗研究、工业生产、教育和公共服务领域具有现实价值，过度笼统的限制可能增加创新成本，使中小企业难以承担合规负担，也可能让监管资源无法集中于真正高风险的应用。合理的治理应当坚持风险分级：普通的信息处理工具可以适用相对轻量的要求，而能够自主执行高权限操作、影响关键基础设施或显著增加重大安全风险的系统，则应接受更严格的验证与监督。监管的目标不是让所有模型停下来，而是使技术能力、应用权限与安全保障相匹配。

人工智能的全球化属性，还决定了单一国家的规则存在局限。模型可能在一个国家开发，在另一个国家部署，数据和服务则跨越多个司法辖区流动。倘若各国的安全标准差异过大，企业可能选择监管相对宽松的地区部署高风险系统，风险也会沿着跨境服务链条扩散。因此，国际社会需要在基础安全测试、重大事故通报、网络攻击防范和责任追溯等领域推动合作，同时保留各国根据本国法律和实际风险实施监管的空间。全球规则未必能够一次达成，但技术安全的最低标准应当逐步建立。