北京
主权不等于安全。这是加拿大网络安全公司Autnhive首席执行官德维·纳拉扬（Devi Narayan）抛出的一个犀利观点。这位前多伦多警局调查员，如今专门研究AI系统安全。他眼看着各家机构在防火墙、监控系统和安全审计上烧钱，数据泄露仍不时发生，但他觉得，那时候的防御对象好歹是清晰的传统软件，而眼下，一种更隐蔽的风险正在蔓延。
大部分关于AI安全的讨论，都聚焦在一个问题上：强大的模型会不会帮攻击者找漏洞，或者自动发起网络攻击？这些担忧不无道理，但纳拉扬认为，这些只讲了一半的故事。另一半被严重忽略的问题是——我们该如何保护AI系统本身。
他用一个日常行为来说明这个盲区：你让聊天机器人帮忙起草工作邮件，让AI工具总结报告，或者任由手机给出回复建议——你其实是在把判断力交给机器。大多数人想都没想就接受了。但若把这种行为放大到整个社会，比如每家医院都在用AI安排手术，每个警局都在用AI分析证据，情况就完全不同了。
联邦和省政府现在砸下数十亿加元，确保加拿大掌控自己的AI基础设施。联邦政府近期公布的新AI战略，更是加倍押注这一野心。让加拿大不依赖外国平台，这确实明智且重要，因为AI即将成为日常生活的底层织料，支撑国民经济、国家安全、工作运转和公共服务。
然而，纳拉扬尖锐地指出，主权和安全是两个概念。建设主权AI，解决的是所有权和控制权。而保护好AI，关乎的却是信任——我们是否清楚这些系统是否按预期运行。
AI系统跟我们花了几十年学习保护的软件有着根本不同。传统系统是确定性的，相同的输入永远产生相同的输出。你可以测试、打补丁，能划出它行为的大致边界。AI却是概率性的，同一个问题在不同时间可能给出不同答案。它的行为受训练数据、持续交互以及护栏的影响，而大多数护栏本质上是“指令”，并非坚实的墙壁。
这就引出一个致命软肋：攻击者不需要闯进AI系统，他们只需要说服它。2023年就有过一个典型案例——一家汽车经销商的聊天机器人被说服，同意以1美元的价格卖掉一辆7万美元的车。没有发生传统意义上的黑客入侵，只是一次巧妙的语言诱导。这起事件看似仅涉及一桩交易，也不危及生命，但纳拉扬的潜台词很清楚：如果攻击者瞄准的是电网控制、医疗诊断或司法辅助系统，后果可就不是卖错一辆车那么简单了。
纳拉扬的立场很直白：花大力气建起了自主AI，却不同步加固系统内在安全，等于把钱扔进一个只有半扇门的保险库。主权能让你拥有钥匙，但无法阻止别人轻松绕过门上的对话窗口。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
