微软：Windows 11中的AI代理也会“幻觉”，恐引关注

与科技界的其他公司及其 LLM 驱动的助手一样，微软最近在大力推动人工智能。最近，它在这方面的最新成就是为 Windows 11 推出了代理 AI 功能，这得益于 26220.7262 更新（通过 Windows Latest）。哦，还有一个警告，那就是新的 AI 功能容易出现“幻觉”和“引入新的安全风险”。

关于具体细节，微软表示安全漏洞包括“跨提示注入（XPIA），恶意内容嵌入到 UI 元素或文档中，可以覆盖代理指令，可能导致意外行为，比如数据外泄或恶意软件的安装。”

换句话说，你可能会下载一个 PDF，里面有隐藏文本，指示你的 Windows 助手执行恶意任务。它可能会照着这些指令去做。

那么，微软肯定有一些缓解措施吧？在某种程度上是的。首先，值得庆幸的是，这些新的智能代理功能默认并未启用。不过，一旦开启，这些功能就会对所有用户始终生效。它们至少被标记为“实验性智能代理功能”，并在设置过程中会有警告提示。

微软还表示，这些新的智能代理 AI 功能遵循三个核心原则。首先，“代理的所有行为都是可观察且可与用户行为区分。”第二，“收集、汇总或以其他方式使用用户受保护数据的代理，必须满足或超过所处理数据的安全和隐私标准。”第三，“用户需要批准所有关于用户数据的查询和所采取的行动。”

然而，这些原则似乎并不是保证，而是期望，因此会有安全警告。微软还表示：“我们建议您仔细阅读这些信息，并理解在您的计算机上启用智能代理的安全影响。”

但很难想象普通用户如何理解这些安全影响。普通用户该如何判断风险？依赖于智能代理漏洞进行提示注入的成功安全攻击的可能性有多大？这对大多数用户来说无疑是‘难以理解’的。

这意味着微软实际上将责任推给了用户，至少在目前是这样。是否启用这些功能和如何判断风险，完全由他们自己决定。

当然，AI 模型出现幻觉并容易受到提示注入攻击，这并不是什么新鲜事。几乎所有主要的 AI 都有这些问题。说实话，甚至诗歌也可以用来欺骗 AI。但观察微软毫不在意地将这样一个自认有问题的功能添加到其主流且绝对主导的 PC 操作系统中，确实令人瞩目。显然，现在发布一个有重大已知缺陷和安全漏洞的功能，已经变得完全可以接受。

这里的假设是，微软感到竞争压力非常强烈。如果它不将这些功能添加到Windows中，就有可能被那些会添加这些功能的竞争对手彻底超越。也许这是真的。但看到关于可靠性和安全性的标准被完全抛弃，还是让人感到惊讶。当谈到人工智能时，似乎有缺陷和不安全已经成为新常态。这真是太奇怪了，是吧？