2026年可信AI的标准与实践探索

AI供应商可能向客户承诺会负责任地处理数据并交付令人满意的成果，但他们真的能兑现承诺吗？

AI领域中的信任概念并不新鲜，然而供应商与客户之间的信任正在从一种信仰飞跃转变为一种明确且持续的对话。采用负责任和可信AI的框架正在成为基本期望。首席信息官（CIO）和首席信息安全官（CISO）会就数据安全和结果提出更严格的问题，如果得不到满意的答案，他们可能会选择离开。

2026年，CIO和CISO对AI信任有哪些考量？这对他们与供应商的关系意味着什么？

定义AI中的信任

在激活可能被视为侵入性的AI系统或工具时，信任是重要组成部分。从本质上讲，AI必须摄取数据。根据使用场景，这些数据可能是个人身份信息或知识产权。CIO和CISO希望相信相关数据是安全的，仅用于明确说明的目的，并且确实是交付承诺结果所必需的。

对于在竞争客户并争相将最新最强大AI能力整合到产品中的供应商来说，这可能是一个很高的要求。

企业协作软件公司Appfire的CISO Doug Kersten向InformationWeek表示："AI发展如此之快，完全信任是非常困难的。"

即使组织围绕AI建立了一套规则，随着技术和使用场景的变化，这些规则也可能很快变得不相关。

美国国家标准与技术研究院（NIST）AI和网络安全首席研究员Martin Stanley说："人们渴望找到一份清单，回到静态措施和固定控制。他们在寻找'好吧，我们如何知道这个系统是可信的？我们能否建立可信度，然后不再考虑它？'"

显而易见的答案是不能。AI可以渗透到组织中，变化太快，不可能在最初引入后就不再重新评估。

有各种框架和资源可帮助企业应对围绕AI信任、风险、安全和责任的问题。NIST有AI风险管理框架，还有ISO 27001和SOC 2 Type 2合规性。

对于一些公司来说，这些类型的认证和证明可作为评估AI供应商的基准。

Kersten说："我们实际上按关键性划分供应商。我们的关键任务供应商：我们要求完成SOC 2或ISO审计。如果他们没有，我们就不与他们做生意。"

这些框架和资源还处于早期阶段。客户可能会看到与尚未获得认证的供应商合作的价值，但随着时间的推移，对外部验证的期望可能会成为常态。

账户型营销平台6sense的CIO Bryan Wise说："我是否期望每一个供应商现在、今天就符合ISO 27001标准？可能不会。我想到明年，如果你问我同样的问题，我认为这将成为基本要求。"

对AI供应商的审查

评估AI供应商以确定其是否符合组织的可信度和价值标准是一项团队工作。

Kersten说："作为CISO，我不能单独做出这个决定，因为AI能做什么以及这种能力对业务的影响太广泛了。"

治理委员会为应对AI供应商评估提供了自然的方法。来自安全、IT、法律、采购和其他相关团队的领导聚集在一起，为组织确定正确的方法。

Appfire采用这种方法来确定其对AI的期望。该小组提出的问题包括："我们允许什么？不允许什么？我们如何定义AI？什么是AI供应商？我们采取什么步骤？如何让工程师使用AI产品而不会造成安全、隐私或数据丢失方面的潜在风险？"Kersten说。

仅仅围绕这些问题的答案制定政策并将其保留是不够的。这些委员会需要随着技术及其在企业内部的使用不断发展，持续完善和更新其供应商评估方法。

数据治理解决方案公司Transcend的常驻CIO和CISO Aimee Cardwell表示，她看到一些公司创建了"AI主管"角色。该负责人评估整个公司的AI使用场景，并考虑提出哪些问题来确定业务价值和风险。

无论公司决定如何处理这项任务，框架都可以提供良好的起点。但CIO、CISO和参与供应商评估的其他人员需要走得更远。

Kersten说："NIST AI风险管理框架是我们询问并跟进的内容，但该风险管理框架是自愿框架。"尽管供应商可能表示他们接受该框架，但其合规程度可能有所不同。"你在多大程度上与之保持一致？这些有时是很难回答的问题。"

向供应商提出尖锐问题可以帮助企业剔除不适合组织的供应商。公司希望就以下问题获得答案：

一旦供应商拥有这些数据，他们会用它来训练他们的模型吗？这些数据去向哪里？如何保护？

Cardwell说："我希望看到一张架构图，准确显示数据如何流经供应商系统。"

尽职尽责的CIO和CISO会在签订合同之前得到这些问题的答案。

Cardwell说："我们能做的最好的事情就是在合同上保护自己，这样至少如果你的数据发生了可怕的事情，你可以证明作为一家公司，我们已经尽了我们认为可以做的一切。"

Q&A

Q1：为什么说AI领域的信任关系正在发生变化？

A：AI领域中供应商与客户之间的信任正在从一种信仰飞跃转变为一种明确且持续的对话。采用负责任和可信AI的框架正在成为基本期望，CIO和CISO会就数据安全和结果提出更严格的问题，如果得不到满意的答案，他们可能会选择离开。

Q2：为什么AI系统很难建立完全的信任？

A：AI发展非常快，技术和使用场景不断变化，即使组织建立了一套规则，这些规则也可能很快变得不相关。AI可以渗透到组织中，变化太快，不可能在最初引入后就不再重新评估，因此完全信任是非常困难的。

Q3：企业在评估AI供应商时应该关注哪些关键问题？

A：企业应该询问供应商数据使用和保护的关键问题，比如：供应商获得数据后是否会用它来训练模型？数据去向哪里？如何保护？最好能看到架构图，准确显示数据如何流经供应商系统。同时还要关注供应商是否符合SOC 2或ISO 27001等认证标准，并在签订合同前做好尽职调查，在合同层面保护自己。