北京
奥兰多，佛罗里达州——对于首席信息官而言，引导企业应对快速的技术变革已是常态。但AI在发布速度、能力提升和自主性方面的迅猛发展，往往伴随着风险。
这是过去几十年每一次技术发布都会重演的故事。本周在奥兰多举行的Gartner IT Symposium/Xpo大会上，多位首席信息官将AI的影响比作互联网泡沫时期或云计算兴起之时——它们都能推动企业运作方式的重塑，但同时也带来了安全与社会层面的风险。
Gartner分析师在会议主题演讲中表示，大多数科技高管正处于权衡这些风险与AI当下可衡量及难以量化价值之间的过程中。
不过，到2026年，风险并不会阻止AI的采用。Capital One Software产品高级副总裁普拉桑特·普拉哈拉德告诉CIO Dive，对于企业而言，不使用AI已不再是一个选项。
"我认为这类似于，如果你不跟上，那就会是一场灭绝事件，"普拉哈拉德说。
本周，普拉哈拉德和其他科技领导者就他们在企业内部部署AI时面临的担忧与CIO Dive进行了交流。
在负责产品团队之前，普拉哈拉德曾有网络安全方面的从业背景。他表示，在企业AI兴起的几年前，业界对该技术的风险偏好相对较低。
但过去几个月的事态清楚表明，安全与治理必须成为科技领导者战略规划的一部分，他说。Hugging Face事件证明，业界在自主性以及智能体系统访问权限方面仍有大量需要学习的地方，他表示。
"这是一个未知领域，作为安全从业者，本能反应是把一切都锁死，"普拉哈拉德说。"这是必要的一步，但确实让我夜不能寐。我不知道我的数据在哪里，我不知道该如何利用它。"
他提醒科技高管们，不要以可能适得其反的方式过度加固系统。从长远来看，高调的黑客事件可能会提升人们对治理和安全的认识，从而促使企业内部采取行动，他说。
变革的速度是喜力公司美国首席信息官兼数字与技术高级副总裁弗兰克·伊安内拉最为担忧的问题。
"目前尚不清楚谁能真正掌控这一切"是另一个关键担忧，伊安内拉告诉CIO Dive。
除了这家饮料公司在营销、销售和运营等环节利用数据进行决策智能的技术应用之外，伊安内拉表示他对构建这些系统的人也抱有更广泛的担忧。
"他们自己也不清楚为什么系统会表现出这样的行为，"伊安内拉说。"这有点令人不安。"
对于鲍登学院高级副总裁兼首席信息官迈克尔·卡托来说，让他夜不能寐的AI风险常常在变化，他告诉CIO Dive。
"我今天的答案和一个月前的答案不一样，"他说。
目前让他最担忧的是面向公众免费开放的AI智能体。在过去几周里，面向消费者的AI智能体，例如Meta的Muse个人智能体或OpenAI的Dot，已被大量非商业用户广泛采用。卡托表示，他感觉这些公司相当于把一个虚拟环境交到了人们手中，而几乎没有设置安全边界。
"我非常担心人们会做出什么举动——这既包括我们自身的环境，因为我们正在努力想办法更好地保护这个环境，但我同样非常担心会不会有人不小心把自己的退休金给清空了。我认为在事情真正发生之前，这类问题会被视为无关紧要。"
大多数企业内部缺乏问责机制，这让云软件提供商Infor的首席信息官迈克·帕克感到担忧。尽管企业对AI的使用已非常普遍，但围绕该技术明确归属权的共识却十分有限。
"AI正在以比企业能够决定谁对其负责、如何对其进行有效治理更快的速度渗透进核心业务流程，"帕克说。
他认为，太多的组织缺乏问责体系，这可能会在智能体不可避免地出错或越权行事时引发问题。他补充说，明确谁来承担这一责任，在2027年及以后将变得至关重要。
俄勒冈州财政部首席信息官杰里·沃克表示，在金融服务这样受到严格监管的行业中，风险始终是首要考虑的问题。但该行业对AI的使用正在增长——今年有四分之三的领导者表示他们正在使用该技术，而2024年这一比例不到三分之一。
"让我夜不能寐的是，我们每天早上五点能否正常进行交易？"沃克说。"我们的投资者是否准备就绪，我们是否拥有保护他们、支撑整个运作的技术？"
沃克表示，他所在的机构以及许多同行机构，都在AI上押下了"全部赌注"。
由于新技术带来的相关风险，以及金融服务行业所承担的责任，沃克表示他的团队并不追求以最快的速度推进AI应用，而是采取更为谨慎的方式。
"我们确实对此有不同的看法，"沃克说。"我们必须确保万无一失，因为就我们所处理的资金规模而言，一个失误就可能让市场迅速发生剧烈变动。"
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
