2026云栖大会：智能体进生产，先过“可信”关

来源：环球网

【环球网科技报道 记者 李文瑶】“蚂蚁密算是一家可信智能公司。安全是我们的底色，但目标不是只保护数据，而是让企业 AI 在真实业务中可控、可靠、持续演进。”在云栖大会期间的媒体沟通会上，蚂蚁密算董事长韦韬首次介绍公司的可信智能战略与产品布局。

在采访中，韦韬将蚂蚁密算定位为“可信智能公司”，并详细拆解了“双底座一Fabric架构一密算服务平台”的三层能力：底层是密态算力与HOP可信原生智能体，中间层由可信智能Fabric组织智能体、知识、数据与安全能力，上层则是即将发布的“密算一号”平台。

从行业看，过去两年大多数企业的AI仍处于“试用期”——模型在演示和试点中表现良好，却迟迟无法接管真实业务。算力不敢用、智能不专业、数据不敢融，加之自然语言驱动的智能体存在失控风险，让安全与可信成为智能体进入生产的前提。这在韦韬看来，企业需要的不是更聪明的AI，而是可信的AI；安全是底色，可信是让企业AI可控、可靠、持续演进的生产能力。

智能体爆发后的三道坎：算力、智能与数据

“今年智能体爆发的时候，大家都觉得各行各业应该很快就能用起来，但发现路还非常远。”韦韬开场就点出行业现实。在他看来，企业AI走出“试用期”，至少要跨过三道坎。

第一道坎是算力。金融、医疗、法律、安全以及大量国央企，数据敏感度高，无法直接使用公有云明文算力。而模型时代的数据泄露后果，比过去严重得多。韦韬提到，无论是商业机密还是个人隐私，与大模型交互的记录都可能被提取、滥用，这让很多机构对“上云用AI”心存顾虑。

第二道坎是智能。韦韬直言，基座模型的能力在专业领域“基本上是一个优秀本科生的水平”，学的是通用知识，与行业专家在真实实践中积累的知识存在“显著差距”。“它每天犯的错，累积起来的后果非常严重。”

第三道坎是数据。企业要用AI改造业务，往往需要多方数据融合，但现实是“数据不敢融合”。韦韬将这一问题概括为比数据孤岛更严重的“治理孤岛”——没有一个合适载体，让数据源方在保有控制权的前提下参与计算。

更棘手的是，智能体的载体仍是自然语言。韦韬认为，自然语言不精确，难以描述复合逻辑和边界条件。“你让大模型干什么，它很高兴；你让它不干什么，它很多时候不听话。”他提到，大语言模型对红线的违背率超过80%，“单纯用自然语言描述，让AI执行严肃场景，根本不现实。”

从自然语言到HOP：让智能体“可控地干活”

智能体安全问题为何集中爆发？韦韬的答案是：架构错了。当前主流路线是“自然语言Skill+Harness代码”，前者不可控，后者只有程序员能看懂。而如今大量Harness代码由AI生成，程序员已很难逐行审核。行业专家想看流程是否符合专业要求，却被割裂的技术栈挡在门外。

蚂蚁密算的解法是HOP（High-Order Program，高阶程序）可信原生智能体。韦韬解释，HOP既包含显性的结构化逻辑，用易于理解的节点描述任务，又能容纳模糊推理语言，让大模型发挥主观能动性。更关键的是，HOP将智能体的探索、核验和提交线性分开——探索在沙盒中进行，可逆、不对外部造成不可逆影响；通过严格的生产级核验后，才能提交。

“今天的自然语言是一个手工作坊，老师傅带着学徒从头做到尾；HOP是工厂流水线，结构化分拆后，每一步都有探索空间，但整体流水有控制，质检动作不会被绕过。”韦韬说。这套体系试图解决的，正是智能体删邮件、删代码、删库、死亡螺旋、长时间烧Token等失控问题。

据介绍，蚂蚁密算于2025年发布HOP1.0，2026年升级至3.0，并在今年9月外滩大会期间宣布开源，希望与行业共建可信原生智能体生态。今年4月，蚂蚁密算还发布可信智能Fabric企业级AI架构，将HOP智能体与知识、能力、数据和安全基础设施组织为完整体系，以应对多智能体、智能体集群带来的任务分拆与全链路可溯问题。

对于RSI（递归自我改进）和AI失控，韦韬并不认同“AI太邪恶”的叙事。“AI要毁灭世界，不一定需要邪恶，它只要够笨就可以了。”他说，AI做100个决策，90个很好、5个惊艳，但有2个错误，人就会迅速疲惫；2%的错误率在复杂任务中不断累积，最后“癌变”，改都改不动。真正的风险，是系统层失去控制能力。解决之道，不是单纯对齐，而是把问题结构化，让每一步可核验，让行业专家能看懂、能守住底线。

密态计算托底：数据敢上云，推理可验证

如果说HOP解决的是智能体“可控执行”，密态计算解决的则是数据“敢不敢用”。韦韬介绍，密态计算体系可概括为“四纵两横”：四纵是密钥可信、账号可信、应用可信、日志可信；两横是硬件密态和数据链路层。

其核心是基于TPM可信芯片构建可信密钥管控系统，确保密钥只有数据源方和可信系统能获取，管理员、开发者都碰不到。账号体系、应用体系、日志体系也需重构，防止管理员通过账号、后门或删日志绕过控制。硬件密态则通过TPM-TEE、机密容器等，确保数据在网络、存储、内存中不出明文。

在数据链路层，用户上传数据时与可信密钥管控系统协商密钥，加密后流入数据安全域，在TEE环境中完成大模型、大数据计算。最终，数据产品或智能产品通过密态数据网关析出，网关会检查所有数据源方的密钥许可。“数据源方不会被管理员绕过，原始数据不会析出。”韦韬说。

这套体系已通过等保四级合规性检验。据公开信息，在TPC-DS标准测试集1TB复杂分析任务中，密态计算端到端耗时仅为明文计算的1.21倍，总体成本可控制在明文计算1.5倍以内。

面向大众关心的大模型交互安全，蚂蚁密算总裁刘前伟补充，蚂蚁密算推出密态推理服务：数据可加密上传，后端在芯片到机密容器、应用的全栈保护中运行，并通过远程验证度量软硬件环境是否符合约定。“你不用把模型部署在蚂蚁环境里，只要满足可信硬件条件，部署在阿里云、浙江公有云都可以。”刘前伟说。这一体系也能防止请求被转发到海外模型，导致敏感信息泄露。

商业化方面，蚂蚁密算计划在云栖大会发布企业级可信智能云服务平台“密算一号”，并启动首批定向开放。平台将覆盖治数、问数、分析建模三大Data+AI场景，并承载行业智能体应用。目前，公司围绕医疗健康、民生就业、车生态、征信和小微金融推进落地，已布局医保问数、团险理赔、医保智审等产品。

从云栖大会望向智能体产业，安全已不是外挂式补丁，而是生产前提。韦韬说，蚂蚁密算的目标，是让企业的数据和知识安全参与计算，让HOP智能体可靠完成生产任务，让业务经验持续沉淀为组织资产。企业需要的不是更聪明的AI，而是可信的AI——这或许正是智能体从演示走向生产的关键一跃。