网易首页 > 网易号 > 正文 申请入驻

从中国方案到工程底座:万象镜,全球人工智能治理倡议的落地回答

0
分享至



导语

2023 年 10 月,中方发布《全球人工智能治理倡议》,确立 “以人为本、智能向善” 核心理念,向世界贡献人工智能治理的中国方案。2025 年 7 月,《人工智能全球治理行动计划》正式发布,将理念转化为十三项具体行动安排。2026 年 7 月,2026 世界人工智能大会暨人工智能全球治理高级别会议在上海举办,大会提出构建人工智能治理相关体系的重要方向,世界人工智能合作组织于上海完成协定签署,标志中国 AI 治理实现从理念倡议、行动框架到国际组织载体的完整演进。

宏大理念之下,工程化落地命题亟待破解:倡议提出要打造可审核、可监督、可追溯、可信赖的人工智能技术,推动建立风险等级测试评估体系,倡导以人工智能技术防范人工智能风险。上述治理要求,依靠何种技术载体实现?

放眼全球,学界多聚焦治理原则研讨,可运行的落地工程系统较为稀缺。万象镜(OmniEyes)构建 “确权 — 评测 — 监测 — 修复 — 资产沉淀” 完整业务闭环,将国内 AI 治理各项原则,转化为可量化、可复现、可交付的工程产品。

一、国家倡议的三级演进,留下一个工程化缺口

梳理国内人工智能全球治理推进脉络,三条发展路径清晰可辨:

2023 年,确立治理理念。《全球人工智能治理倡议》发布十一条核心主张,坚守 “以人为本”“智能向善”,明确反对利用 AI 技术操纵舆论、传播虚假信息;提出推动建立风险等级测试评估体系,打造可审核、可监督、可追溯、可信赖的人工智能技术,倡导发展治理类 AI 技术,实现以人工智能防范人工智能风险。

2025 年,明确行动路径。《人工智能全球治理行动计划》确立向善为民、尊重主权、发展导向、安全可控、公平普惠、开放合作六大原则,在专项行动中提出建立人工智能风险测试评估体系,提升模型可解释性、透明性与安全性,探索人工智能服务可追溯管理制度等具体要求。

2026 年,搭建国际载体。世界人工智能大会进一步明确,要推动健全法律法规、技术监测、风险预警、应急响应协同体系;世界人工智能合作组织完成协定签署落地上海,国内智能经济核心产业规模突破万亿元,治理工作拥有实体化国际协作平台与产业现实基础。

三年迭代,理念、行动、组织框架全部成型,但底层工程缺口依然存在:技术监测、风险预警、可追溯、可信赖等治理目标,均需要可实际运行的技术底座承接;缺少工程载体,治理规则便容易停留在纸面文件。

放眼全球行业现状:海外 RAGAS、DeepEval 等开源评测框架,仅支持本地私有文档测试,无法覆盖公网真实联网检索链路;NewsGuard 实现域名可信度打分,但不观测大模型真实采信行为;Brandlight.ai 专注品牌提及监测,仅做信息有无的统计,无法区分检索召回与事实采信两个关键环节。尚无一套完整系统,能够对 “大模型采信什么信息、采信逻辑、采信结果正误” 完成全链路量化分析,这正是万象镜的切入点。

二、万象镜五大模块,逐条对应国家倡议要求

万象镜并非单点工具,而是一套 “确权入库 — 多模型评测 — 持续监测 — 资产部署 — 复测验证” 闭环操作系统。五大核心模块,对治理倡议提出的工程化命题形成逐条响应。

1. KUCR 原子事实确权:对应 “提升数据真实性”“抵制虚假信息传播”

治理文件明确要求提升数据真实性准确性,抵制借助人工智能传播虚假信息、操纵舆论的行为。

万象镜 KUCR 四层流水线:Know 事实采集、Understand 语义归一、Correct 冲突校准、Recommend 采信归档,将原始素材萃取为不可拆分、语义闭环、具备溯源能力的原子事实。配套浅层公网发布库、中层关联库、深层凭证存证库三层库架构,每条事实附带完整凭证链路,解决通用 RAG 切片切割关键事实的工程痛点。

经过确权归一、冲突校验的标准化事实资产进入模型体系,从入库源头拦截虚假信息输入,降低大模型被投毒、被舆论操纵的风险,落地 “以人工智能技术防范人工智能风险” 的实践路径。

2. 系统之翼多模型评测:对应 “建立风险测试评估体系”“可审核”

《全球人工智能治理上海宣言》与《人工智能全球治理行动计划》反复强调建立风险等级测试评估体系的必要性。风险如何评估、评估标尺如何建立,是行业共性难题。

万象镜 “系统之翼” 模块调用多家公有大模型真实联网接口,使用统一受控题库,输出召回次数 — 采信转化率二维评测矩阵。

在 2000 轮标准化受控测试当中,完成对五款主流模型、80 道中性事实题库、23 类信源的持续观测。实测得出关键结论:检索召回频次与事实采信质量完全解耦。部分信源检索召回频次很高,但采信转化率偏低;企业官网采信率表现优异,但是检索召回占比不足。这一实测结果提示监管与产业方,仅统计检索命中量没有实际价值,采信转化率才是核心观测指标。

整套评测体系支持复现、横向对比、审计留痕,落实治理文件提出的 “可审核” 技术标准。

3. CDI 认知漂移监测:对应 “技术监测、风险预警”

AI 治理体系建设,要求搭建技术监测、风险预警、应急响应配套机制。

万象镜原创 CDI 认知漂移指数,将 “大模型输出口径前后不一致” 这类模糊风险,转化为 0‑100 区间可量化预警指标。持续跟踪同一主体,在多模型、多时间维度下的输出口径,识别时序漂移、立场摇摆、事实偏差,做到风险前置识别、过程可审计、链路可追溯。

实现从事后舆情处置,转向常态化 AI 输出口径风险预警,完成技术监测与风险预警的工程落地。

4. 三层库凭证存证:对应 “可追溯、可信赖”

行动计划提出探索人工智能服务可追溯管理制度的工作方向。

万象镜三层库架构中,深层凭证存证库完整留存每一条原子事实的原始来源、确权处理流程、版本修改记录。大模型采信的任意一条事实,均可反向回溯原始信源与完整确权链路,把 “可追溯” 从政策口号转化为数据库内可查验的凭证记录。

5. 信任资产闭环:对应 “安全可控”“公平普惠”

倡议强调人工智能发展安全可控,行动计划提出公平普惠、弥合智能鸿沟的目标。

万象镜形成完整业务闭环:评测识别采信短板 → KUCR 完成原子事实确权加工 → 通过官方网站、权威媒体、行业期刊多渠道部署事实资产 → 再次开展多模型评测验证优化效果。政企客户无需自建庞大 AI 治理技术团队,即可获取标准化 AI 信任资产建设能力,降低 AI 治理落地的技术门槛,践行公平普惠的治理导向。

三、一个核心发现,回应倡议最关切的命题

《全球人工智能治理倡议》重点提出,防范利用人工智能技术操纵舆论、传播虚假信息的风险。万象镜实测数据,揭示出 AI 时代虚假信息操纵的现实路径与防御优先级。

实验表明:高采信等级信源产生的错误信息,对大模型输出结果的冲击,远高于海量低采信信源的批量转载。AI 环境下的舆论操纵,重点不在于海量铺量,而在于渗透高采信渠道,包括官方网站、主流媒体、权威期刊。对应的防御策略,不必平均消耗资源监控全部低质信源,应当将监测资源向高采信信源倾斜。该结论为落实反虚假信息、反舆论操纵提供可执行的实操优先级。

在中性静态事实题库条件下,实验未观测到大模型存在明显的母公司生态偏袒,模型采信判断优先取决于信源本身事实质量。该实测为 AI 治理所倡导的公平非歧视原则,提供实证支撑,该结论限定于中性事实场景。

四、全球对标:中国方案的工程化先发优势

全球范围内,尚无商用系统实现万象镜的完整闭环能力。

1. 数据真实性治理文件要求:提升数据真实性,抵制虚假信息传播海外工具现状:缺少事实确权流水线万象镜实现:KUCR 四层确权 + 三层凭证库架构

2. 风险测试评估治理文件要求:建立风险等级测试评估体系海外工具现状:仅限本地 RAG 评测,不覆盖公网联网链路万象镜实现:系统之翼,多模型公网真实环境实测

3. 技术监测预警治理文件要求:建设技术监测、风险预警体系海外工具现状:仅做品牌提及统计,无漂移量化指标万象镜实现:CDI 认知漂移指数,量化口径异常风险

4. 可追溯治理文件要求:探索 AI 服务可追溯管理制度海外工具现状:缺少完整凭证存证机制万象镜实现:深层凭证存证库,全链路可回溯

5. 以 AI 治 AI治理文件要求:以人工智能防范人工智能风险海外工具现状:多为概念探讨,缺少落地工程产品万象镜实现:端到端 AI 认知治理闭环系统

6. 公平普惠治理文件要求:弥合智能鸿沟,降低治理应用门槛海外工具现状:工具碎片化,使用门槛高万象镜实现:标准化 SaaS + 私有化部署多模式交付

海外学术界已经意识到 “检索不等于采信” 关键技术命题,但缺少第三方中立、面向公网环境、支持批量复现的实测评测体系。万象镜将国内 AI 治理原则落地为可运行工程系统,形成独特的技术竞争力。

五、从企业实践到国际公共产品

世界人工智能合作组织在上海落地,为人工智能领域国际公共产品供给搭建全新协作平台。万象镜后续发展路径,与该方向高度契合。

・标准输出:将 “召回率‑采信转化率” 二维评测体系、CDI 认知漂移指数、KUCR 原子事实确权规范,转化为团体标准、行业标准,输出可复用的测评工具,服务全球人工智能治理实践。・能力共建:依托世界人工智能合作组织协作平台,向全球南方国家输出 AI 信任资产建设能力,助力各国守护机构、品牌、本土文化在大模型环境下的事实话语权,践行弥合数智鸿沟的行动方向。・多语种扩展:从中文信源评测逐步拓展至多语种体系,为全球 AI 治理提供跨语言、跨文化的实测实证数据。

结语

自《全球人工智能治理倡议》发布以来,国内已经输出成熟的治理理念、行动方案与国际协作载体。治理落地,不只依靠文件文本,更有赖技术系统支撑。

万象镜的核心价值,是把 “以人为本、智能向善” 从价值理念转化为工程可度量指标:每一条事实的确权状态、每一次检索的采信结果、每一轮输出的口径漂移,全部可以测量、可追溯、可修复。

当大模型深度介入信息获取、公共传播、政务服务场景,AI 治理不再局限于伦理层面探讨,而是一套依赖工程底座的系统工程。万象镜的闭环实践证明:中国的人工智能治理方案,既具备理念高度,同样拥有工程落地深度。


注:文中实验数据来自《多模型检索召回与事实采信对比测试周汇总报告》(北京奥美地亚万象镜・中国 AI 认知治理实验室);倡议、行动计划、大会相关公开表述均引自中国政府网、央视网、中央网信办、外交部公开发布官方文件。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

谷武科技 incentive-icons
谷武科技
中传奥美地亚
34文章数 157关注度
往期回顾 全部

专题推荐

乌蒙深处 清凉毕节

无障碍浏览 进入关怀版