清华教授沈阳分析中小企业应用AI：必须以多层验证减少幻觉

7月20日，2026世界人工智能大会暨人工智能全球治理高级别会议闭幕。在当天的“AI for SME——人工智能赋能中小企业高质量发展”论坛上，清华大学新闻与传播学院、人工智能学院双聘教授沈阳发表演讲指出，“建议中小企业不要零散地使用AI，而要建立一套企业级AI战略与应用规则。企业不能容忍AI幻觉，必须建立多层验证体系，通过因果推理等降低AI幻觉风险。”

沈阳此前在接受南都N视频记者采访时表示，“人工智能的上半场争的是谁更聪明，下半场争的是谁敢为结果负责。《全球人工智能治理倡议》对企业最深的启示是：治理不是给人工智能踩刹车，而是它进入现实世界的承重结构。”

沈阳在论坛上发表主题演讲。受访者供图

“应建立企业级AI战略与应用规则”

7月20日上午，2026世界人工智能大会期间，中国中小企业协会联合海内外行业专家与相关企业，举办“AI for SME——人工智能赋能中小企业高质量发展”平行论坛。沈阳在论坛上发表主题为“从智能体到自进化组织：FDE如何重构中小企业”的演讲，FDE即Forward Deployed Engineer（前沿部署工程师）。

沈阳在演讲中指出，企业使用AI，需要面对流程、权限、质量、责任、审计、数据安全和客户交付等一系列问题。企业必须回答：谁来使用AI、AI可以访问哪些数据、哪些结果可以直接执行、哪些结果必须经过审核、AI犯错由谁承担责任、一次成功的方法如何变成整个组织的能力？

“因此，我给中小企业的第一个建议是：不要零散地使用AI，而要建立一套企业级AI战略与应用规则。”沈阳指出，“当前真正稀缺的，不只是更聪明的模型，而是企业将模型能力转化为实际生产力的能力。”

沈阳进一步表示，“FDE应当从每个岗位最重复的四件事开始。为什么优先做重复任务？因为重复频率越高，自动化以后产生的累计收益越大；任务越稳定，AI也越容易学习和验证。完成岗位拆解以后，我们会把成功的执行方法蒸馏成一个Skill，也就是可以重复调用的组织技能。Skill在运行过程中又会产生新的知识，新的知识再继续被整理、验证和蒸馏。”

对于AI犯错的问题，沈阳表示，企业不能容忍幻觉，必须建立四层验证体系，通过因果推理等降低AI幻觉风险。第一层是AI验证，即AI生成代码后，可以运行测试、检查逻辑、寻找漏洞并继续修改。第二层是人的验证和判断。第三层是社会验证，例如AI生成视频并发布到内容平台以后，可以根据点击率、完播率、转发率和用户反馈进行调整。

“第四层是真实世界验证。工业生产、药物研发、机器人行动和商业经营最终都需要接受物理世界与真实市场的检验。”在沈阳看来，未来企业间的竞争，很可能不是“谁拥有更大的模型”，而是“谁拥有更短、更快、更可靠的验证闭环”。

“治理不是给人工智能踩刹车”

7月17日，2026世界人工智能大会（WAIC）暨人工智能全球治理高级别会议在上海开幕。南都记者寻访AI企业、政府部门、行业协会及业内专家等多方，一窥这场以“智能伙伴、共创未来”为名的全球实践中，中国正如何探索一条从技术创新到普惠共享的路径。

南都此前报道。

近年来，中国科技产品正悄然影响着不同国家的居民生活和企业运作：气象智能预警方案“妈祖”已在40多个国家应用；在沙特阿哈撒地区，森亿智能打造了全球首个“AI诊所”（试点）；九识智能的无人物流车，成为新加坡唯一获公开道路牌照的自动驾驶物流车；东南亚用户调用“广东汕头产”Token（词元）服务，成本降低30%以上……

从医疗诊断到物流运输，从算力服务到气象预警，中国人工智能正在以“解决问题”的方式嵌入全球产业。面对人工智能这份“年轻的事业”，比产品走出去更值得关注的，是中国企业开始参与规则制定。九识智能有关负责人向南都记者透露，九识智能受邀以标准委员会工作组身份参与TR-68自动驾驶规范技术标准修订，将中国技术经验融入国际行业规范。

2023年，中国率先发布《全球人工智能治理倡议》，明确发展人工智能应坚持“以人为本”理念、“智能向善”的宗旨。2026年7月16日，成立世界人工智能合作组织协定签署仪式在上海举行。协定明确，世界人工智能合作组织秉持共商共建共享理念，坚持以人为本原则，旨在促进人工智能国际合作和全球治理。

7月16日，沈阳在接受南都记者采访时表示，“人工智能的上半场争的是谁更聪明，下半场争的是谁敢为结果负责。聪明决定系统能不能开始，可靠决定系统能不能被真正托付。”

“聊天模型主要影响认知，智能体则可能调用工具、转移资金、修改数据、控制设备、影响真实组织。”沈阳指出，《全球人工智能治理倡议》对企业最深的启示是：治理不是给人工智能踩刹车，而是它进入现实世界的承重结构；安全也不是创新的对立面，而是创新能够跨行业、跨国家、跨周期扩张的前提。

出品：南都即时

采写：南都N视频记者 冯奕然