网易首页 > 网易号 > 正文 申请入驻

瞭望·政策解码 | 智能体发展规范创新

0
分享至

  《实施意见》以规范保障安全,以创新驱动发展,以应用赋能产业,以治理引领未来,推动我国智能体在安全可控的前提下实现高质量发展,为我国数字经济建设、科技自立自强与社会治理现代化提供坚实支撑

  文 |《瞭望》新闻周刊记者 钱沛杉

  今年以来,OpenClaw等智能体在实际应用中展现出独立完成任务的能力。与此同时,在特定指令引导下,智能体也可能存在实施网络攻击等安全风险,引发公众对智能体安全问题的普遍关注。

  近日,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》(以下简称《实施意见》),明确了推动智能体规范应用与创新发展的总体要求和具体任务,为相关领域提供行动依据。

  中国信息通信研究院院长余晓晖介绍,《实施意见》统筹高质量发展与高水平安全,平衡应用创新与风险防范,回应当前智能体在大众消费、行业应用等领域快速发展趋势,为其高质量、健康有序发展提供遵循指引,将有力促进智能经济和智能社会新形态培育壮大,赋能新质生产力发展。


在 2025 世界智能产业博览会现场拍摄的智能电力巡检设备(2025 年 9 月 5 日摄) 黄伟摄 / 本刊

  智能体技术演进带来治理新课题

  智能体作为具备自主感知、记忆、决策、交互与执行能力的智能系统,是人工智能技术应用的重要形式。当前,智能体正从实验室验证走向产业落地,多种类型的智能体产品和服务加速涌现,逐步与实体经济和社会治理相结合,在提升生产效率、优化服务体验方面展现出实际效用。

  但智能体的自主性和高权限特性同时也带来新的治理挑战。其决策过程和数据依赖,引发隐私保护、行为控制等方面的风险担忧。赛迪研究院未来产业研究中心人工智能研究室主任钟新龙分析,今年以来,国际上部分智能体应用在展示任务执行能力的同时,也显现出在外部诱导下可能产生非预期行为的情况,显示出对该技术进行规范管理的紧迫性。

  《实施意见》出台为我国智能体产业高质量发展明确了路径、部署了任务,是统筹推进技术突破、产业升级与安全治理的重要指引性政策。

  首先,响应国家战略,抢占科技高地。工业和信息化领域科技伦理专家委员会主任委员魏一鸣说,《实施意见》的出台是对党中央、国务院决策部署的积极响应和精准对标。《实施意见》锚定创新引领原则,强调理论创新、技术创新、工程创新协同发力,通过体系化攻坚突破智能体关键技术,助力抢占智能体产业竞争高地。

  其次,顺应产业趋势,促进提质升级。当前,智能体产业从萌芽走向成熟,技术与产业爆发期加速到来,全球创新成果涌现。国产大模型快速发展,智能体产业链覆盖面广,发展潜力巨大。魏一鸣认为,《实施意见》坚持应用牵引与开放协同,从国家层面统筹资源布局,深化应用场景,规范有序推进产业高质量发展。

  最后,坚持以人为本,推动智能向善。《实施意见》尊重智能时代人的主体地位、保障合法权益,防范技术滥用、诱导消费、虚假宣传、算法压榨等违规失范行为,亮明了以人为本的立场。同时,强调技术对于限制智能体行为边界的重要作用,鼓励发展规则内嵌、行为围栏等技术,探索利用区块链等技术,建立重要应用场景智能体行为可验证、可追溯机制,防范智能体行为失序引发的系统性风险。

  发展安全并重应用生态协同

  中国工程院院士邬贺铨说,《实施意见》以规范保障安全,以创新驱动发展,以应用赋能产业,以治理引领未来,推动我国智能体在安全可控的前提下实现高质量发展,为我国数字经济建设、科技自立自强与社会治理现代化提供坚实支撑。

  统筹安全与发展,构建协同推进格局。《实施意见》将安全、可靠、可信作为智能体发展的底线,并将这一要求贯穿于技术研发到应用推广的各个环节。在鼓励探索的同时,建立风险防范机制。

  一方面,通过明确产品准则、防范风险要求来设立安全基线,强调厘清用户与智能体的操作权限,发展安全可控技术,并防范数据安全、算法安全等风险。

  另一方面,通过完善治理体系、强化行业自律来形成治理合力,推行根据应用场景和影响程度的分类管理,对高影响领域实施必要监管,对低风险领域倡导合规自律,体现鼓励创新与规范发展相结合的管理思路。

  突出应用导向与生态建设,形成供需互促循环。《实施意见》注重应用牵引,并围绕科学研究、产业发展、提振消费、民生福祉、社会治理等多个领域提出应用场景。这些部署通过市场需求和公共服务需求,带动智能体技术迭代优化,探索有效应用模式。场景选择关注产业转型的关键环节,回应社会服务的现实需要。

  同时,《实施意见》强调发挥产业协作平台的作用,引导国内开源社区在智能体框架、工具链及操作系统等底层技术上发力。余晓晖认为,这不仅有助于整合国内创新资源,更为我国智能体企业出海、参与全球规则制定与技术交流奠定了坚实的生态基础。

  夯实技术基础与前瞻布局,兼顾近期目标与远期发展。发展智能体底层技术,是决定未来AI能力上限和竞争壁垒的关键。它关系到系统的稳定性、安全性和自主可控,是整个智能体生态繁荣的根基。《实施意见》从基础技术、工具链、标准协议、智能互联网四个层面夯实发展基础。

  钟新龙说,基础技术层面,提升通用基础模型性能,发展细分领域专用模型,加强任务理解、规划、工具使用、群体协同等关键技术攻关;工具链层面,完善感知、记忆、决策、交互、执行等关键组件,同步发展安全与治理工具;标准协议层面,建立智能体标准体系,加快推广智能体互联协议(AIP)等关键标准,支持医疗、交通、公共安全等领域制定强制性标准;智能互联网层面,研究建立智能互联网体系架构,探索建立智能体注册平台,研究身份标识、可信互联、合规支付等基础技术,为智能体之间自主发现、互认、协作预设制度底座。

  明确各方责任,建立协同治理架构。智能体产业链条长,涉及开发者、开发平台、分发平台、服务提供者、用户等多个角色,每一个环节都可能成为风险点。《实施意见》构建政府、行业、企业、社会共同参与的治理框架,各归其位、各负其责。

  钟新龙介绍,政府层面,网信部门联合行业主管部门确定场景开放和制定强制性标准,把握方向和底线;行业层面,行业组织和主要企业联合制定自律规则,建立信用评价机制,形成“软约束”;企业层面,开发者、开发平台、分发平台、服务提供者建立公平合理的平台规则与用户协议,明确供需双方权责。用户层面,加强智能体应用风险宣传教育,提升用户安全意识,为智能体产业在规范有序轨道上加速发展提供制度保障。


在上海举办的 2026 世界人工智能大会上拍摄的人形机器人与 AMR 全流程无人拣选展示(2026 年 7 月 19 日摄) 刘颖摄 / 本刊

  护航产业行稳致远

  《实施意见》为我国智能体产业的健康发展绘制了路线图。推动《实施意见》有效落地,需要在技术、标准、安全、应用、生态等方面重点推进。

  聚焦技术基础与标准建设,强化创新支撑。持续加强基础研究与核心技术攻关,提升高质量数据供给能力,完善开发智能体工具链。加快制定智能体与各类软硬件交互的基础标准,在重点领域推动必要标准的实施。积极推进智能体互联协议的研发与试点应用,为智能体间的协同交互提供基础。支持企业和科研机构参与国际标准制定,提升我国在智能体领域的话语权。

  落实分类管理与全周期安全,守住安全底线。中南财经政法大学国家治理学院讲师孙逸啸认为,建立并完善智能体分类分级管理细则。相关部门界定不同应用场景的风险级别,匹配相应的管理要求。对金融、医疗、关键基础设施等领域的应用,实施检测与管理制度。推动安全技术融入开发流程,研发推广有效的安全防护工具,建立覆盖研发、部署、运行、维护各环节的安全管理规范。探索在重要场景建立可靠的行为审计机制,确保全过程可追溯。

  深化场景示范与重点突破,发挥应用带动作用。受访者认为,优先在《实施意见》明确的应用场景中,选择条件成熟、需求迫切的领域开展试点。在工业生产领域,推动智能体与制造系统深度融合,提升生产效率和质量控制水平。在政务服务领域,探索智能辅助审批、政策精准推送等应用,提升服务效率。推动重点行业开放应用场景,通过搭建供需对接平台等方式,促进技术成果转化。建立应用效果评估机制,及时总结推广成功经验。

  培育开源协同与产业合作,构建开放环境。鼓励发展开源项目,引导国内力量在智能体基础框架、关键工具等方面协同创新。支持龙头企业、研究机构共建共享合作平台,促进要素流动。拓展国际合作,鼓励国内机构参与国际技术交流与规则探讨,在开放中提升我国智能体发展的整体水平。完善人才培养体系,加强产学研合作,为产业发展提供人才支撑。

  完善保障措施与监测评估,确保政策实效。加大财政资金支持力度,引导社会资本投入智能体领域。业内人士认为,落实研发费用加计扣除等政策,降低企业创新成本。建立智能体发展统计监测和评价体系,定期评估政策实施效果。健全知识产权保护制度,营造公平竞争的市场环境。加强国际对话与合作,参与全球智能体治理规则制定。

  智能体是人工智能赋能实体经济的重要形态。《实施意见》的印发,为智能体在规范中创新、在创新中发展提供了行动依据。随着各项措施的逐步落实和产业各方的共同努力,智能体将在保障安全的前提下,深度融入经济社会发展各领域,为高质量发展提供新的动力。政策实施过程中需要持续跟踪技术发展和应用情况,及时调整优化政策措施,确保实现预期目标。■

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

新华社 incentive-icons
新华社
新华社是国家通讯社
701544文章数 2436957关注度
往期回顾 全部

专题推荐

乌蒙深处 清凉毕节

无障碍浏览 进入关怀版