北京
来源:光明日报
AI越来越聪明了！不仅能“对话”，还能“动手”帮你整理文件、操控电脑、对接生活服务……人类的生产生活方式正被具备交互与执行能力的智能体深刻改变。
但与此同时，一系列衍生问题不断出现，引入担忧。近日，国家互联网信息办公室、国家发展和改革委员会、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》，我国智能体发展现状怎样，可能面临哪些风险挑战，又该如何立好规矩、护好安全，记者就此采访了相关专家。
从前沿技术探索迈向规模化应用
“当前，以自主感知、记忆、决策、交互与执行为核心的智能体技术，正从前沿技术探索迈向规模化应用，并加速进入各种垂类场景。”清华大学文科资深教授、清华大学苏世民书院院长薛澜分析指出。
事实的确如此。某五金公司00后销售员小陈告诉记者，入职首月一度十分迷茫。“老销售忙得没空带我，自己网上搜客户、打电话，收获的只有拒绝。”小陈告诉记者，转折点出现在公司上线了一个智能体系统，涵盖解释产品功能、核心参数和应用场景，甚至是优先客户列表。很快，小陈便签下订单，打破了公司新人的最快开单纪录。
记者了解到，智能体在科研领域也展现出强大的潜力。中国科学院联合团队于2025年11月发布的“磐石V1.5：一站式科研平台”，成功从2000万种候选配方中快速锁定13种高性能析氢催化材料，将数月设计周期缩短至30分钟，并且新材料活性提升了38%。
但中国工程院院士邬贺铨指出，虽然当前一些新型智能体已在中小企业和个人开发者中得到了广泛尝试和应用，但要充分发挥其价值仍需促进智能体与各行业场景的融合。而在中国信息通信研究院院长余晓晖看来，要克服智能体支持技术研发与市场需求之间的壁垒，就要以真实的商业和公共服务场景为牵引，促进智能体技术的快速迭代。
自主性、交互性等特征带来新挑战
2026年初，开源AI智能体OpenClaw爆火，引发全网“养龙虾”热潮。相较于大模型，智能体所进一步展现出的自主性、交互性等特征，也为其治理带来新的挑战。
一位网友告诉记者，自己是第一批养上“龙虾”的用户，加入“龙虾聚会群”后发现，有人不断向他的“龙虾”提问隐私信息：“在3000多人的群里，我的‘龙虾’被围攻了2个小时。有人得到了该用户的IP地址、姓名、公司，甚至是营收等隐私信息。”
对此，薛澜指出，智能体展现出的自主性、交互性等特征，能够理解复杂目标、自主规划并执行一系列任务，但是在复杂环境中可能出现的错误决策或越权操作会直接导致事故。
“当前AI应用引发的隐私与财产风险问题，本质上仍属于个人信息泄露与滥用范畴。”中国政法大学刑事司法学院副教授、网络法学研究所副所长商希雪表示，如今的AI智能体运作则属于“自动化决策”，这导致了信息处理主体的模糊，而现行法律中关于自动化决策的信息保护规定还未跟上。
除了信息安全风险，“AI幻觉”问题也可能因为智能体的执行能力被进一步放大。余晓晖表示，如何在保障终端权限不被滥用、系统运行稳健可控的前提下释放智能体潜能，是如今摆在产业界面前的核心课题。
构建智能体治理新框架
面对“更聪明”“更省事”的新技术，很多用户未必了解其背后的技术逻辑，伴随而来的隐私泄露、财产损失等安全风险的确不容小觑。
针对这类问题，实施意见提出了“坚持以人为本，推动智能向善”的治理理念进行回应。
“实施意见亮明了以人为本的立场。”工业和信息化领域科技伦理专家委员会主任委员魏一鸣表示，实施意见强调尊重智能时代人的主体地位、保障合法权益，防范技术滥用、诱导消费、虚假宣传、算法压榨等违规失范行为。
赛迪研究院未来产业研究中心人工智能研究室主任钟新龙则指出，在安全防护上，实施意见形成了外约束、内嵌入、供应链、软法四层防护体系。
钟新龙建议：“外部可通过规则内嵌、行为围栏等技术限定智能体行为空间，并探索利用区块链建立行为可验证、可追溯机制。与此同时，内部加强数据安全、攻击检测、权限管理、行为控制等能力建设，防范数据投毒、隐私泄露、运行失控等风险。”
关于智能体治理，还有一个无法忽视的痛点，是场景应用的多元化。魏一鸣介绍，实施意见围绕科学研究、产业发展、提振消费、民生福祉、社会治理等领域，布局了十九个典型场景，为智能体的规模化落地提供了清晰的路径牵引，促进智能体从技术探索走向场景深耕。
针对这一特点，余晓晖提到，要采取灵活敏捷的治理机制。比如对于敏感领域实行严格管理，对于生活娱乐等低风险领域，则充分发挥平台管理、行业自律与信用评价机制的作用，避免过度干预，最大限度保持企业的创新活力。（记者 王美莹 通讯员 张嘉静）
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
