IT观察｜赛迪顾问：人形机器人加速落地，三类安全治理亟需同步（2026年第8期（总第38期））

下拉至文末，查看更多合集文章

作 者

网络与数据安全研究中心

人形机器人加速落地，三类安全治理亟需同步

随着VLA模型持续提升环境理解、任务规划和动作生成能力，人形机器人正从样机展示开始成为生产与服务工具。机器人行动越来越由模型、传感器、运行环境和控制系统实时共同决定，能力边界持续扩大的同时，行为的不确定性及错误后果也开始进入现实作业空间。当下，人形机器人产业发展、政策推动与技术演进已经同步提速，但险情率、误动作率、人工接管率和异常恢复时间等长期安全指标仍缺少统一口径。人形机器人规模化进程中，还需解决安全治理难题：能力扩张需要积累真实安全数据，数字风险治理需要防线协同，通用能力复用应以场景安全边界为支撑。

一、人形机器人进入工业领域，真实安全数据仍显不足

（一）产业扩张进入生产性需求验证阶段

根据赛迪顾问数据，2025年，中国具身智能机器人市场规模呈现强劲增长态势，全年市场规模达75.1亿元，同比增长52.6%。根据国家税务总局公开数据，2026年1—5月，中国具身智能企业销售收入增长22.4%，工业企业人形机器人采购支出增长2.3倍，人形机器人市场需求开始由研发环节向工业应用延伸。在宝马集团产线中，已应用Figure 02机器人支持完成3万余台X3的生产工作，运行约1250小时。人形机器人在相对固定的应用场景，已初步具备规模化的生产能力，但从安全角度看，人形机器人长期运行的稳定性与异常情况下的应对能力缺少统一可比的行业数据。

政策层面，实景实训和安全验证已成为人形机器人产业发展的要求。2026年6月，工业和信息化部办公厅、国务院国资委办公厅发布《关于联合开展2026年度启动人形机器人与具身智能实景实训专项行动》，提出坚持应用牵引，面向工业、特种、服务等领域重点场景，一体推进实景实训空间建设、创新应用联合体培育、作业技能攻关、应用部署验证等重点任务，通过真实场景训练，持续优化具身智能模型算法，积累高质量真机数据，提升本体关键部组件性能，探索构建人形机器人及具身智能产品全生命周期管理和保障机制。分为打造实景训练空间、组建创新应用联合体、攻关实用化作业技能、加强实景应用验证与常态部署、强化关键要素保障和凝练成熟经验六项重点任务。可以看出，政策推动行业从能力展示转向真实场景验证，安全数据积累成为人形机器人规模落地的重要支撑。

（二）模型决策权沿传导链扩展，安全验证对象随之重构

随着VLA模型带来的变化，依赖工程师设定的固定程序运行的情况持续减少，人形机器人开始自主完成目标理解、任务拆解、对象选择、路径规划、工具调用和异常调整，其行为越来越取决于模型、传感器、上下文、工具与控制器的实时组合。因而，人型机器人在处理同一任务时，所处的不同环境、不同版本和不同输入条件，可能形成不同行为结果。所以，一次任务成果并不能证明人形机器人的行为边界足够稳定，低频异常、连续运行偏差和版本更新都可能引发人形机器人行为异常。从长期安全视角，安全评价需要同步覆盖人形机器人的完整决策链、长期运行表现与边界稳定性，相关数据的积累速度需要跟上人形机器人的能力扩张。

二、数字风险加速向物理空间传导，现有防线亟需重构

（一）模型与数据问题开始通过执行链转化为现实后果

模型、网络和数据问题正在沿“感知—规划—控制—执行”链条通过人形机器人转化为现实后果。感知偏差和语义错误可能使机器人认错对象或选错任务，接口越权、云端劫持和恶意更新可能改写模型、技能与控制策略、数据污染和持续学习偏移则可能在特定条件下触发人形机器人的异常行为。相关问题一旦作用到人形机器人，则会造成现实世界的碰撞、失稳、设备损坏、生产停线、隐私泄露乃至公共运行影响。人形机器人风险正由单点故障转向机电、感知、模型、网络和数据多因素联动，单一故障源分析已难以解释危险动作的形成过程。

（二）外部环境正在成为模型决策的新型输入面

当前，开放环境已经成为人形机器人的新型输入面。VLA机器人持续接收环境中的文字、语音、图像、空间状态和自然语言任务，形成其决策支撑。据《用一张纸劫持机器人：VLM控制机器人中物理提示注入的系统研究》论文所述，在3个先进视觉语言模型上开展5670次攻击试验，仅在开放环境放置恶意文字，攻击成功率分别为27%、29.4%和5%，表明人形机器人在开放环境中感知到的恶意内容会影响到模型的决策，即使模型判定接收到的信息存在异常，也可能无法正确拒绝错误部分。随着机器人对环境信息依赖越深，输入真实性、语义优先级和异常拒绝会成为输入端风险的主要来源。

（三）单项安全能力无法形成人形机器人整体安全的依据

模型、数据、机械等单项安全能力通过测试，只是人形机器人整体安全的一部分，机械安全关注本体状态和物理限值，网络安全关注访问与通信，模型安全关注输入输出；人形机器人的一次现实动作还取决于任务意图、现场条件、作用对象和异常状态。合法用户可能提出越界任务，合规输出可能作用于错误对象，正常的人形机器人也可能准确执行危险动作。数字风险往往从身份、模型与控制系统的结合部分进入物理执行，分段运行的防线缺少共享的场景信息和统一的风险判断，难以覆盖一次行动的完整链条。

三、通用机器人难以适应所有场景，安全边界必须基于场景重建

（一）自主能力评价与场景风险约束脱节

人形机器人的自主程度常被视为产品能力，但在实际应用中，人形机器人可被接受的行动范围却由开放度、错误后果和人工介入条件共同决定。大模型能够自主理解任务、选择对象和规划动作，只能证明人形机器人具备相应决策能力，无法说明这些能力可以在各类环境中能够通用。当前人形机器人产业评价偏重任务泛化、连续作业和自主规划，较少区分机器人可以在何种环境、针对何类对象、承担何种动作后果。同一项能力进入不同场景后，任务成功率等指标可能没变，但其风险含义、容错空间和干预要求已经发生变化，场景安全边界却缺少同步评价与重新界定。

（二）场景开放进程与安全数据成熟度脱节

人形机器人的应用场景仍缺少安全数据等级与自主范围、部署规模之间的明确对应关系。实验室测试主要证明人形机器人的功能能够实现，单工位验证可以说明机器人在固定约束下能够运行，短期试点可以反映机器人的阶段性作业表现，而只有长期运行才能进一步暴露低频异常、接管恢复和版本变化带来的各类风险。随着环境开放度、动作后果和接管难度上升，当前尚未形成何种安全数据可以支撑何种场景、多少自主权和多大部署规模的稳定规则，局部验证结果容易被放大为跨场景复用和规模部署的依据。

四、破局：以行动治理构建人形机器人安全

（一）以场景风险分级建立人形机器人安全治理基础

人形机器人规模化落地需要以场景风险分级为基础建立总体安全规划，明确机器人可进入场景、可开放自主程度、所需安全能力和安全数据门槛。治理对象应按“机器人—模型与技能版本—应用场景—部署规模”组合管理，将场景风险等级、自主权等级、安全能力基线、验证方案和责任主体对应起来，覆盖人形机器人的研发、采购、测试、部署、更新和退出的全生命周期。人形机器人企业应据此形成限定用途、分级验证、逐步放量和动态调整的路线图，统一后续动作授权、运行时控制并快速积累真实的安全数据。

（二）建立覆盖身份、场景与动作的权限管控机制

人形机器人的权限控制需要从系统访问延伸至场景化动作授权。权限控制应综合身份、场景、对象、区域、时间、速度、力量、工具和风险等级，判断模型提出的动作是否放行，高风险、不可逆或直接作用于人体的动作时，应进行人工确认。当电量、通信、定位、传感器置信度或接管能力下降时，权限控制应同步缩小可用动作范围。通过分级授权将人形机器人安全转化为可执行的动作边界，为不同场景配置差异化自主权提供统一接口。

（三）以运行时约束和持续认证控制行为漂移

模型驱动的人形机器人行为具有动态性，安全控制需要贯穿人形机器人执行的全过程。运行中，设置独立的安全控制器持续监测距离、速度、力矩、稳定性、通信和区域边界。异常时，应及时降速、停机或进入最小风险状态。模型、数据、技能、策略或硬件变更后，安全控制器应重新判断人形机器人的动作边界。安全验证流程可基于仿真回归、封闭场地复测、小范围分批和全量发布逐级推进，每一阶段均保留停止与回滚能力。运行时控制和持续认证需要同时评估安全性与任务可用性，避免仅追求拦截率造成新的运行问题。

（四）以行动留证和安全运营指标形成可验证的安全数据

人形机器人的安全治理需要形成可记录、可比较、可追责的运行安全数据，并据此调整人形机器人的部署规模和自主权上限。人形机器人的行动记录应覆盖环境与传感输入、模型和技能版本、用户指令、动作提案、授权结果及人工干预，形成跨环节时间线；运营评价应持续纳入险情率、误动作率、人工接管率、保护停机率和异常恢复时间，统一的安全数据运营能够连接机电、网络、数据、模型和场景要求，使每次动作可授权、可约束、可中止、可恢复、可追溯并为人形机器人的规模化放量提供依据。

IT观察

< <滑动查看全文> >

下载完整报告，请点击“阅读原文”或登录赛迪满天星官网www.mtx.cn。

更多行业案例及其特点，请扫描下方二维码关注“赛迪顾问”公众号，获取最新动态。

微信号：ccidconsulting

本公众号提供的内容用于个人学习、研究或欣赏，不可用于其他商业用途。如有关于作品内容、版权及其它问题，请及时在公众号留言。

如果获得转载授权，请注明作者姓名和转载的出处，不修改文章的标题、文字、图片或者音视频，以免曲解原文意思。