“优必选们”急需打补丁

优必选人工智能治理项核查，虎嗅制图
机器人企业八项责任清单，虎嗅制图

出品｜虎嗅ESG组

作者｜陈玉立

头图｜视觉中国

本文是#ESG进步观察#系列第170篇文章

本次观察关键词：人工智能

《人工智能拟人化互动服务管理暂行办法》落地已经三天，消费级机器人行业迎面撞上的并非惊喜“爆单”，而是三个问号：

未成年人模式有没有？隐私对话记录如何管控？不想用了，又该从哪里体面退出？

作为“人形机器人第一股”，优必选科技（09880.HK）于2023年12月29日在港交所主板上市，旗下最早的消费级仿生机器人“悟空”早在2018年就已发布，并进入家庭场景；旗下首款全尺寸超仿生人形机器人也于6月30日正式发布。

然而，截至7月13日，在优必选中文官网的新闻中心、旗舰店产品详情页等公开页面上，这些说明仍然搜不到、查不到。

虎嗅ESG组曾向其京东旗舰店问询其仿生机器人是否存在未成年人模式，得到的答复是“无”；当问询历史交互数据是否可删除时，得到的回复是不清楚，“需要确认”。

核查维度结论未成年人模式历史交互数据管理细则模糊责任说明官网搜不到、查不到ESG报告仅有ESG委员会细则，不涉及具体治理措施新规应对落地已三天，公司合规信息仍为空白

新规生效虽然才刚刚两天，但这种“公开责任信息不可见”的状态已足够刺眼——它暴露出的是机器人公司的责任治理能力，还没有真正进入消费者和投资者的视野。

这背后，正是消费级机器人行业的ESG新命题。

过去讲机器人，行业更热衷于比拼自由度、运动控制、大模型接入和商业化落地。但监管的靴子一落，另一张表被推到了台前：孩子怎么被隔离，用户怎么退出，投资者又凭什么去判断风险。

机器人越像人，企业就越要把边界划清楚。这“边界”首先指向了三个最该被用户看见的入口：未成年人模式、历史交互数据管理以及退出路径。

优必选的责任治理考题

《人工智能拟人化互动服务管理暂行办法》的监管指向很清楚：AI拟人化互动服务要处理人机关系、未成年人保护、数据权益和退出机制等问题。

原中兴汇金高级研究员、东方财富前专家库成员李勇认为，今年7月15日落地的AI拟人互动新规，是国内首个针对情感陪伴、拟人交互场景的国家级监管规范，“有效补齐了人形机器人行业的合规短板，让行业发展有了清晰的规则边界”。

他还判断，这次新规的重点已经从单纯内容审核，转向整体人机关系治理。

这意味着，当机器人进入用户家庭之后，将会持续对话、记住用户、采集家庭环境信息，还可能接触儿童和老人。对这类产品来说，ESG中的“S”和“G”不再只是报告里的抽象条款，而是必须落到几个用户真正能触碰的按钮上：未成年人模式、数据删除、关闭记忆、注销账号、投诉申诉。

1.未成年人模式是家庭场景的准入证

消费级机器人面向家庭场景时，第一道责任门槛就是未成年人保护。

未成年人模式至少应配齐五类基础管控功能：“监护人实名授权、使用时长限制、分级内容过滤、缩减儿童端数据采集权限、交互记录查询与清除通道。”

同时，两条监管红线必须遵守：不得为未成年人提供虚拟亲属、虚拟伴侣类亲密交互服务；面向14岁以下儿童提供拟人服务，需提前取得监护人许可。

这不是简单给产品多加一个儿童版皮肤。

“机器人与普通App、智能音箱的风险结构不同。App大多是屏幕里的功能，智能音箱通常是工具型入口；拟人机器人有形象、有声音、有动作、有持续回应能力，更容易被儿童赋予朋友、玩伴的属性，”李勇向虎嗅ESG组分析道：“普通App与智能音箱仅作为工具使用，儿童大多能清晰地区分设备与人；拟人机器人具备仿真外形和情感互动能力，容易让孩子产生心理依赖，将机器视作玩伴，并主动倾诉大量家庭私密信息。”

因此，未成年人模式需要覆盖内容安全、时间管理、监护授权、情感边界和数据最小化。尤其在家庭共享设备场景下，儿童很可能不是购买者，但是高频使用者。企业不能只把责任交给家长事后识别，产品必须在入口处给出清晰机制。

如果公开页面上看不到未成年人模式说明，家长就难以在购买前判断三个问题：孩子能不能用？怎么用？哪些功能不能用？对家庭消费机器人来说，这已经是影响转化和信任的核心诉求，类似优必选一类的机器人企业亟需向市场回答这些问题。

2. 历史交互数据归属权须交予用户

拟人化机器人产生的数据，敏感度远高于一般互联网产品。

普通App留下的是浏览、点击、购买、搜索等行为记录。拟人机器人可能记录语音、影像、家庭环境、情绪表达、生活习惯、儿童对话、家庭成员关系。长期运行后，这些记录会形成一份“关系档案”。

这两类数据在维度、隐私风险与使用逻辑上存在明显区别。普通互联网产品仅留存浏览、消费等零散记录，信息维度简单；机器人会收录语音、室内画面和环境信息，还会留存情绪、家庭私密对话这类高敏感内容。

其中更复杂的是“长期记忆”。

常规平台不会连贯留存用户行为，机器人能够持续积累个人生活习惯、情绪偏好，形成完整的个人交互记录。一旦外泄，较容易还原居家日常，隐私损害也更难修复。

所以，用户对于历史交互数据至少应该拥有几项基础权利：查看、复制、导出、删除、撤回训练授权、注销账号并同步清除个人记忆。企业不该利用格式条款、后台功能限制，变相压缩用户本该拥有的合法权利。

这里还有一个容易被混淆的问题：删除历史交互数据，和删除模型记忆，并不完全相同。

李勇指出，清空交互数据是普通用户就能自主操作的，一键删掉全部对话、影像与传感记录，操作应马上生效；模型记忆涉及底层算法，大模型训练吸收海量用户样本后，特征可能融入通用算法，单独剔除某个人的特征存在技术局限。

但这并不意味着企业可以用“技术困难”搪塞用户。李勇认为企业应至少做好三层保障：用户删除数据后，同步清空对应个人画像标签；给用户退出模型训练的通道；在隐私说明里如实讲清技术局限，同时配套去标识化、关闭个性化推送等措施。

对消费机器人企业来说，历史交互数据当然有商业价值。它可以优化体验、提高个性化、增强用户黏性。但数据越像资产，责任也越重。企业需要回答：这些数据在哪里，用户怎么拿回，删除后还剩什么，是否继续参与训练。

如果这些问题只藏在隐私政策深处，甚至类似优必选一样在产品详情页中无说明、客服也无法解释清楚，用户的权利就很难真正落地。

3. 企业需提供退出路径：拟人化产品必须允许用户体面离开

在消费级机器人的使用场景中，“退出”不只是注销账号。

用户可能需要关闭拟人化互动、停止主动唤醒、清除个性化记忆、删除历史交互数据、解绑设备、注销账号、撤回训练授权。未成年人账号还可能需要监护人协助退出。

完整的退出流程主要分四类操作：临时关掉拟人对话和传感采集、一键清空交互记忆、导出并清除全部个人数据、注销账号同时收回数据训练授权。

这就是拟人化AI产品区别于普通智能硬件的地方。普通设备闲置之后，互动关系基本中止；陪伴机器人即使放在角落，云端仍可能留存大量历史记录。用户停止使用硬件，不等于关系和数据同时结束。

李勇认为，普通App很难和用户产生情感绑定，卸载、关掉权限基本就能隔断服务；陪伴机器人长期相处会留存大量云端私密记录，即便设备闲置，家庭对话、生活细节这类敏感信息依旧存在。

因此，退出路径越清楚，用户越容易建立信任。企业如果把退出入口做得很深、流程设计得很绕，短期看似保住留存，长期会增加投诉、监管和品牌风险。

“短期搭建这类合规功能确实会增加研发、审计投入，收紧数据采集后，个性化体验也可能被削弱。但刻意隐藏注销入口，反而容易引发用户投诉，还可能触发监管核查；未成年人模式虽然约束儿童端营销，长期有助于获得家长认可，拓宽家庭消费市场。”

换句话说，消费机器人要做长期生意，就不能只设计“如何开始互动”，还要设计“如何结束关系”。

治理披露的缺口：责任不能只存在于后台

如果一家企业内部已经做了未成年人模式、数据删除、退出路径，却没有在官网、产品页、用户协议、隐私政策、投资者关系页面清楚展示，算不算问题？答案是：至少构成治理透明度缺口。

对于消费机器人公司，官网不是简单橱窗，投资者关系页面也不该只是财报入口。它们是用户、家长、投资者理解产品边界和企业治理能力的公共入口。

李勇认为，如果一家消费机器人企业在监管生效前夕，官网、投资者关系页面没有清晰展示未成年人模式、数据删除、退出路径等机制，“这就算实打实的合规漏洞，哪怕企业内部已经把这些功能做出来了，没对外公示清楚，也算不上合规”。

因为它指向的不是简单信息披露问题，而是类似优必选之类已上市机器人公司的治理问题。

第一，用户购买前需要知情。尤其是有孩子的家庭，关心的不是机器人能不能聊天，而是能不能限制孩子使用、能不能删除孩子的互动记录、能不能避免亲密化诱导。如果这些信息公开不可见，用户无法完成风险判断。

第二，投资者需要判断治理成熟度。AI拟人化产品一旦进入规模化销售，未成年人保护、数据权利、内容风控都会成为经营风险。监管整改、舆论争议、数据事故，都可能影响销售、渠道、品牌和估值。

“AI合规已经是上市机器人企业需要定期对外说明的经营内容。未成年人保护、数据管控、内容风控都是企业需要守住的法规红线；合规一旦出现漏洞，可能遭遇监管整改处罚，影响产品销售和品牌口碑，进而波及业绩与估值，”李勇说道。

第三，ESG治理要求可验证。单靠企业喊口号“我们重视隐私”“我们保护未成年人”，价值有限。真正有用的是入口、流程、时限、责任人、投诉渠道、第三方审计和透明度报告。

虎嗅ESG组认为，成熟的机器人企业应搭建自上而下、权责清晰的AI治理架构，包括董事会下设独立AI治理委员会、配置AI伦理官和数据保护官、产品上线前做伦理和未成年人保护双重评估、定期找第三方做安全审计、每年发布AI治理透明度报告，并建立用户投诉申诉渠道。

这也是为什么投资者关系页面值得被纳入观察。对于上市公司，AI治理不只是产品运营细节，它影响长期风险定价。

截至7月13日，在优必选中文官网新闻中心、投资者关系等公开页面，尚未看到与仿生机器人对应的未成年人模式、历史交互数据治理等说明。且在仅有与治理相关的《ESG与可持续发展委员会工作细则》中，也未见与机器人产品治理相关的条款。

李勇向虎嗅ESG组指出，这种情况具有代表性，不止是优必选，整个行业都存在“重产品展示、轻责任说明”的通病，大家忙着推产品、讲参数，却忽略了合规信息公开。这种缺失直接导致用户购买前无法判断风险，投资者也难以准确评估公司治理的成熟度。

公开披露不是形式主义。对于机器人产品而言，风险发生在持续交互中，责任说明也应该出现在产品说明、设置入口、隐私政策、FAQ、投资者沟通和ESG报告中。

从优必选到行业，消费级机器人步入责任竞争阶段

一个现实困境是，优必选仅仅是一个观察样本，真正需要被审视的是整个消费级机器人行业。

过去机器人公司的主战场集中在硬件：伺服、关节、运动控制、成本、供应链、场景落地。大模型发展成熟之后行业开始强调“会对话”“会理解”“会陪伴”。可一旦进入家庭、教育、养老等场景，产品属性就发生变化。

当机器人从工具走向陪伴者，企业责任边界就随之扩大。

李勇用一句话概括了消费级机器人的最大治理风险：这类机器人依靠人格化交互，容易让用户放下心理戒备、产生情感依赖，持续收集家庭私密信息带来隐私隐患；叠加未成年人防护短板、产品信息披露不充分、责任划分模糊等问题，容易形成隐蔽、较难逆转的复合型风险。

这句话点出了消费级机器人ESG的核心：并非传统制造业ESG框架里的环保叙事，而是将重点落在用户权利、儿童保护、数据治理、算法透明、投诉救济和董事会监督。

他建议，如果给消费级机器人企业设计ESG指标，可以分为四个板块：未成年人保护、全流程数据管理、风险管控与信息公示、长效可持续经营。具体包括儿童专属管控模式、监护人授权、儿童信息最小化采集、交互信息全生命周期管控、数据导出删除、撤回训练授权、第三方外部审计、用户投诉渠道、专职合规岗位、投资者风险披露，以及供应链数据合规和废旧机器人回收处置方案。

这套框架的价值在于把抽象的“AI伦理”拆成了可核验项目。

对行业来说，未来的竞争很可能从“参数账”进入“责任账”。硬件能力会趋同，大模型能力会被供应链化。而家庭用户、教育机构、养老机构和投资人都会越来越关注一件事：这家公司能不能让风险可见、权利可行使、责任可追溯。

李勇判断，消费级机器人行业的一大竞争重心正慢慢从硬件参数转向合规治理、责任建设层面。硬件和基础交互功能同行模仿门槛偏低，未成年人防护、居家数据全流程管控这类治理体系搭建周期更久、落地门槛更高，有机会形成独特竞争优势。

这背后是一笔商业账——责任机制会增加成本，也可能影响部分用户黏性，但它能降低信任摩擦。家长购买家庭机器人时，会更愿意选择明确披露儿童保护机制的品牌；学校、养老机构采购时，会把隐私和安全作为准入条件；资本市场也会把AI治理视作长期经营能力的一部分。

虎嗅ESG组认为，企业如果主动公示完整、可核查的责任细则，能够区别于只侧重硬件宣传的竞品，在家用市场、政企渠道积累长期品牌口碑，对企业估值也能带来正向作用。

基于此，一家合格的消费级机器人企业，至少应向用户和投资者公开一份清晰的责任清单。虎嗅ESG组将其梳理为以下八项必答之题：

责任维度企业应公开的产品能力AI身份标识明确提示用户正在与AI互动，避免拟人化的误导性未成年人保护未成年人模式、监护人授权、内容过滤、使用时长限制数据权利历史交互数据查看、复制、导出、删除及处理权限记忆管理清除个性化记忆、关闭画像、退出模型训练授权退出机制关闭拟人化互动、停止主动唤醒、注销账号、解绑设备内容安全对话风控、敏感内容拦截、儿童内容分级治理披露第三方审计、透明度报告、ESG和投资者风险披露

当一台机器人走进家庭，接触儿童、记录日常、承载情绪，企业就不能只回答“它能做什么”。更要回答：它不能做什么，孩子如何被保护，投资者如何验证治理能力。这是新规生效后，消费机器人公司必须交出的第一份答卷。

本文来自虎嗅，原文链接：https://www.huxiu.com/article/4876143.html?f=wyxwapp