给AI玩具拟人化互动划红线 业内呼吁细化执行标准

证券时报记者 陈雨康

剑指AI持续性情感互动服务，《人工智能拟人化互动服务管理暂行办法》（下称《办法》）7月15日起施行，给AI陪伴赛道套上了合规的“紧箍咒”。证券时报记者近日调研发现，市面上多数面向未成年人的AI玩具尚未达到《办法》要求。

《办法》的出台，给AI陪伴行业带来“确定性红利”，合规能力强、产品形态正向、深耕垂直领域的头部企业有望率先培育起可持续的竞争力。不过，现行办法存在锚点过于宽泛、禁止项难以准确定位、具体事项责任主体不明确等问题。业内期待在实践中强化可行性，并呼吁构建行业自律规范和多方联动的风险管理体系，共同助力AI陪伴赛道行稳致远。

套上合规“紧箍咒”

随着AI陪伴产品普及面扩大，使用者尤其是未成年使用者易形成互动惯性的现象不容小觑。2025年中国青少年研究中心调研结果显示，两成多孩子有“想依赖AI，不想自己思考”的惰性，两成多倾向于“只和AI聊天，不愿与真人交流”。人机互动成瘾，不仅会削弱人的独立思考能力，更侵蚀真实社会关系。

7月15日起施行的《办法》明确了针对未成年使用者的具体保护措施，包括提供定期现实提醒、使用时长限制、监护人接收安全风险提醒等。总体上看，《办法》要求拟人化互动服务提供者必须设置防沉迷“警戒线”、建立家长阅知机制等。

证券时报记者近日在上海地区调研多家线下AI产品门店发现，多数面向未成年人的AI玩具或陪伴机器人未设置有效的防沉迷管控模式和家长阅知功能。一方面，诸多产品的使用时长限制功能缺位，仅有部分内嵌大模型可能会软性提示使用时间过长；另一方面，较多产品不具备家长阅知功能，即家长如不全程在场便无法了解安全风险、未成年人使用情况等。明确推出家长后台阅知功能的厂商占少数。

在上海静安的一家潮玩商店，记者看到一款标识为“养成系”的陪伴机器人，适用年龄为15岁及以上。当被问及是否有防沉迷、监护人使用“日志”等功能时，店员明确告知“没有”。而在浦东、徐汇的商店中，多款AI玩具均没有内嵌防沉迷功能，仅个别产品允许家长查看使用情况。

打开某电商App，记者发现，首页推荐的五款AI陪伴机器人均已配备家长阅知功能，但仅一款设置了针对未成年人的使用时长限制等功能。一款售价达千元、标榜“联合国推荐”的早教机器人，内设家长可查阅的“成长报告”功能，但缺少防沉迷等底线设置。

合规能力或成为竞争分水岭

在AI拟人化互动服务的管控边界上，《办法》明确落实拟人化互动服务安全主体责任，并规定了建立健全算法机制机理审核制度、及时识别用户面临的安全风险、每超过2个小时应提醒用户注意使用时长等义务等。

相比前述AI玩具产品对《办法》较为迟钝的反应，几家大模型巨头的姿态更加积极。7月初，豆包、千问相继预告即将下线智能体功能。《办法》施行首日的7月15日，两个App均关闭了智能体模块。

知名商业顾问、亚太社会创新研究院院长霍虹屹在接受证券时报记者采访时表示，头部平台对监管边界的判断是清晰一致的，它们选择主动做风险隔离。其中，豆包把智能体从主站剥离到另一个独立App中，“分体运营”未来可能是行业标配打法。

而对于正处产业化前夜的仿生机器人、具身角色智能机器人等领域企业而言，未雨绸缪得更早。

作为仿生机器人的深耕者，卓益得创始人李清都在接受证券时报记者采访时表示，公司此前已启动国际化的伦理道德委员会筹建工作，内部已形成相对完善的合规标准，且标准严于此次落地的《办法》。因此，《办法》施行对公司的短期影响不大。

具身角色智能机器人研制企业青心意创创始人兼CEO牛腾昦在接受证券时报记者采访时表示，公司近日发布的首个具身角色基座模型Dino OS“走在了监管前面”，其在系统设计层已建好“护栏”，支持身份核验、内容安全过滤、未成年人模式等功能嵌入。

优必选6月30日发布全尺寸超仿生人形机器人“优世界U1”系列，引发一定争议。此后公司发声：仿生机器人定位是情感陪伴，并非男友、女友或伴侣。优必选已率先落地行业前置治理机制，成立AI与机器人科技伦理委员会。

霍虹屹表示，过往拼接式“角色扮演”等低门槛、高风险的打法基本被堵死，留下的是具备安全门槛、内容审核能力和技术壁垒的企业。同时，《办法》禁止利用情感操纵诱导不合理决策，这打击了依靠延长用户停留时长、诱导付费充值的盈利模式，企业必须转向更健康的变现逻辑，如内容付费、会员订阅、场景化服务等。

“合规门槛将成为竞争分水岭。”牛腾昦对记者表示，监管框架往往要求系统工程，真正从底层架构就考虑安全伦理的企业，将获得结构性优势。

严监管和强自律并举

作为首部AI拟人化互动服务管理专门规范，《办法》用“小快灵”的方式划定了AI陪伴等领域的服务规范和监管措施，也为探索AI治理规则提供了有力参考。业内也呼吁在后续的落实中，进一步细化分类监管的“颗粒度”。

例如，业内建议，针对不同场景或形式的拟人化互动服务，采取分类分层监管；对于“情感操纵”“诱导沉迷行为”等核心概念，建立可量化的行为标准；进一步明晰安全主体，明确拟人化互动服务中的大语言模型服务商、定制服务提供者、产品设计团队等各方的责任划分。

霍虹屹表示，现行办法表述是原则性的。尽管“持续性情感互动服务”显然排除知识问答、工具助手等不涉及情感的场景，但许多产品是“工具+陪伴”的混合形态。在标准不够细化的前提下，平台“一股脑”下架相关产品是风险最低的策略。因此，建议未来出台更具体的分类标准或案例指引。

而现行规则中“诱导沉迷”“迎合用户”“情感操纵”等明令禁止的行为也难以准确定义，从而陷入模棱两可的困境。若将这类行为指标通过量化判定，技术上也存在较大难度。

李清都告诉证券时报记者，如何判定“诱导沉迷”，目前行业探索的方向是参考大模型合规体系，搭建标准化测试数据集合评分机制，通过多维打分判定AI输出的内容是否存在操纵、迎合等问题。不过，部分大模型已“足够聪明”，具备了规避检测的能力。这一矛盾类似于加密与解密的长期对抗，将伴随AI发展而长期存在。监管部门要持续迭代管控手段、更新检测体系，形成动态监管闭环。

“‘情感操纵’等概念很难在事前用规则穷举。”霍虹屹表示，长期来看行业要建立类似“情感健康评估”的第三方认证机制，让专业机构来判断产品设计是否存在诱导沉迷等倾向，这样既能减轻企业自证清白的压力，也能避免执行偏差。企业则需在算法层面重新审视人设记忆机制、情感反馈强度、连续对话激励设计等产品逻辑，实现对增长模型的重新校准。

值得注意的是，在AI陪伴这条快速发展的赛道上，立法只是设置“护栏”，行业行稳致远也需要自律规范作为“路标”。霍虹屹对记者表示，《办法》具有“边施行边完善”的试验性质，其中提到的“人工智能沙箱安全服务平台建设”即为后续标准细化、企业创新测试留出了制度空间。建议头部企业率先发起AI陪伴行业自律公约，不仅有利于降低监管试错成本，也能为中小企业提供合规参考系。

“行业协会、开源社区、自律团体等都可以发挥作用，通过编纂行业标准、助力用户维权、推动舆论监督等方式，促进行业规范发展。”李清都说。