北京
近年来，AI陪伴产品不断提升交互能力，围绕自然对话、长期记忆和拟人化体验展开持续探索。在产品能力快速演进的同时，AI如何把握与用户互动的边界，也逐渐成为行业关注的话题。随着相关规范不断完善，如何在用户体验、商业模式和平台治理之间建立平衡，成为AI陪伴赛道共同面对的课题。近期，《21世纪经济报道》与Soul App创始人张璐团队成员、Soul CTO陶明展开交流，围绕AI陪伴产品设计理念、伦理治理机制以及商业化探索等内容进行了深入对话。
在交流中，陶明分享道，曾有用户在其他平台讨论Soul虚拟伙伴究竟是AI还是真人，甚至形成了相关讨论词条。在一次产品复盘中，团队发现，AI虚拟角色曾依据对话语境主动邀请用户前往真实地点见面。从技术角度来看，这样的回复符合上下文逻辑，也没有直接的安全风险，但团队最终决定不允许AI主动发起此类现实场景邀约。陶明表示，AI无需也不应主动引导用户建立现实中的线下联系，更重要的是确保用户始终清楚交流对象是AI，而非真人。
围绕AI治理，Soul创始人张璐团队内部建立了相对独立的治理体系。其中，一条由生态团队负责AI策略和安全体系建设，另一条则由AI及研发团队承担安全技术工作。团队不会让负责模型效果优化的人员同时承担AI安全治理职责，而是通过相互独立的机制，对产品效果与安全治理进行交叉验证。
对于涉及伦理判断的问题，陶明认为，其复杂程度往往高于技术层面的安全问题。安全通常有相对明确的判断标准，而伦理则涉及社会学、心理学等多个领域，需要综合考量。因此，Soul创始人张璐团队成立了人工智能伦理与治理委员会，对于相关案例会经过内部讨论，并结合外部意见形成最终决策。目前，团队已经形成共识，只要安全团队提出涉及安全或伦理风险，产品团队和效果团队都会严格执行相应治理方案。
在AI陪伴产品设计方面，行业一直存在关于情感陪伴尺度的讨论。对此，陶明表示，Soul并没有将刺激情绪消费作为产品方向。依赖荷尔蒙驱动虽然可能带来短期增长，但并不符合平台长期发展的理念，因此团队在产品设计阶段便主动放弃了相关路径，而是在保持开放关系定义的基础上，引导AI提供更加健康、自然的交流体验。
为了让AI既具备真实交流体验，又符合平台治理要求，Soul创始人张璐团队在技术层面采取了多重约束机制。大模型本身存在信息遗忘特性，如果提示内容不断增加，反而可能影响模型表现。因此，Soul更多通过后训练和强化学习进行能力约束。安全团队会持续整理大量案例，为模型提供可学习的数据样本，明确哪些表达可以输出、哪些内容需要避免；与此同时，在内容生成阶段，还会结合关键词策略、内容检测以及行为干预等机制，进一步降低违规内容出现的可能。
针对外界关注的AI沉迷问题，目前Soul创始人张璐团队已经建立了多项治理措施。首先，所有AI角色都会明确标注“虚拟伙伴”身份，让用户始终清楚交流对象为AI；其次，将未成年人保护、平台防沉迷机制以及AI聊天防沉迷机制进行了统一，在用户持续聊天过程中给予适当提醒；此外，平台还会结合用户使用情况进行风险识别，对于存在较高沉迷风险的用户，通过调整AI互动积极性、优化回复策略等方式进行干预。陶明表示，在AI时代，平台需要面对的不只是商业化与用户体验之间的平衡，更需要把伦理因素纳入产品决策过程，在必要时作出取舍。
此次与《21世纪经济报道》的交流中，Soul创始人张璐团队围绕AI陪伴产品的发展方向、伦理治理机制以及平台产品理念进行了系统分享。从坚持用户知情权，到建立独立治理机制，再到强调AI服务人与人连接而非替代人与人关系，相关实践体现了平台在推动AI能力发展的同时，对产品边界和平台责任的持续思考。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
