Soul App成立人工智能伦理与治理委员会：AI时代负责任的创新

当前人工智能快速发展，不仅渗透到日常生活场景，而且正在塑造全新的交互模式，在创造全新发展机会的同时，也带来了新的问题与挑战。站在AI浪潮演进的最前线，科技企业需要以负责任的姿态主动回应时代新议题。

6月23日，Soul App举办人工智能伦理与治理委员会（以下简称为“委员会”）成立仪式。除内部委员外，来自互联网治理、伦理学、社会学、青少年研究、法律等不同领域的7位外部委员同时亮相。作为行业中较早思考AI落地社交场景的科技公司，在持续夯实AI底层能力基建与迭代创新功能的同时，Soul正在不断探索和完善AI伦理治理机制。

Soul App创始人、CEO张璐表示，“AI究竟如何深入交互场景？需要的核心能力是什么？AI边界应该如何把握？这是Soul一直在思考的核心问题，过去一段时间，我们进行了数据安全、用户隐私保护、AI防沉迷、AI治理机制升级等多维度的探索，而通过委员会的成立，我们希望能够进一步凝聚自律共识、拓展治理视野，更前置、系统地建立AI伦理治理体系和管理闭环机制，为广大用户营造更加真实、温暖、可信的社交生态”。

聚焦情绪感知与交互，AI重构生态体系

正如Soul App人工智能伦理与治理委员会外部委员、上海市人工智能行业协会安全工作委员会秘书长殷雨薇所说，2026世界人工智能大会暨人工智能全球治理高级别会议即将举行，今年大会仍将高度关注人工智能安全伦理与治理问题。Soul此时成立人工智能伦理与治理委员会正当其时。

根据Just So Soul研究院发布的《2025 Z世代AI使用报告》，55.4%的年轻人会在工作学习时频繁使用AI辅助创作；近四成年轻人每天使用AI产品获得陪伴。可以看到，如今，AI的角色不再只是“工具”，而是成为大家的社交对象、生活伙伴等更为密切的协作者。这样的趋势下，对企业的AI伦理治理能力有了更高要求。

具体到Soul，正如Soul App CTO、人工智能伦理与治理委员会主任委员陶明所说，站在同步发展大模型能力与落地具体产品功能的独特行业坐标，Soul长期专注于情绪感知与交互方向，探索情绪识别、人机互动等前沿能力发展，直面用户对于AI行为的期待与反馈，积累了大量的实际业务沉淀。

2016年，Soul App上线，是当时行业较早将AI引入人与人链接的互联网平台。2020年前后，Soul启动系统的AIGC技术研发工作，专注情绪感知与交互方向，打造情绪多模态交互大模型，并推出自研模型SoulX，逐步构建起“底层能力+应用场景”的生态体系，致力于让AI成为人与人真实链接的基础设施。

2024年，在人工智能领域顶级的国际学术会议之一——国际人工智能联合会议（International Joint Conference on Artificial Intelligence,IJCAI）上举办的多模态情感识别挑战赛MER24，Soul 团队在SEMI（半监督学习）赛道获得第一名。

2025年10月，Soul AI团队开源语音播客生成模型SoulX-Podcast，发布第二天，SoulX-Podcast成为全球AI开源社区HuggingFace TTS（Text To Speech，从文本到语音）趋势榜榜首。在Github平台，该模型已收获3300+星星数。

2026年，Soul在实时数字人生成方向陆续开源了SoulX-LiveAct、SoulX-FlashTalk、SoulX-FlashHead等模型，并在语音领域开源了歌声合成模型 SoulX-Singer、全双工语音对话控制模块SoulX-Duplug、端到端多人对话转录模型SoulX-Transcriber。面向核心垂类方向，平台持续为产业链赋能，输出更落地、可商用的解决方案。

陶明说，如今Soul已成为一家专注于情绪感知与交互、模型与应用一体化的 AI 生态公司。区别于通用大模型方向，Soul以基于情绪感知、语音为先、面向多模态的交互大模型为技术内核，构建“自有应用—产业生态”双层应用体系。对内，以 Soul App等真实社交场景为载体，持续迭代模型交互能力；对外，以SoulX模型能力为产业链赋能，面向具身智能、内容演绎等行业输出情绪感知与交互决策方案，并延伸至 AI 治理领域，这些都成为了构筑Soul AI伦理治理体系的重要基石。

提升交互场景科技伦理治理能力，构建Z世代AI游乐园

与构建“自有应用—产业生态”双层应用体系相同步，Soul已在监管部门的指导下，逐步建立了AI治理机制，以实际的治理成果获得了以Z世代为代表的广大用户的认可。

针对当前 AI 生成违规内容成本低、传播快、隐蔽性强的治理挑战，Soul依托自身核心技术能力，搭建起以 “AI 对抗 AI” 为核心的智能治理体系。通过构建 “动态采集 —AI 深度分析 — 智能决策 — 智能执行” 的智能对抗链条，推动安全防护能力模块化整合、体系化协同，不断提升平台在复杂网络环境下的主动防御能力与综合治理水平。Soul的“AI大模型助力技术创新，精准识别让虚假人设无处遁形”入选了“清朗浦江·2024”网络生态治理优秀创新案例。

针对行业关注的虚拟人交互安全、行为边界与AI沉迷等问题，Soul进行了多维度的探索，如建立AI虚拟人双向审核机制，用户输入内容在进入模型前，需要经过色情低俗、违法违规、攻击辱骂等多项安全策略审核；模型生成内容在输出前，还需经过独立的AI安全模型和内容审核策略再次校验，实现“用户侧审核+模型侧审核”的双重防护。针对模型多轮对话场景，平台引入上下文语义理解能力，不仅关注单句内容是否违规，也关注连续对话中的风险演化趋势，提升风险识别的准确性和稳定性。

同时，Soul在站内进行了显著的AI 虚拟人标识，并且在虚拟人对话交互界面设置常态化固定标识，持续展示“内容由 AI 生成”提示文案，清晰、显著提示用户当前正在与人工智能进行互动，充分保障用户知情权，最大程度避免用户将AI与真人进行混淆，以免产生错误认知或情感误判。

今年3月，平台全面上线 “AI 社交时长提醒” 功能，当用户与虚拟伙伴连续对话达到 2 小时，系统将触发数字提醒窗口，提示用户“建议休息一下”，引导用户从虚拟对话中适时“抽离”，保持与真实世界的连接。5月，Soul对《社区公约》进行了AI相关补充更新，新增关于AI生成内容、AI互动行为以及AI虚拟角色等场景的使用规范，进一步明确AI在社区中的使用边界，引导用户合理使用AI产品功能。

目前，Soul已围绕AI虚拟人、AI语音互动、AI内容生成等场景，逐步构建起覆盖“输入治理、生成治理、输出治理、风险干预、用户保护”的全链路安全体系。针对未成年人保护，平台建立了专项体系，包括强制性不向未成年人提供虚拟人服务，上线未成年人模式等。

陶明表示，在AI越来越像“真人”的背景下，如何确保用户清晰理解AI身份、保障知情权和选择权，将是平台未来治理的重要方向。此次成立人工智能伦理与治理委员会是平台系统化构建AI治理机制的重要一步。该委员会将围绕Soul“模型与应用一体化的AI生态公司”定位，坚持科技向善、技术为人、安全可控、普惠共治、公开透明的价值主张，通过技术治理与伦理审查相结合的方式，构建覆盖数据、算法、应用的全流程风控体系，整体提升企业负责任创新的能力。

适应 《科技伦理审查办法（试行）》《人工智能科技伦理审查与服务办法（试行）》《人工智能拟人化互动服务管理暂行办法》等相关法律法规的要求，Soul的人工智能伦理与治理委员会包含了公司内AI、产品、法务等AI伦理治理高关联业务部门负责人，同时，邀请互联网治理、伦理学、社会学、青少年研究、法律等不同领域、专业背景的专家担任委员会外部委员，为公司相关规则制定和伦理审查提供多元社会视角和治理建议。

依照委员会的章程，还将根据治理需要设立专项治理小组，小组由公司安全、算法、技术、产品、法务、审核等不同业务领域的员工组成，聚焦隐私保护、算法合规、人机互动体验、内容审核、未成年人保护等细分领域，负责配合委员会完成专项审查、调研与技术优化工作。

出席成立仪式的上海市互联网业联合会会长姜迅表示，人工智能伦理与治理委员会的成立标志着Soul的AI伦理治理迈入了更系统化、专业化的新阶段。

汇聚多方行业智慧，共建可信可控AI新生态

当下，AI伦理治理已非单纯的技术问题，而是全社会共同面对的系统性挑战，需各方力量携手，探索生态性解决方案。此次，Soul App成立人工智能伦理与治理委员会，邀请来自高校、机构、行业等领域不同背景的专家、学者担任外部委员，正是希望引入多元视角，在跨领域的沟通交流中，碰撞新观点。

成立仪式现场，Soul App人工智能伦理与治理委员会外部委员，复旦大学马克思主义研究院副院长、伦理学博士李凌围绕“科林格里奇困境与人工智能伦理治理节奏”主题，分享了对创新与治理平衡关系的思考。

上海市人工智能行业协会安全工作委员会秘书长、上海兰迪律师事务所高级合伙人殷雨薇则围绕“全球协作与本土实践：人工智能治理的挑战与未来路径”，分享全球人工智能领域的治理框架，并结合知识产权侵权、AI幻觉等生成式人工智能发展新问题的具体法律案例，介绍了当下从“监管”到“共治”的治理范式转变。

在讨论和交流阶段，Soul App人工智能伦理与治理委员会外部委员，上海市青少年研究中心主任李清川表示，“青少年与AI的关系会深刻影响一代人的社会认知和情感能力，全社会需要关注三个问题：第一是规避拟真陷阱，虚拟人要保持适度‘非人感’或增加显著提示，让青少年始终清楚自己在与AI互动；第二是明确纠错机制，在AI深入治理流程中，要建立明确纠错机制，避免情绪识别模型的误判可能对青少年造成二次伤害；第三是塑造情感能力，充分利用平台积累的青少年社交行为数据，提炼场景，强化情感能力教育。”

Soul App人工智能伦理与治理委员会外部委员，上海社会科学院新闻研究所互联网治理研究中心主任方师师则指出，“关于陪伴式AI过度沉迷的问题，需要从技术与社会两个方面来看：在技术层面，需要关注算法与模型的公平性、透明性以及问责机制；在社会层面，更应关注社会系统的结构性因素，如对需要关爱的群体是否有足够的社会支持，公共文化设施是否提供了足够丰富的线下选择等。”

成立仪式后，Soul人工智能伦理与治理委员会举行了第一次外部委员专题会议。与会的外部委员对《Soul App人工智能科技伦理审查工作规范（草案）》等文件提供了意见和建议，并对Soul已经和即将推出的AI相关产品与功能进行了详细了解。委员们表示，会后将在认真研究的基础上，围绕AI伦理与治理相关问题提供咨询意见。

据悉，Soul人工智能伦理与治理委员会成立后，将承担的核心职能包括制定AI伦理治理战略，确保与技术发展同步；对新技术、产品开展前置伦理评估；定期开展AI伦理通识培训，提升员工伦理素养；建立伦理事件闭环管理机制，包括监测、研判、处置、反馈等环节。

陶明表示，现阶段，伴随着技术的快速发展，AI伦理治理仍面临诸多挑战，未来，Soul将继续坚持“发展与安全并重、创新与责任同行”，持续深化AI伦理治理实践。一方面，进一步完善AI安全审核体系和风险防控能力，提升模型可控性和可信度；另一方面，积极与学界、行业开展合作，探索符合社交场景特点的AI伦理规范建设，将数据合规、隐私保护、未成年人保护、内容向善、公平透明等理念贯穿于产品设计和技术应用全过程，努力推动AI技术在安全、健康、负责任的轨道上持续发展。

编辑 杨娟娟

校对 赵琳

图/企业提供