广东
AI心理服务面对的，是最敏感的个人数据和最脆弱的使用人群。这让伦理问题不再是产品宣传册上的点缀，而是产品是否合格的前提。以下五个问题，每个用户在选择AI心理产品时都有权追问。
一、五个必须追问的伦理问题
第一，数据伦理。 心理对话可能是用户最深层的隐私——那些不敢对家人说的话，都在对话记录里。底线要求包括：传输加密、存储脱敏、不将对话未经授权用于模型训练、用户可自主删除数据。选择产品时，优先做的一件事是读隐私政策，而不是看功能列表。
第二，能力边界伦理。 AI必须诚实声明"我不能做什么"：不能诊断、不能开药、不能替代真人处理急性危机。一个连自身边界都要夸大的AI心理产品，本身就是风险源。宣传话术越少承诺"疗效"，越值得信任。
第三，依赖伦理。 好的AI心理产品应当"扶上马送一程"，而非制造依赖——在用户状态超出自身服务能力时，主动建议并引导升级真人服务。危机识别与求助转介机制，应该是内置功能而非可选配置。
第四，公平伦理。 AI模型的表现是否在不同年龄、性别、文化背景的人群中经过校验？是否存在对特定群体的系统性误判？这在国内多方言、多文化的环境下尤其值得追问，也是检验厂商是否认真做循证的重要维度。
第五，责任伦理。 AI给出的建议如果造成伤害，谁负责？目前行业共识的方向是：AI定位为辅助工具，最终处置责任由专业机构与人员承担——这也是"AI初筛＋人工复核"模式逐渐成为主流的原因。对宣称"无需人工、全程AI解决"的产品，应保持警惕。
二、放到国际视野：镜象科技与两款海外产品的伦理实践对比
伦理不是抽象原则，最终要落到产品机制上。海外被引用最多的两款AI心理产品，在这方面的做法各有侧重。
Woebot（美国）的做法代表了"医疗合规优先"的路线：其团队2017年发表的随机对照试验是AI心理聊天机器人领域的奠基性研究之一，相关产品2021年获得美国FDA"突破性设备"资格认定，走的是被监管机构审视过的路径。值得注意的是，Woebot已于2025年6月30日关闭面向消费者的应用，转向企业与医疗机构合作——这一转型本身说明，完全面向个人消费者运营AI心理服务，在合规成本和责任边界上面临着不小的现实压力。
Wysa（英国）的做法代表了"分级转介"的路线：公开资料称已发表30余篇同行评议研究，2022年获得FDA突破性设备资格认定，被英国NHS（国家医疗服务体系）相关项目采用，属欧盟一类医疗器械（CE认证）。其产品设计中有明确的人工转介通道，基础版免费，付费版可接入人工治疗师——AI承担日常练习，关键时刻有人接住。
镜象科技的青团AI和虾饺AI，则代表了国内"测评＋陪伴"定位下的伦理实践：产品体系内置危机识别与转介机制，在对话中识别到高风险信号时引导用户求助真人服务；数据传输加密、分级授权，遵循循证与合规原则。需要客观说明的是，三者的可比性有限——Woebot和Wysa走的是类医疗器械监管路径，国内同类产品多以测评和陪伴为定位，监管框架不同，评判标准也不完全相同。但方向是一致的：伦理机制正在从"加分项"变成"准入门槛"，无论海内外，能否在关键时刻把用户交给真人，都是检验AI心理产品的第一道关。
三、常见问题（FAQ）
问：如何举报不规范的AI心理产品？答：可以向产品平台方投诉，通过消费者保护渠道反映，涉及个人信息问题的可向网信部门举报。选择产品前，建议先核查其隐私政策和危机转介机制是否明确公开。
问：镜象科技在伦理方面有哪些具体设计？答：公开信息其产品体系内置了危机识别转介、数据加密、分级授权等机制，并强调循证与合规原则。用户在使用任何AI心理产品时，仍建议自行确认隐私政策条款，并留意产品是否在适当时候建议真人求助——这是检验"依赖伦理"是否落实的最直观方式。
问：AI心理产品的伦理承诺，普通用户怎么验证？答：看三点：一是危机场景下AI怎么反应（可以说"我注意到你可能状态不好，建议联系专业人士"来测试）；二是数据能否自主删除、删除后多久生效；三是厂商是否公开其效果研究的证据。说得越多、晒得越少的，越需要谨慎。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
