人工智能心理产业伦理与安全研讨会在横琴圆满举行

2025年5月20日，由复旦大学无锡研究院人工智能心理学重点实验室、澳门城市大学大健康学院共同主办，由科大讯飞、思图幸福、西湖心辰、聆心智能、厚德明心、归墟机器人六家头部优秀企业共同协办的"人工智能心理产品伦理与安全研讨会暨横琴倡议发布会"在横琴深度合作区榛林国际度假园区举行。会议通过了《人工智能心理产品伦理与安全横琴倡议书》，并初步研讨并确立了成立“人工智能心理产品产业联盟”的计划和发展规划。会议邀请了清华大学、复旦大学、澳门城市大学、山东大学、科大讯飞、思图幸福、西湖心辰、聆心智能、厚德明心、归墟机器人等十余位学界专家学者及业界代表与会，围绕人工智能心理产品的伦理规约、法律规章、安全防范、行业自律、未来发展等议题展开深入探讨。

《人工智能心理产品伦理与安全横琴倡议书》提出了五项核心原则：一是注重人工智能心理产品开发初期的安全与伦理设计；二是开展充分的人工智能心理产品伦理与安全测试以验证产品可靠性；三是强化人工智能心理产品使用过程中的伦理与安全监测与应急能力；四是组织人工智能心理产品安全与伦理理论与技术的深入研究；五是推动人工智能心理产品伦理与安全方面的规范和标准制定与发布；五是积极参与人工智能心理产品相关法律法规的制定和遵守；六是明确了行业自律、用户保护、技术创新等多项原则；七是规划了国内乃至国际的人工智能心理产品产业联盟成立事宜。

会议全程由澳门城市大学大健康学院孙沛教授主持。

清华大学心理与认知科学系彭凯平教授在致辞中指出，人工智能正逐渐融入大众生活，成为心理健康支持和情感关怀的重要补充。但在推动技术创新的同时，必须坚守伦理底线，确保用户权益和数据安全。他认为，当前人工智能产品存在三大突出问题：骚扰泛滥、诱导消费陷阱及生物特征伪造。“当AI实施欺骗行为时，责任主体难以界定——是开发者、平台还是用户？”彭凯平强调，现有法律对AI行为的追责机制尚未明确，导致此类问题陷入监管盲区。作为心理学家，彭凯平坦言，本次研讨会发布的《横琴倡议书》主要从安全与伦理角度出发，“我们呼吁产业关注人工智能伦理与安全问题，但法律层面的责任划分仍需立法机构介入。”他解释，我们的倡议是安全与伦理倡议，而彻底解决问题需依赖“明确的法律责任归属与惩戒规则”，这需要有识之士、法律人士、决策人士共同来解决。

研讨环节，线下与线上与会嘉宾围绕人工智能心理产品的伦理规范、数据安全、用户隐私保护、产品创新等议题展开了热烈讨论。

澳门城市大学大健康学院孙沛教授发言提出，青少年与老年人作为“脆弱群体”，需在人工智能心理产品设计中获得特殊保护。孙教授表示，当前行业内部分产品开发存在盲目套用模型的现象，忽视了对用户隐私与行为依赖的潜在风险。如何比较认真细致的考虑人工智能伦理规范问题，也是这次会议的主要目的。孙沛教授表示：“今天只是一个倡议，后期的话就要产业联盟，比如说几十家甚至上百家的企业，共同往一个方向去努力，这是未来的一个形态，虽然目前仅六家企业参与联合发布倡议，但行业对此类规范存在普遍需求”。

科大讯飞智慧心育研究院院长常雪亮博士就AI陪伴产品面临的伦理与安全隐患与制约问题；西湖星辰的陈燕玲老师就AI心理产品的数据安全、伦理等问题；清华大学社会心理研究中心管委会副主任、厚德铭心的倪子君老师就AI心理产品与真人的不同点、AI咨询与人类咨询受场所的影响、心理智能体的边界界定以及情感和承载人类无法承载的情感压力、危机进行沟通、法律责任界定等方面；清华大学积极心理学研究中心、思图幸福CTO汪明浩老师就学生AI游戏类产品上瘾与AI心理产品上瘾的异同、产品不上瘾与上瘾的边界划分等问题；智普大模型的肖锡尧老师就LLM部署在云端的数据安全、AI陪伴、人类对AI陪伴产品上瘾后依赖更强、人类对心理大模型过度信任导致过度依赖甚至成瘾以及利用心理模型交互数据操控人类情感问题；归墟机器人刘雪楠老师就具身智能时代的心理学方面的可能危险、复刻和模仿时代如何被规范、工作流的规范制定、未来机器人陪伴人类的情感等问题；

浙江传媒大学、思图幸福余思博士就AI心理产品的数据拒绝销售、安全与伦理、建立联盟、自由是创作基础但也要有约束等问题均踊跃展开了积极的发言和讨论。

山东大学计算心理学研究院院长、复旦大学无锡研究院人工智能心理学重点实验室主任姜斌祥教授在闭幕总结中提出“行业发展离不开‘政府引导+法律法规+行业自律+社会监督’的多重保障，学界与业界要紧密结合，构建产业联盟，以开放心态推动技术标准化与伦理体系建设，打造‘安全可信、有温度’的人工智能心理产业生态”。姜斌祥教授呼吁：“人工智能心理是全球性问题，不止是中国面对，国际上也要一起面对，因此，我们除在国内研究和倡议以外，还要积极与国际同行进行联结，构建国际性联盟，并建立联盟的科学研究机构，大家一起发力，迎战人工智能心理产业所面临的挑战，造福于全人类。”

会议提出，人工智能心理产业联盟计划于今年9月正式成立，届时将进一步推动行业规范与协同创新，为用户带来更优质、更安全的人工智能产品心理体验。未来将通过产业联盟的方式，联合国内外学界与业界共同推动倡议书的落地实施。