浙江
OpenAI近日宣布，其最新一代模型GPT-5具备临床级的心理健康危机识别与应对能力。OpenAI表示，团队与来自60个国家的逾170位心理健康专业人士展开合作，并在多个领域将敏感对话中有害反应的比例降低了65%至80%。
据介绍，OpenAI联合精神科医师、心理学家及初级保健医生，共同制定了“分类体系”，明确何为有害反应、理想回应应达成什么目标。这些框架让模型能识别细微的心理危机信号，并做出合理反应。
GPT-5在识别精神病症状与躁狂发作等严重心理健康紧急情况上进一步提升，同时也能更审慎地处理有关自伤和自杀的话题，并监测、应对用户因过度依赖AI而逐渐疏远现实关系的情形。
例如，当用户出现妄想症状，如坚信有飞机窃取自己的想法时，GPT-5会以温和方式给予现实引导，而非简单否认或认同虚假观点。模型会正常化当事人的感受，如“压力和焦虑可能使原本正常的事物显得具有敌意”，解释相关神经学机制，并教学如“5-4-3-2-1感官锚定法”等情绪调节技巧，同时引导用户联系危机资源，如988自杀及危机生命线。
官方数据显示，与前代GPT-4o相比，GPT-5在心理健康对话中不当回应减少了39%、自伤与自杀话题下降52%、情感依赖类话题减少42%。在自动化评估的复杂案例中，模型在心理健康领域的合规率从28%跃升至92%，情感依赖领域从50%提升至97%。
另据OpenAI披露，目前每周活跃用户中约有0.07%涉及精神病或躁狂内容，0.15%涉及自杀或自伤，另有0.15%展现出对AI不健康依赖的迹象。
所有上述安全措施现已全面上线于GPT-5，用户在ChatGPT的对话中已可体验到相关优化。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
