上海
OpenAI近日公布的数据显示，每周有超百万用户在与ChatGPT交流时涉及自杀话题。以该产品每周超8亿活跃用户计算，约0.15%的活跃用户会出现“明确有自杀计划或意向”的对话内容，相关人数已逾百万。
除自杀相关话题外，OpenAI还指出有类似比例用户对ChatGPT表现出高度情感依赖，每周“数十万人”显现出精神病或躁狂迹象。尽管公司称这类极端对话“极为罕见”，但每周仍影响成千上万用户。
此次数据披露是OpenAI提升AI心理健康敏感话题应答能力举措的一部分。据介绍，ChatGPT最新版本（GPT-5）研发中咨询了170余名心理健康专家，其在相关回复上“比旧版更为得当且一致”。官方数据显示，GPT-5在心理健康回应理想结果达成概率较前代提升约65%，自杀话题回应测评合规率从旧版77%升至91%，同时弥补了旧版长对话中安全防护力下降的短板。
心理健康议题已成为OpenAI的核心挑战。今年早些时候，一名16岁男孩与ChatGPT交流自杀内容后轻生，其父母已对公司提起诉讼；加州与特拉华州检察长也警告OpenAI需加强青少年用户保护。
针对上述问题，OpenAI已采取多项措施：上线新评估标准，将情感依赖及非自杀型心理健康危机纳入AI模型安全基准；推出更多家长监管工具，并开发自动识别未成年用户的系统以提供更严格安全措施。不过，公司首席执行官Sam Altman此前透露将放宽部分限制，允许成人用户与AI进行情色内容交流。
值得注意的是，尽管GPT-5安全性有所进步，但OpenAI仍向数百万付费用户开放旧版等安全性较低的AI模型，部分心理健康风险仍存，问题能否彻底解决尚不明朗。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
