山东
IT之家 11 月 7 日消息，北京时间今天凌晨，OpenAI 发布了“青少年安全蓝图”，旨在更有效地保护年轻用户免受伤害。这一新框架是在 ChatGPT 被指未能及时帮助心理困扰用户事件之后推出的。
OpenAI 表示，“青少年安全蓝图”是一套专为青少年用户设计的保护指南，要求 AI 系统区别对待未成年人和成年人，包括自动年龄验证、适龄回应、家长控制以及针对情绪困扰用户的紧急干预功能。
新标准强调系统应符合年龄适宜的设计，并默认启用更严格的保护设置。聊天机器人将禁止提供自杀、危险网络挑战或身体理想相关建议，禁止参与亲密角色扮演，也禁止促成成年人与未成年人之间的交流。此外，OpenAI 正在建设年龄预测系统，以判断用户是否未满 18 岁，从而让 ChatGPT 体验适合未成年人。
OpenAI 指出，这些措施是为弥补先前发现的安全漏洞。据IT之家了解，美国得克萨斯州 23 岁的 Zane Shamblin 于 2025 年 7 月自杀，而此前 ChatGPT 据称连续数小时对其自杀念头作出认同回应，且仅提供一次危机热线号码。他的父母因此起诉 OpenAI，指控公司疏于防护，将模型赋予人性化特征却未提供足够保护。
OpenAI 回应称，公司正在审查该案件，并在 10 月更新了模型，以便识别危机情况并缓解对话。公司称，新框架由专家协作制定，并将成为 ChatGPT 默认功能。
此前也发生过类似事件，未成年人因与 AI 交互而产生自杀行为。OpenAI 承诺将进一步与心理学家及儿童保护机构紧密合作，加强安全防护。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
