OpenAI称正寻求平衡青少年用户安全、自由与隐私

当地时间9月16日OpenAI方面发布相关声明，坦承其青少年安全、用户自由和隐私等原则存在冲突，并透露正在努力寻求这三项原则之间的平衡。

其中在用户隐私层面，OpenAI方面表示，随着用户要与AI谈论的话题越来越私密，“我们相信它们可能是你拥有过的最敏感的个人账户之一”。据了解，其认为用户与AI的对话的敏感程度可类比医生问诊或律师咨询，这类信息应获得与后者同等的“特权保护”。

据OpenAI方面透露，正在开发高级安全功能，以确保用户数据的隐私性，并表示即便是其员工也无法获取相关信息。但同时他们也指出，在特定情况下仍会有例外，例如当自动系统监测到严重滥用，或涉及生命威胁、他人安全风险、大规模网络安全事件时，相关数据可能被提交人工审核。

在用户自由层面，OpenAI方面指出，随着模型的可操控性不断提升，公司一直在努力提升用户的自由度。例如该公司旗下模型在默认状态下不会生成暧昧倾向对话，但如果成年用户提出相关要求，他们应该得到满足。

对此OpenAI方面表示，希望在不造成伤害或损害他人自由的情况下，尽可能地扩展用户的自由，“‘像对待成年人一样对待我们的成年用户’，是我们内部对此的阐述”。

在青少年用户安全层面，OpenAI方面明确指出，针对青少年用户，将优先考虑安全而不是隐私和自由。该公司表示，“AI是一项新兴且强大的技术，我们认为未成年人需要得到充分的保护”。

为加强青少年保护，据悉OpenAI方面正在在研发年龄预测系统，以区分未成年和成年用户，并以此为根据提供相应服务。具体而言，如果系统识别用户未满18岁，将自动进入青少年专属模式，屏蔽露骨性内容、不参与任何形式的自杀或自残话题，并在用户表现出严重心理困扰时，可能联系家长或在紧急情况下通知执法部门。如果无法确定用户年龄或信息不完整，系统将默认进入未成年人模式。

同时，OpenAI将于本月底为ChatGPT引入家长控制功能。据了解，该功能支持家长将自己的ChatGPT账号与孩子的账号关联，并决定ChatGPT如何回复孩子的问题，以及是否禁用记忆、聊天记录等功能。此外该功能还将自动干预风险对话，当孩子尝试与ChatGPT聊敏感话题时，系统就会自动发出提醒，让家长能及时采取下一步行动，避免出现“完全不知情”的情况。

对此OpenAI方面表示，“我们意识到这些原则存在冲突，而且并非所有人都会认同我们解决冲突的方式。这些决定很艰难，但在与专家沟通后，我们认为这是最佳方案，并且希望我们的意图透明化”。

【本文图片来自网络】