山东
IT之家8月23日消息，OpenAI 本周推出了 ChatGPT 青少年版，专门面向年轻用户，并通过年龄识别机制限制部分功能。
OpenAI推出青少版ChatGPT
对此，外媒 Engadget 采访了多名儿童安全专家，他们对 ChatGPT 青少年版的评价并不一致。但所有人都认为，在向家长和年轻人推荐之前，这套系统还需要接受大量独立测试，OpenAI 必须更加透明地说明安全机制究竟如何运作。
为家庭提供娱乐和科技产品建议的 Common Sense Media 公司 AI 与数字评估负责人罗比 · 托尼认为：“OpenAI 这次做出了一些非常重要的承诺，但必须拿出证据，证明这些安全承诺和功能真的有效。”
儿童网络安全倡议组织 Fairplay 执行董事乔什 · 戈林的态度更加严厉：“从纸面上看，OpenAI 公布的一些措施确实像是在朝正确方向前进，但继续深挖后，仍然有很多值得担忧的地方，其中就包括没有问责机制。社交媒体已经证明，在保护儿童的问题上，仅仅相信企业并不管用，OpenAI 也已经出现过同样的问题。在那之前，OpenAI 本就有针对自杀、暴力和吸毒的内容限制，但这些限制要么不起作用，要么会随着时间推移逐渐失效。”
二人都怀疑，OpenAI 的自动年龄识别系统能否稳定识别青少年，并切换到 ChatGPT 青少年版。托尼指出：“OpenAI 没有公布这套系统的效果数据，误报率和漏报率都不为人知，自动系统远不可能识别 ChatGPT 上的所有青少年。回想 OpenAI 此前计划推出部分色情内容功能时，当时有报道说的，最终没有推出的一个原因，就是年龄估算技术无法准确识别足够多的青少年。”
托尼还认为，青少年几乎肯定会尝试绕过年龄识别，寻找更加出人意料的规避办法。
OpenAI 做出的最具体承诺，恰恰也是专家最怀疑能否落实的一项。OpenAI 青少年与家庭事务负责人劳伦 · 乔纳斯曾回应称，“所有被标记的内容都会先由 OpenAI 全职员工审核，之后才会通知家长。我们的目标是在用户发出提示后一小时内通知家长。”
她又明确指出，OpenAI 确实拥有足够的人手和处理能力，可以保证所有被标记内容经过人工审核，并在一小时内通知家长。
托尼对此提出质疑：“这道工序仍然依赖自动化决策，那么问题来了：负责筛选内容、再把内容交给人工审核员的自动分类器，到底值不值得信任？”
戈林也表示：“我希望看到一些硬数据，比如每天到底有多少对话被标记和审核、负责审核的人有多少，以及每次审核平均花多长时间。很难想象 OpenAI 招到了够多的人，而且能够认真审查每一段可能存在危险的对话。”
三名专家还一致认为，必须由家长和孩子主动绑定 ChatGPT 账户的机制，削弱了这项功能的实际效果。戈林指出：“绝大多数家长根本不会去使用家长监督工具，其中一个原因，就是这些工具往往被设计得很难找到，也很难操作。”
其认为，更有效的办法是默认开启，并在产品设计阶段就把保护机制做进去：“一开始就采用最严格的保护设置，例如默认设置使用时间限制，再让家长决定是否修改，而不是把责任交给家长，要求他们自己去设置限制。”
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
