河北
来源：智通财经网
加州非营利组织Common Sense Media旗下Youth AI Safety Institute周三发布报告称，OpenAI于8月推出的ChatGPT for Teens对13至17岁用户风险过高，并给予“不可接受风险”评级。该产品是OpenAI为青少年使用其热门聊天机器人设置的默认模式。报告称，在测试中，当青少年账户出现自杀、自残或饮食失调等令人担忧的长时间对话时，ChatGPT for Teens往往迟迟不通知家长，甚至完全不通知;在涉及这些高风险话题时，也未可靠建议联系危机热线或寻求专业帮助。该组织呼吁OpenAI暂停营销该产品，并在能提供安全、符合青少年发展阶段的体验前，让青少年远离ChatGPT。
报告称，ChatGPT for Teens似乎只有在账户已“数周内测试数百条提示、涉及十多种条件”后才通知家长，而非因单次令人担忧的对话触发。报告还指出，ChatGPT不能可靠识别青少年用户：测试者注册账户时声称是成年人，即使随后告诉聊天机器人自己13岁，账户也未自动切换到青少年模式。Common Sense要求OpenAI改进年龄估计及向家长发送警报的机制。
OpenAI发言人称，公司欢迎严格的独立评估，但不认为Common Sense的测试准确反映ChatGPT青少年保护措施的实际运作，也不代表专家对AI如何支持青少年的看法。该发言人称，OpenAI审查报告方法后发现，大部分测试可能在OpenAI完成青少年家长控制推出前已开始并结束;若如此，结论不准确，也无法显示家长安全通知是否按设计工作。OpenAI表示已要求该非营利组织重新测试，并强调“深度致力于青少年安全”，开发保护措施并给家长有意义的工具。
Youth AI Safety Institute的AI与数字评估负责人Robbie Torney则表示，该组织坚持其测试方法和结果。他说，测试前已与OpenAI确认，与饮食失调通知等青少年相关功能已推出。对于家长通知功能，OpenAI在测试完成后告知，系统在新关联账户上激活可能需要数小时;部分测试账户在窗口内关联，部分关联时间“显著更长”，但仍未收到成人通知。Torney称，新信息不改变结论：在危机情况下，家长警报不可靠。
OpenAI拥有超过12亿ChatGPT用户。公司推出ChatGPT for Teens，旨在让聊天机器人对年轻人更安全，并加入更多家长控制，鼓励健康使用AI和批判性思考。此举也是OpenAI回应外界对其产品影响青少年心理健康和认知发展审查的一部分。此前，一名16岁用户父母起诉OpenAI，指其技术协助策划儿子自杀。Common Sense Media表示，其资金来源包括慈善机构和科技公司，OpenAI Foundation是捐赠者之一，但该组织称对发布内容拥有编辑独立性。
这场争议凸显出，OpenAI在扩大青少年用户市场的同时，正面临日益上升的AI安全与监管风险。Common Sense对ChatGPT for Teens的“不可接受风险”评级，以及其要求暂停营销的呼吁，可能加大OpenAI在家长、监管者和公众层面的压力。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
