河北
分享至
OpenAI在周四发布了一份蓝图，公司希望立法者在制定青少年使用人工智能的安全标准时能参考这份蓝图，这份蓝图的首个副本最初是与Axios共享的。
这为什么重要：OpenAI试图提前应对批评——并通过向政策制定者介绍其新的安全机制来影响青少年使用的规范。
- 这正值全国多个州正在考虑人工智能安全法时，参议员们推出了一项法案，旨在禁止未成年人使用聊天机器人。
新闻背景：OpenAI 正受到审查，因为该平台在处理年轻用户安全问题方面，涉及一名与聊天机器人互动后自杀的青少年而引发的高调诉讼仍在进行中。
- OpenAI 还试图通过 进入 更多学校来扩大其用户基础，这些学校需要这样的安全框架。
他们的观点是： OpenAI 坚持认为，青少年应该根据蓝图提供“安全和可信赖”的人工智能，但他们也应该“受到可能带来的危害的保护。”
- “我们认为 ChatGPT 应该在他们的环境中与他们交流：ChatGPT 对 15 岁青少年的回应方式应与成年人的回应方式不同，”报告中写道。
该公司提出了 五项建议，供 AI 公司在保护青少年方面遵循，OpenAI 已经宣布正在开发这些建议：
- 识别平台上的青少年，并以适合其年龄的方式对待他们；
- 通过政策减少对未成年人的风险，要求人工智能系统不描绘自杀或自残，禁止露骨和暴力内容，并且不鼓励危险的特技或不健康的身体标准；
- 如果对用户的年龄有疑问，就默认提供18岁以下的使用体验；
- 给家长提供对孩子账户的管理权限；
- 嵌入基于最新青少年与人工智能研究的功能。
大局观： 在技术平台上进行年龄验证非常困难，且孩子们往往容易规避。
- 像 OpenAI 这样的公司们 可能会很快受到 欧洲的数字服务法的更严格要求，因此，他们可以更早地将安全性整合到平台中。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
