上海
分享至
品玩10月30日讯，据 Winbuzzer 报道，OpenAI周三发布开源权重AI模型系列gpt-oss-safeguard，含120b和20b两个版本，已在Hugging Face上线，采用Apache 2.0许可，支持免费商用。
该模型区别于传统安全工具，通过推理实时解读开发者自定义的内容安全政策，接收政策与待审核内容双输入，以思维链过程得出分类结果，推理过程可追溯，适配无标注数据的新兴风险场景。模型由OpenAI联合Discord、ROOST等机构开发，ROOST同步在GitHub发起社区促进技术交流。
此次发布正值OpenAI面临监管压力，此前一日其披露每周数十万用户在ChatGPT聊自残等内容。模型源于内部Safety Reasoner工具，但复杂风险识别不及专用分类器，且推理耗资源，低延迟场景需分层部署。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
