OpenAI推出AI检测工具，并加入C2PA指导委员会

日前，OpenAI方面发布了一款全新的人工智能驱动的图像检测分类器。据了解，该工具可分析一幅图像是由该公司“文生图”工具DALL·E 3生成的概率，并且目前其已向第一组测试人员（包括研究实验室和以研究为导向的新闻非营利组织）开放申请通道。

对此OpenAI方面表示，“世界各地的人们正在拥抱生成式人工智能来创建和编辑图像、视频和音频，从而增强创造力、生产力和学习能力。随着生成的视听内容变得越来越普遍，我们相信对于整个社会来说，采用新技术和标准来帮助人们了解用于创建在线内容的工具将变得越来越重要”。

据OpenAI方面介绍，在早期内部测试中，该工具在区分非AI生成图像与DALL·E 3生成的图像方面成功率很高、接近98%，只有少于0.5%的非AI图像被错误地标记来自DALL·E 3。同时该工具还能够应付一系列常见的修改，例如压缩、裁剪和修改图像饱和度等。

但同时OpenAI方面也指出，如果对图像进行一些其他微小的修改，可能会扰乱该工具的可靠性。同时该工具在区分DALL·E 3与其他AIGC工具的产出方面也表现不佳，对此OpenAI方面强调，开发这一工具的原意并不是用来检测其他热门AIGC工具生成的图像。

除了推出图像检测分类器外，日前OpenAI方面还透露，其正在为语音模型Voice Engine引入水印功能，用以标记该模型生产的内容。对此该公司表示，“目前处于有限的研究预览阶段。我们致力于继续在这些领域进行研究，以确保我们在音频技术方面的进步同样透明和安全”。

值得一提的是，除创建专门帮助用户识别由该公司AI工具创建的内容的新技术、新工具外，OpenAI方面还积极与其他合作伙伴开发、采用和推广行业普适标准。据悉，日前OpenAI方面宣布加入C2PA（内容来源和真实性联盟）的指导委员会，同时OpenAI方面也已确认，从今年早些时候开始，已经向由DALL·E 3、ChatGPT和OpenAI API创建和编辑的图像中添加C2PA元数据，并承诺待文生视频模型Sora大规模推出后，也将向其产出添加C2PA元数据。

此外OpenAI方面还宣布，为应对日益增长的AI和深度伪造被用于"欺骗选民和破坏民主"的风险，将与微软共同成立一项200万美元的基金“社会复原力基金”。

【本文图片来自网络】