Xbox发布第四版透明度报告 分享最新AI工具在促进游戏安全领域的应用

Xbox 于今日发布了第四版透明度报告并分享了最新的 AI 应用在促进游戏安全方面的应用，旨在以推动建立健康公平的游戏环境，并保护玩家游戏安全。

具体来说，该报告向读者介绍并展示了 Xbox 如何在微软的“负责任 AI 标准”（Responsible AI Standard）指导下，借助于先进的 AI 工具和方法对有害内容进行分类和甄别，从而让人工审核员能够专注于更加复杂和细微的有害内容，以确保微软能够准确、始终如一且公平地保护用户社区。

早期 AI 辅助性投入重点主要关注于如：通过识别那些符合潜在有害内容标准和特征的单词或短语，来对会话文本内容进行分类的自动标记功能；和能够快速去除已知有害内容并识别出实时的有害图像的图像图案匹配功能。

报告重点内容涵盖了 2023 年 7 月 – 12 月期间的内容事项：

保护玩家的有力新方法。自从 Xbox 推出语音投诉功能以来，Xbox 玩家的语音聊天环境得到了显著改善。这一功能能够有效地让玩家举报不文明的语言行为，同时将对游戏游玩体验的影响降到最低。自推出以来，利用 Xbox 的“随刻举报，随后反馈”系统，我们已经捕获了 13.8 万份违规语音记录。当这些举报落实处罚后，98% 的玩家行为得到了改善，后续没有再出现不文明行为。此外，我们还更新了我们的主动检测方法，以更有效地拦截有害内容接触到玩家（相比前版报告公布的数据，拦截文本增加了 320 万条，约 67%），让玩家以文明的方式游玩游戏。

帮助玩家了解强制处罚措施，优化游戏环境。Xbox 于去年推出了强制处罚措施系统，旨在促进大众文明游戏，同时帮助玩家提升对于违规行为严重性的认知。自推出以来，88% 受到强制措施处罚的玩家在随后的游戏中没有出现二次违反 Xbox 社区标准的行为。我们还减轻了对微小违规行为的封禁时长，其中约 44% 在过去可能会判罚 3 天或更长时间的封禁处罚的处罚时长都被缩短。综合上述结果可以看出，即便处罚时间很短，但大多数玩家在经历了一次强制处罚措施之后都选择了改正自己的不文明行为以避免二次处罚。

封禁虚假账号，避免其造成影响。Xbox 一直在不间断地研发各种检测虚假账号的方法，从而使得 Xbox 能够在他们创建账号时迅速进行封禁，以防止虚假账户对 Xbox 用户产生不良影响。全面升级后的检测系统已阻止了数百万的虚假账户，从而帮助实现了两年内虚假账户主动性封号处罚数量的首次下降，处罚数量从前版报告中所统计的 1630 万例下降到了 730 万例。