英国将与微软合作开发深度伪造检测系统 推进AI内容监管标准化

来源：市场资讯

（来源：财联社）

财联社2月5日讯（编辑 牛占林）英国政府当地时间周四表示，将与微软、学术界及相关专家合作，开发一套用于识别网络深度伪造内容的系统。此举是英国在应对有害且具有欺骗性的人工智能(AI)生成内容方面，推动制定行业标准的重要一步。

尽管被篡改的影像和音频内容早已在网络上传播多年，但随着生成式AI聊天机器人的推出和迅速普及，深度伪造内容在规模和逼真程度上的风险显著放大，引发了更广泛的担忧。

英国近期已将制作未经当事人同意的私密影像定为刑事犯罪。英国政府表示，目前正着手建立一套深度伪造检测评估框架，以形成统一、可对标的标准，用于评估各类检测工具和技术的有效性。

英国科技大臣莉兹·肯德尔在声明中表示：“深度伪造正被犯罪分子当作武器，用于诈骗公众、剥削女性和女孩，并破坏人们对所见所闻真实性的信任。”

英国政府称，该评估框架将通过测试深度伪造检测技术在真实世界威胁场景下的表现，来评估技术在识别、理解和发现有害深度伪造内容方面的能力，无论这些内容来自何种平台或技术来源。

据悉，测试场景将涵盖性剥削、金融诈骗以及身份冒充等高风险领域。这一框架将帮助政府部门和执法机构更清晰地识别当前检测技术的薄弱环节，并据此为相关行业设定明确的深度伪造检测标准和预期要求。

根据英国政府的数据，2025年全球范围内被分享的深度伪造内容约为800万条，相比2023年的50万条大幅飙升。

联合国国际电信联盟近期敦促，各类企业必须采用更先进的技术工具，以识别并遏制虚假信息和深度伪造内容，从而应对选举干预和金融诈骗风险不断上升的问题。

国际电信联盟标准化局研究组部门负责人Bilel Jamoussi指出：“人们已无法判断哪些内容是真实的、哪些是伪造的，这导致公众对社交媒体的信任度显著下降。”

他表示，鉴于生成式AI能够制造极其逼真的多媒体内容，打击深度伪造已成为当前面临的最严峻挑战之一。

但面对AI技术的快速演进，全球各国政府和监管机构普遍难以跟上其发展节奏。今年以来，监管行动明显加快，部分原因是马斯克旗下的Grok聊天机器人被发现可生成未经同意的性化影像，其中甚至包括未成年人。

英国通信监管机构以及隐私监管机构目前已分别就Grok展开并行调查。欧盟委员会近日也表示，已对Grok展开调查，调查内容是其是否在欧盟境内传播了包括被操纵的性化图像在内的非法内容。