北京
欧盟人工智能法案将于2026年8月开始强制执行，距今仅剩一个月。其中最重要的新要求之一是第50条：所有AI输出必须“可被检测为人工生成”。换句话说，若大语言模型供应商希望在欧盟开展业务，就必须为其输出添加水印——某种可识别AI内容的隐藏签名。 大语言模型文本水印是一个极为棘手的问题。与最优秀的工程问题类似，理论上难以完美解决，但存在多种局部方案：例如谷歌的SynthID，以及OpenAI和Anthropic悄悄采用的Unicode技巧。在年底之前，观察各AI实验室如何权衡这些取舍，将非常有趣。 为何文本水印如此困难？我曾于去年年末在《AI检测工具无法证明文本由AI生成》一文中探讨过。图像水印很容易，因为数字图像包含大量人眼无法察觉的噪声。例如，可以嵌入“这二十个像素在特定位置永远共享一种颜色”这样的水印。但文本要难得多——与图像不同，文本是一种高度压缩的媒介：你几乎无法做出任何人类不会注意到的改动（只有一个例外，稍后讨论）。那么，究竟该如何添加水印呢？ 这本质上是一个文本隐写问题（隐藏秘密代码），但难点在于明文无法被任意篡改。任何为加水印而做出的改动，都会损害输出质量。比如，“每五个字母中有一个是‘e’”会是一个不错的水印，但盲目应用会令人工智能输出充满错别字。能否让模型自行学会满足水印约束？强大的AI模型足够聪明，能兼顾这类限制，但这仍会消耗推理时间——而本可用来生成更优质的内容。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
