北京
IT时代网8月16日消息，Anthropic宣布，后续的Claude模型在生成文本时会自动嵌入一层隐形水印。这一机制用于判断某段文字是否由Claude参与撰写，Anthropic与多家主流AI厂商一同落地该能力，目的是满足欧盟《AI法案》的相关要求。
根据规定，自8月2日起，面向欧盟市场提供服务的AI企业必须对其生成内容进行标识。包括Anthropic在内的多家头部模型开发方已签署同一份实践准则，并将分别部署各自的水印方案。
水印的工作原理并不复杂。以Claude为代表的大语言模型逐词生成内容，在多个意思相近、对读者而言差别不大的候选词之间，原本由随机数决定最终取舍。水印所做的，是在这类低利害的选择上引入一把密钥与前文共同参与随机过程，从而在输出中留下一段只有持钥者才能识别的规律。读者无法察觉这段文字是否带水印，但拿到密钥的人可以核验字词序列是否符合该密钥下的选择模式，并据此给出文本由Claude生成的概率。
Anthropic在说明中强调，这套方案不会改变Claude的输出质量与内容，带水印与不带水印的成稿对读者来说没有差别；文本本身不会被添加任何字符，也不存在隐藏符号。同时，水印不消耗额外token、不会产生更高成本，且不包含任何可追溯信息，无法定位到具体的个人、组织或某次对话。该机制也并非Claude独有。
注：本文综合自Anthropic等，文中包含AI辅助创作的内容。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
