北京
IT时代网8月13日消息，人工智能公司 Anthropic 本周宣布，部分 Claude 模型会在输出文本里嵌入一种难以察觉的水印。这段文字即便被复制粘贴，水印仍会跟着保留，经过一定程度修改也可能继续存在，用来帮助判断一段内容究竟由 AI 生成还是出自人类之手。目前 Anthropic 还没有公开这套水印系统的完整技术原理，这种不透明已经让一些科技从业者感到不安。
据外媒报道，Anthropic 近日对各界关心的几个问题作出回应。投资人比尔·格利担心，如果只有 Anthropic 能识别自家水印，公司就可能同时扮演“法官、陪审团和检察官”。Anthropic 发言人表示，计划提供免费的应用程序接口，让普通用户和第三方也能自行检测一段文字是否带有 Claude 水印。
有开发者担心，如果水印通过特定词语组合来标记 AI 生成文本，会不会反过来影响 Claude 本身的回答。Anthropic 方面称，水印不会改变回答的含义、质量或可读性。数字医疗机构的生成式 AI 负责人西蒙·史密斯则提出另一种顾虑：只是把一篇文章交给 Claude 做语法检查，这种轻微处理过的文字是否也会被认定为 AI 创作。Anthropic 回应说，水印代表的只是 Claude 曾经处理过这段文本，并不能证明整段都是它写的。
在版权层面，微软前高管史蒂文·辛诺夫斯基把关注点放在数字隐私上，认为真正的问题在于数据保留，以及人们是否有权拥有不留下数字痕迹的私人想法。软件工程师培训师约翰·克里克特也指出，若 AI 生成的代码带有水印，版权归属可能变得更难界定。
Anthropic 表示，加入水印是为了遵守欧盟《人工智能法》。从 8 月 2 日起，全球范围内受支持的 Claude 模型生成文本已经开始带上这枚水印。Anthropic 并不是唯一这么做的公司：谷歌用 SynthID 为 AI 生成内容加水印，OpenAI 也在部分图片和音频中采用 SynthID；马斯克旗下社交平台会给系统判定为 AI 生成或经过 AI 处理的内容打上“由 AI 制作”的标签。
注：本文综合自IT之家等，文中包含AI辅助创作的内容。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
