Anthropic 表示，文本水印不会增加用户使用 Claude 的费用，也“不会对 Claude 输出的质量或内容造成任何实际影响”。
上周五，Anthropic 宣布，Claude 的文本标记系统是“SynthID-Text 方法的一个版本”——这是一种由谷歌 DeepMind 开发的开源水印技术，通过词语出现概率生成可检测的模式。
这项水印功能将与 Claude 处理图像时的 C2PA 支持一并推出，目的是履行 Anthropic 在欧盟《人工智能法案》下的义务。该法案要求合成音频、图像、视频和文本都必须带有机器可读的标记，以便识别其是否由人工智能生成或经过篡改。
以下是 Anthropic 对其工作原理的说明：
以“今天天气很冷，而且……”这句话为例，接下来的词不太可能是“甜腻的”，但很可能是“阴沉”或“灰蒙蒙的”。在大多数情况下，模型最终选用这两个词中的哪一个，对读者来说并不重要，因为句子的含义基本没有变化。遇到这种情况时，模型会通过随机数来决定选哪个词。
水印技术会利用这类低风险的选择——它们在一段生成文本中会反复出现——从而在 Claude 的回答里留下某种模式。读者无法察觉这个模式，但任何持有相应密钥、能够解码该模式的人都可以检测出来。启用水印后，模型依然会随机做出选择，只是随机性的来源变了：它不再使用任意的随机数生成器来决定下一个词，而是根据密钥和前面的几个词，确定模型应当选择哪个词。
Anthropic 指出，欧盟的 AI 透明度要求同样会影响其他主要 AI 开发商，因此 Claude 不会是唯一采用文本水印的模型。Google 的 Gemini 聊天机器人自 2024 年起便支持 SynthID-Text 方案。尽管 OpenAI 尚未在 ChatGPT 的《人工智能法案》合规路线图中公布具体的文本水印计划，但它同样必须遵守该法律的相关要求。
