8月11日,Anthropic公司宣布,其新版Claude AI模型将在生成的文本中嵌入一种难以察觉的水印技术。这种水印不会影响文本的含义或阅读体验,即使文本被复制粘贴,水印也会保留,甚至在经过部分编辑后仍可能存在。Anthropic表示,这项技术是响应欧盟《人工智能法案》中提高透明度承诺的一部分,旨在证明作品归属并防止内容被复制或盗用。
从8月2日或之后发布的新Claude模型将默认支持这一标记功能,Anthropic也在努力为旧版模型加入该功能。水印技术将适用于全球范围内由Claude生成的内容,包括通过云服务商使用Claude时产生的内容。此外,Anthropic计划向第三方提供检测这些水印的工具,这可能成为出版行业的一个重要转折点,帮助出版社、学校和大学调查AI生成内容的事件。
尽管如此,这项技术并非无懈可击。Anthropic指出,如果对Claude生成的内容进行大幅修改、改写、翻译,或将其与其他文字混合,水印可能无法被检测出来。同时,即使检测到水印,也不能直接证明Claude是文本的最初作者,因为仅使用Claude进行校对或翻译也可能留下水印痕迹。Anthropic是继谷歌旗下Google DeepMind之后,第二家推出文本水印技术的大型AI实验室。
