水印在线制作生成器

AI生成文本，又遇新对手！

凭借识别AI生成文本中的“水印”，一种新算法能够准确判断文本到底是谁写的。

无需访问模型参数、API，结果置信度高达99.999999999994%。

方法一经发布就引来大量网友围观。这回拿ChatGPT“作弊”，怕不是要更难了？

要知道，最近一段时间，ChatGPT先是成为美国高中生的写作业利器，后面帮专业媒体写稿子，引发巨大恐慌。如Nature、纽约教育部等，都针对ChatGPT发布禁令。

马里兰大学学者们提出的这一新方法，为解决这些麻烦提出了个新思路。

不少网友都觉得，这个方法提出的正是时候，而且效果看着也不错。

有学者还和美国高中生喊话，你们要做好准备了！

作者表示，方法代码将在2月15日免费开源。

计算文本由AI生成的概率

所谓模型水印，人类无法看到，但是计算机可以。

这是一种现在被常用于大规模语言模型（LLM）中的方法，能让AI生成的文本带有“特殊标记”。即把信号嵌入到生成的文本中，让算法能从一小段token中检测出来。

最近，OpenAI方面也表示，考虑在ChatGPT中添加水印，以降低模型被滥用带来的负面影响。

这篇最新论文的作者，就想验证下这个想法到底靠不靠谱。他们通过给LLM中嵌入水印，然后再进行检测。其中水印的嵌入不会影响文本生成质量。

具体来说，大规模语言模型每次生成一个token，每个token将从包含大约5万个词汇的词汇表中进行选择。

在新token生成之前，该方法会从基于最近已生成的token为随机数生成器（RNG）提供“种子”，以此来压一个水印。

然后使用RNG，能将词汇表分为黑名单和白名单，并要求LLM接下来只能从白名单中选择词汇。

如果整段文本中，白名单中的词汇越多，就意味着越有可能是AI生成的。

黑白名单的区分，基于一个原则：

举例来说，如果在“美丽的”后面生成词汇，水印算法会将“花”列入白名单，将“兰花”列入黑名单。

论文作者认为，AI更可能使用“花”这个词汇，而不是“兰花”。

然后，就能通过计算整段文本中白名单token出现的情况，来检测水印。

如果一共有生成了N个token，所有的token都使用了白名单词汇，那么这段文字只有2的N次方分之一概率是人类写的。

即便这段文字只有25个词组成，那么水印算法也能判断出它到底是不是AI生成的。

但作者也表示，水印有时候也不一定完全靠谱。

比如模型输出了“SpongeBob Square”，下一个单词一定会是“Pants”吧？但是Pants会被标记到黑名单里，即认为是只有人才会写的词。

（注：SpongeBob SquarePants是《海绵宝宝》动画片的英文，可理解为一个专有名词）

这种情况会严重影响算法的准确性，因此作者将其定义为低熵token，因为模型几乎不会有更好的选择。

对应来看，也会有高熵token，比如“海绵宝宝感觉____”这个句式里，能填入的词汇太多了。

对于这一情况，作者选择针对高熵token制定更强的规则，同时保留低熵token，确保水印质量更好。

与此同时，他们还添加了波束搜索（Beam search），允许LLM能够排布一整个token序列，以避免黑名单词汇。

这么做，他们能确保LLM使用白名单词汇的概率在大约80%左右，而且不影响文本生成质量。

举例来看，对于下面这段文字，水印算法认为它有99.999999999994%的可能是由AI生成的。

因为在这段文字中，包含36个token。如果是人类写的，那么文本中应该包含9±2.6个白名单词汇（白名单词汇的概率约为25%）。

但这段文字中，包含了28个白名单词汇。

计算来看，这段文字由人类写出的概率，仅有0.0000000000006% （6乘以10的-15次方）。

如下标注的是文本中的黑名单token。

需要注意的是，如果想要水印正常发挥作用，并不受到攻击，就必须对文本进行一些标准化处理，并且需要检测某些类型的对抗性提示。

这一方法是对外公开的，将在2月15日开源代码。

加一个随机秘钥，也能变成保密模式并且托管到API上，这能保证水印不会被篡改。

论文中使用的模型是Meta开源的OPT-1.3B模型。

由于不用访问底层模型，所以该检测方法的速度很快，成本也不会很高。

而且可以使用标准语言模型生成带水印的文本，不用再重新训练。

网友：似乎很容易绕过？

巴特，不少网友觉得，这个方法的具体实践效果可能远不及理想，质疑之声迭起。

有人提出：

对此，论文通讯作者、马里兰大学副教授Tom Goldstein回答称：

简而言之，想要通过换近义词来消除水印，得大篇幅修改，而且若不是人亲自手动修改的话，效果会很拉胯。

还有人提出：

对此，Tom教授表示：

不过，研究者们也在论文中承认，这种方法确实存在一些局限性。

比如，检测水印的z统计量，只取决于白名单大小参数γ和生成白名单的哈希函数，和其他不少重要的参数并没有什么相关性。

这就让他人可以在下游水印检测器上做手脚，可以改变水印采样算法，重新部署水印，最终让原本生成的水印失效。

就连OpenAI CEO Sam Altman也表示：

（尽管他说OpenAI打算启用水印大法）

但话说回来，人们为了限制AI生成文字的负面影响，还是煞费苦心——

之前就有人搞出了一个检测ChatGPT的网站，名曰GPTZero，只需要把相应的内容粘进去，几秒内就能分析出结果。

论文地址：

参考链接：

— 完 —

量子位 QbitAI · 头条号签约

朱枫功1041做水印的好用的软件 -
吕郎贝19245393282 ______ 用Photoshop打自己想要写的字上去,再设置透明度就可以了,很简单的

朱枫功1041....谁有水印制作工具
吕郎贝19245393282 ______ 用 光影魔术手nEOiMAGING 可以加水印

朱枫功1041什么软件可以自己制作水印???手机软件 -
吕郎贝19245393282 ______ 水印王!力推.可以水印图片,照片,视频.很给力

朱枫功1041有没有QQ截图时自动带水印(水印内容可以自己编辑好)的软件?特别需要!小软件,跪求大神制造 软件小 -
吕郎贝19245393282 ______ 您好,没有的. 因为你的需求是制作水印与添加水印,在此给你推荐两个专业级软件,分别针对制作和添加.制作水...

朱枫功1041请教,给图片做水印的软件[要国产,易学的] -
吕郎贝19245393282 ______ 当然是Photoshop 图像、图形、文字、视频、出版等方面.从功能上看,Photoshop可分为图像编辑、图像合成、校色调色及特效制作部分.图像编辑是图像处理的基础,可以对图像做各种变换如放大、缩小、旋转、倾斜、镜象、透视等.也可...

朱枫功1041如何用美图秀秀制作图片水印? -
吕郎贝19245393282 ______ 电脑上要装有美图秀秀软件,打开美图秀秀,点右上角的“新建”功能. 弹开一个对话框,默认尺寸,透明选项打勾,应用.这样就新建了一个透明的画布. 选择“文字”--“输入静态文字”. 在弹出的菜单栏输入你水印上显示的文字,文字...

朱枫功1041强大的网友们!有什么制作水印的软件好介绍吗?要有各种边,字体,还有图案的 【电脑/手机能下载的】 -
吕郎贝19245393282 ______ 推荐你两个常用的吧 首推PHOTOSHOP. 方法:打开你要做的图,再打开你要添加的水印图片,用PHOTOSHOP里的拖动工具(最左侧那两列图标里右边第一个即是),把水印图片直接拖到你想要的位置就行了. 第二个推荐光影魔术手``现在好流行的做图软件``` 方法:打开要做的图,选最上面那个工具里有个自由文字与图层,然后再选水印,从打敞笭搬蝗植豪邦通鲍坤开的框里选择你要添加的水印图片就OK了 讲的好罗嗦``不要嫌烦哦``HOHO``

朱枫功1041请问制作水印用哪个软件好 -
吕郎贝19245393282 ______ 制作水印电脑用PS这个比较专业,也是高手专业的常用,手机可以用picsart或Photoshop来制作,要是添加水印可以用水印相机或是微商水印相机来添加.

朱枫功1041水印制作软件?
吕郎贝19245393282 ______ 使用photoshop,吧水印图层的不透明度调一下就行

朱枫功1041这个水印是用什么软件做的,怎么做的.
吕郎贝19245393282 ______ 用PHOTOS把素材分图层放,然后调透明度就行了