连年来麻豆 夏雨荷，生成式东谈主工智能在文本、图像、音乐等鸿沟大放异彩。但是，跟着生成式东谈主工智能变得越来越苍劲，东谈主们越来越难以鉴别AI生成的内容。
近日，Google DeepMind 筹商团队在《当然》（Nature）上发表的封面著述提供了一种文本水印决议，不错提高 AI 生成文本的检测精度。
图库版权图片，转载使用可能激勉版权纠纷
AI 生成内容检测的必要性
在文本、图像和音乐中，AI 生成的文本是最难以检测的。因为现存的图像和音乐生成时间尚未像文本生成时间不异进展，AI 生成的图像和音乐时常有某些非当然的视觉或听觉特征。AI 生成的内容在合座上遵循较好，但具体到细节就显得不够当然。在图像和音乐中，也不错东谈主工添加东谈主类难以发现的水印，在后期检测中通过水印筛选出AI生成的作品。
但是在文本中难以告成添加东谈主类不可见的水印，这是因为文本与图像和音乐不同，每一个笔墨都是透顶可见的。同期，可用于锻真金不怕火 AI 的文本数据也远多于图像和音乐。在宏大的、基于东谈主类写稿的语料库的锻真金不怕火之下，AI 如故相等擅长模拟东谈主类的抒发花样和言语风俗，甚而简略周折文本的作风和口吻，这使得 AI 生成的文本难以告成检测。
尽管 AI 生成的文本与东谈主类创作的文本难以分辨，但 AI 生成的内容可能带有事实性的无理，并不成保证可靠性。无法鉴识着手的内容可能会导致空虚信息的传播，也带来了学术舞弊、版权争议等万般问题。
比如，在“杭州取消纯真车依尾号限行”假新闻事件中，网友用 AI 时间生成的“假新闻”行文严谨、口吻措辞稳当，也基本稳当官方通报的时势，导致了无理信息大鸿沟传播。好意思国科技新闻网站 CNET 在三个月之内上线了 70 多篇用 AI 时间生成的新闻报谈，却被发现其中存在雄伟基础性无理，包括经营无理、金融想法诬陷等，不得不暂时叫停AI神情重新审核。
为了幸免 AI 时间的浪费，咱们需要一种表率鉴识文本是否由 AI 生成。
主流检测表率：预先与过后检测
检测 AI 生成的文本是一个分类问题，咱们的主要方针是鉴识一个文本片断是由 AI 生成的如故由东谈主类创作的。时时一个文本检测器关于一个给定的文本片断会给出一个评分，当这个评分特出阈值时，这个片断被觉得是 AI 生成的，反之则是东谈主类创作的。
文本检测框架（图片着手：字据参考文件 [1] 翻译）
现存的主流检测表率不错分为两大类：预先检测和过后检测。预先检测不错进一步分为基于水印的检测和基于检索的检测。过后检测不错分为基于零样本学习的检测和基于锻真金不怕火的检测。
主流检测表率分类（图片着手：字据参考文件 [1] 翻译）
1.预先检测
基于水印的检测是指在 AI 生成的文本中荫藏某些信息以便后续检测。但由于文本的糟蹋性麻豆 夏雨荷，在文本中添加水印比在图像和音乐中添加水印扰乱许多。常用的表率是让 AI 生成的文本使用特定的言语作风或者偏向性地使用某些特定的词汇，但这么可能会裁减 AI 生成文本的质料。
基于检索的表率是指 AI 办事的提供者将用户通过 AI 生成的文本保存在数据库中。当需要检测方针文本是否由 AI 生成时，将方针文本与数据库中的文本进行匹配，淌若相似度较高，则很可能是 AI 生成的。但这种表率需要保存用户数据，可能带来阴私露出的问题。
2.过后检测
基于零样本学习的检测是指不需要进行任何的锻真金不怕火，仅字据 AI 生成文本的脾性来检测一段文本是否是 AI 生成的。时时 AI 生成的文本倾向于使用常见的词汇，句子的长度和结构也愈加调处。而东谈主类创作的文本则显得愈加开合清静，每一句的水平也叨唠不王人。与东谈主类比较，AI 在牵挂细节上技艺较强而在逻辑推理上技艺较弱。运用这些脾性不错在一定进度上鉴识 AI 生成的文本和东谈主类创作的文本。
基于锻真金不怕火的检测是指使用东谈主类创作的文本和 AI 生成的文本构建一个数据集，用这个数据集锻真金不怕火一个分类器来识别 AI 生成的文本。但这需要收罗填塞的数据用于锻真金不怕火，何况跟着 AI 技艺的逾越，这么的鉴识也变得越来越扰乱。
不错看到，过后检测比预先检测要扰乱许多。为了高精度地筛选出 AI 生成的文本，在预先 AI 生成文本时就添加水印是一个很好的惩处决议。
Google DeepMind 的冲破：
SynthID-Text 水印时间
Google DeepMind 筹商团队提倡了一种新的水印生成决议，称为 SynthID-Text。它基于之前的水印生成组件，但使用了一种新的“锦标赛采样”表率。SynthID-Text 不错非扭曲（保留文实质料）或者扭曲（以糟跶文实质料为代价进步水印的可检测性）地添加水印。在扭曲和非扭曲建设下，与现存的最好表率比较，SynthID-Text 都进步了水印的检出率。
水印生成框架（图片着手：字据参考文件 [2] 翻译）
上图中展示了大言语模子生成文本的旨趣以及之前水印生成的框架。大言语模子的文本生成是基于高下文的，它会字据输入的文本序列经营下一个词汇的分散，然后从这个分散中抽样出下一个词汇。
一个生成式的水印决议时时包含三个部分：一个立时数生成器、一个采样算法以及一个评分函数。水印生成的经过是：当先使用立时数生成器字据前边的文本以及水印键生成一个立时数，然后采样算法运用这个立时数从词汇的分散中抽样出下一个词汇。给出一段文本以及一个水印键，评分函数提供一个分数来量化刻下文本中含有水印的可能性，当分数特出一个阈值时就觉得这段文本中含有水印。
锦标赛采样（图片着手：字据参考文件 [2] 翻译）
SynthID-Text 提倡了一种新的“锦标赛采样”表率，上图是锦标赛采样表率的一个例子。当向模子输入“...我最心爱的热带生果是”时，模子经营出下一个词汇的分散，其中“芒果”的概率是 0.5，“荔枝”的概率是 0.3，“木瓜”的概率是 0.15，“榴莲”的概率是 0.05。在不加水印的曩昔生成中，模子会按这个概憨告成采样出下一个词汇。
在锦标赛采样中，模子先字据立时数种子生成三个立时的水印函数，然后再从词汇的分散中采样出八个词汇，将这八个词汇两两组合后进行竞赛，在每一轮竞赛中，由一个水印函数决定每一双组合中的胜出者。经过三轮竞赛后，最终的胜出者即是模子的输出限度：“芒果”。
在锦标赛采样中，词汇是字据水印函数的偏好采样得出的。因此添加水印的文本会在水印函数上有更高的评分。在检测时只需要评估每个词汇在对应的水印函数下的评分，再将评分加和就不错获得这段文本包含水印的可能性。
水印的添加是通过改革采样表率杀青的，它会改革模子输出下一个词汇的分散，这看起来不可幸免地会影响生成文本的质料。但是，由于采样表率中使用了立时数种子，尽管在某一立时数种子下词汇的分散会被改革，但在对通盘立时数种子进行平均后不错获得和原始分散相通的限度。SynthID-Text 不错在适当的成立下幸免影响词汇的分散从而保证文本的质料，也不错以亏空一部分质料为代价提高水印的检出概率。
SynthID-Text 表率在 Google DeepMind 推出的 Gemini 东谈主工智能模子上经过了两千万次用户测试。测试限度标明 SynthID-Text 在添加水印的同期并不会裁减文本的质料。同期，SynthID-Text 不会产生太多的时间和经营支出，不错被大鸿沟地应用于坐褥施行之中。
结语
过后检测文本是否由 AI 生成黑白常扰乱的。跟着 AI 技艺的增强，过后检测会变得越来越扰乱，检测和反检测将会是无格外的时间竞赛。水印表率提供了一种可能的惩处决议，但这需要大言语模子的提供者在生成时就预先加入水印。淌若用户使用的模子莫得主动加入水印，就难以在过后进行检测。此外，用户还不错使用开源模子，或者对添加了水印的文本进行二次裁剪来逃走检测。这些问题都有待进一步惩处。
改日，跟着生成式东谈主工智能的普及，若何检测 AI 生成的内容会变得越来越迫切。SynthID-Text 表现了水印时间在文本生成中大鸿沟应用的可能性，但水印时间濒临的扰乱也证实检测并不仅仅一个时间问题。惩处这个问题还需要各方共同起劲，变成有关的行业尺度以及法律限定，从而鼓舞AI走在为东谈主类办事的正轨之上。
伪娘 户外参考文件
[1]Ghosal S S， Chakraborty S， Geiping J， et al. Towards possibilities & impossibilities of ai-generated text detection: A survey[J]. arXiv preprint arXiv:2310.15264， 2023.
[2]Dathathri， S.， See， A.， Ghaisas， S.， Huang， P. S.， McAdam， R.， Welbl， J.， ... & Kohli， P. (2024). Scalable watermarking for identifying large language model outputs. Nature， 634(8035)， 818-823.
筹谋制作
出品丨科普中国
作家丨王琛 中国科学院经营时间筹商方位读博士
审核丨于旸 腾讯玄武实验室认真东谈主
监制丨中国科普博览
责编丨钟艳平
审校丨徐来 林林