新闻动态

比年来，生成式东谈主工智能在文本、图像、音乐等领域大放异彩。可是，跟着生成式东谈主工智能变得越来越苍劲，东谈主们越来越难以鉴别 AI 生成的内容。

近日，Google DeepMind 盘算团队在《当然》（Nature）上发表的封面著述提供了一种文本水印决议，不错提高 AI 生成文本的检测精度。

图库版权图片，转载使用可能激发版权纠纷

AI 生成内容检测的必要性

在文本、图像和音乐中，AI 生成的文本是最难以检测的。因为现存的图像和音乐生成本领尚未像文本生成本领雷同证实，AI 生成的图像和音乐通常有某些非当然的视觉或听觉特征。AI 生成的内容在全体上成果较好，但具体到细节就显得不够当然。在图像和音乐中，也不错东谈主工添加东谈主类难以发现的水印，在后期检测中通过水印筛选出 AI 生成的作品。

可是在文本中难以径直添加东谈主类不可见的水印，这是因为文本与图像和音乐不同，每一个笔墨都是实足可见的。同期，可用于锻练 AI 的文本数据也远多于图像和音乐。在高大的、基于东谈主类写稿的语料库的锻练之下，AI 也曾很是擅长模拟东谈主类的抒发神态和话语习气，以至大要调理文本的作风和口吻，这使得 AI 生成的文本难以径直检测。

尽管 AI 生成的文本与东谈主类创作的文本难以分辨，但 AI 生成的内容可能带有事实性的差错，并弗成保证可靠性。无法鉴识开始的内容可能会导致不实信息的传播，也带来了学术舞弊、版权争议等各样问题。

比如，在"杭州取消天真车依尾号限行"假新闻事件中，网友用 AI 本领生成的"假新闻"行文严谨、口吻措辞适合，也基本适合官方通报的时局，导致了差错信息大规模传播。好意思国科技新闻网站 CNET 在三个月之内上线了 70 多篇用 AI 本领生成的新闻报谈，却被发现其中存在广大基础性差错，包括洽商差错、金融见识污蔑等，不得不暂时叫停 AI 面孔再行审核。

为了幸免 AI 本领的败坏，咱们需要一种重要鉴识文本是否由 AI 生成。

主流检测重要：预先与过后检测

检测 AI 生成的文本是一个分类问题，咱们的主要主义是永诀一个文本片断是由 AI 生成的如故由东谈主类创作的。频繁一个文本检测器关于一个给定的文本片断会给出一个评分，当这个评分卓绝阈值时，这个片断被以为是 AI 生成的，反之则是东谈主类创作的。

文本检测框架（图片开始：证据参考文件   [ 1 ]   翻译）

现存的主流检测重要不错分为两大类：预先检测和过后检测。预先检测不错进一步分为基于水印的检测和基于检索的检测。过后检测不错分为基于零样本学习的检测和基于锻练的检测。

主流检测重要分类（图片开始：证据参考文件   [ 1 ]   翻译）

1

预先检测

基于水印的检测是指在 AI 生成的文本中狡饰某些信息以便后续检测。但由于文本的破裂性，在文本中添加水印比在图像和音乐中添加水印贫穷许多。常用的重要是让 AI 生成的文本使用特定的话语作风或者偏向性地使用某些特定的词汇，但这么可能会裁汰 AI 生成文本的质地。

基于检索的重要是指 AI 管事的提供者将用户通过 AI 生成的文本保存在数据库中。当需要检测主义文本是否由 AI 生成时，将主义文本与数据库中的文本进行匹配，如若相似度较高，则很可能是 AI 生成的。但这种重要需要保存用户数据，可能带来狡饰知道的问题。

2

过后检测

基于零样本学习的检测是指不需要进行任何的锻练，仅证据 AI 生成文本的特质来检测一段文本是否是 AI 生成的。频繁 AI 生成的文本倾向于使用常见的词汇，句子的长度和结构也愈加长入。而东谈主类创作的文本则显得愈加开合放心，每一句的水平也错落不王人。与东谈主类比较，AI 在记念细节上技艺较强而在逻辑推理上技艺较弱。哄骗这些特质不错在一定进度上永诀 AI 生成的文本和东谈主类创作的文本。

基于锻练的检测是指使用东谈主类创作的文本和 AI 生成的文本构建一个数据集，用这个数据集锻练一个分类器来识别 AI 生成的文本。但这需要集会阔绰的数据用于锻练，况且跟着 AI 技艺的高出，这么的永诀也变得越来越贫穷。

不错看到，过后检测比预先检测要贫穷许多。为了高精度地筛选出 AI 生成的文本，在预先 AI 生成文本时就添加水印是一个很好的责罚决议。

Google DeepMind 的打破：

SynthID-Text 水印本领

Google DeepMind 盘算团队提议了一种新的水印生成决议，称为 SynthID-Text。它基于之前的水印生成组件，但使用了一种新的"锦标赛采样"重要。SynthID-Text 不错非扭曲（保留文实验量）或者扭曲（以就义文实验量为代价普及水印的可检测性）地添加水印。在扭曲和非扭曲成立下，与现存的最好重要比较，SynthID-Text 都普及了水印的检出率。

水印生成框架（图片开始：证据参考文件   [ 2 ]   翻译）

上图中展示了谎言语模子生成文本的旨趣以及之前水印生成的框架。谎言语模子的文本生成是基于坎坷文的，它会证据输入的文本序列洽商下一个词汇的散播，然后从这个散播中抽样出下一个词汇。

一个生成式的水印决议频繁包含三个部分：一个飞速数生成器、一个采样算法以及一个评分函数。水印生成的流程是：最初使用飞速数生成器证据前边的文本以及水印键生成一个飞速数，然后采样算法哄骗这个飞速数从词汇的散播中抽样出下一个词汇。给出一段文本以及一个水印键，评分函数提供一个分数来量化现时文本中含有水印的可能性，当分数卓绝一个阈值时就以为这段文本中含有水印。

锦标赛采样（图片开始：证据参考文件 [ 2 ] 翻译）

SynthID-Text 提议了一种新的"锦标赛采样"重要，上图是锦标赛采样重要的一个例子。当向模子输入" ... 我最可爱的热带生果是"时，模子洽商出下一个词汇的散播，其中"芒果"的概率是 0.5，"荔枝"的概率是 0.3，"木瓜"的概率是 0.15，"榴莲"的概率是 0.05。在不加水印的平日生成中，模子会按这个概坦荡接采样出下一个词汇。

在锦标赛采样中，模子先证据飞速数种子生成三个飞速的水印函数，然后再从词汇的散播中采样出八个词汇，将这八个词汇两两组合后进行竞赛，在每一轮竞赛中，由一个水印函数决定每一双组合中的胜出者。经过三轮竞赛后，最终的胜出者即是模子的输出浪漫："芒果"。

在锦标赛采样中，词汇是证据水印函数的偏好采样得出的。因此添加水印的文本会在水印函数上有更高的评分。在检测时只需要评估每个词汇在对应的水印函数下的评分，再将评分加和就不错获得这段文本包含水印的可能性。

水印的添加是通过改换采样重要完了的，它会改换模子输出下一个词汇的散播，这看起来不可幸免地会影响生成文本的质地。可是，由于采样重要中使用了飞速数种子，尽管在某一飞速数种子下词汇的散播会被改换，但在对扫数飞速数种子进行平均后不错获得和原始散播疏通的浪漫。SynthID-Text   不错在安妥的配置下幸免影响词汇的散播从而保证文本的质地，也不错以亏蚀一部分质地为代价提高水印的检出概率。

SynthID-Text 重要在 Google DeepMind 推出的 Gemini 东谈主工智能模子上经过了两千万次用户测试。测试浪漫标明 SynthID-Text 在添加水印的同期并不会裁汰文本的质地。同期，SynthID-Text 不会产生太多的时期和洽商支拨，不错被大规模地应用于分娩引申之中。

结语

过后检测文本是否由 AI 生成口舌常贫穷的。跟着 AI 技艺的增强，过后检测会变得越来越贫穷，检测和反检测将会是无荒谬的本领竞赛。水印重要提供了一种可能的责罚决议，但这需要谎言语模子的提供者在生成时就预先加入水印。如若用户使用的模子莫得主动加入水印，就难以在过后进行检测。此外，用户还不错使用开源模子，或者对添加了水印的文本进行二次裁剪来逃走检测。这些问题都有待进一步责罚。

将来，跟着生成式东谈主工智能的普及，奈何检测 AI 生成的内容会变得越来越蹙迫。SynthID-Text 讲解了水印本领在文本生成中大规模应用的可能性，但水印本领濒临的贫穷也讲解检测并不仅仅一个本领问题。责罚这个问题还需要各方共同致力于，酿成干系的行业范例以及法律端正，从而鼓励 AI 走在为东谈主类管事的正轨之上。

参考文件

[ 1 ] Ghosal S S, Chakraborty S, Geiping J, et al. Towards possibilities & impossibilities of ai-generated text detection: A survey [ J ] . arXiv preprint arXiv:2310.15264, 2023.

[ 2 ] Dathathri, S., See, A., Ghaisas, S., Huang, P. S., McAdam, R., Welbl, J., ... & Kohli, P. ( 2024 ) . Scalable watermarking for identifying large language model outputs. Nature, 634 ( 8035 ) , 818-823.

谋划制作

出品丨科普中国

作家丨王琛 中国科学院洽商本领盘算场所读博士

审核丨于旸 腾讯玄武实验室谨慎东谈主

监制丨中国科普博览

责编丨钟艳平

审校丨徐来 林林

干系推选

1.石头尽然长出了头发？！不外真比较你思的更可怕……

2."多喝水"确切有效！最新盘算披露：多喝水有助于减肥、诊疗肾结石……

3.为什么女性总爱喊疼？真不是矫强，而是……

4.冬天必吃的至人菜！养分好吃还抗癌，招待我一定要试试

5.为什么我不建议你，凡事都和伴侣"掏心掏肺"？

本文封面图片及文内图片来自版权图库

转载使用可能激发版权纠纷

原创图文转载请后台修起"转载"

点亮"在看"

沿路涨常识！

尊龙体育网