AI 人性化工具真的有效吗?
几乎每个针对这个问题排名靠前的页面,都是由一家要出售人性化工具的公司所销售。这里改为说明机制:这些工具实际上改变了什么,为什么其中一些变化会影响检测器的分数,而另一些不会,以及激进改写会在含义和引文方面带来什么风险。
在搜索栏中输入“do ai humanizers work”,几乎每一个给出答案的页面都在销售这类工具。这并不是阴谋,只是一个显而易见的激励机制:开发重写工具的公司不会先讲它失效的情形。实际情况介于两者之间,这取决于“work”是什么意思。AI humanizer 工具会改变段落的某些具体、可测量的属性。其中一些变化会影响检测器的分数,另一些则不会。还有一些变化会以段落实际表达的内容为代价。
AI humanizer 是一种将 AI 生成文本改写为改变其统计指纹的工具, 例如用词、句长、标点习惯,以及检测器实际测量的那些属性。某个具体的 humanizer 是否适合用于有评分的作业,或者它与普通的释义工具相比如何,是各自独立的问题,也有各自的答案。这里的问题更窄一些, 重写在机械层面究竟做了什么,以及这种机制的哪些部分 वास्तव上会影响分数。
这不是测试结果。TextPulse 并没有对 humanizer 工具做过受控比较, 而且即使做过,轶事性的胜利也几乎没有什么意义。不过,理解其机制仍然有帮助, 也就是当你通过某些操作去改变段落时会发生什么,为什么其中一些会影响分数而另一些不会,以及为了换取更低的数值你承担了什么风险。下文依据关于检测器如何被规避的已发表研究,以及其他媒体自身发布的测试,来解释这一机制, 即段落中哪些内容发生变化,为什么其中一些会影响分数而另一些不会,以及一次大幅重写为了换取更低数值所带来的风险。
AI humanizer 实际改变了什么
市场上的每一种 humanizer 都会以某种组合方式做三件事, 将单个词替换为更不易预测的同义词, 重排或合并句子以打破长度的均一性, 以及偶尔整体改写一段文字, 而不是只做局部调整。第一种几乎只是表面修饰。第二种最为重要, 因为句长变化, burstiness, 是大多数检测器在给出分数之前计算的两个指标之一, 另一个是词语选择在每一时刻有多可预测。
这种差异在一个句子中就能看出来。"The study employed a robust methodology" 如果逐词替换, 就会变成 "The study used a strong approach," 这样读起来稍微更自然一些, 但句子的形态几乎没有变化。若重构后, 它会变成 "Because the sample skewed young, the researchers ran a mixed-methods design rather than a single survey." 这就有了不同的长度, 不同的从句结构, 以及对试图预测后续内容的模型来说不同程度的意外性。只有第二个版本触及了检测器被设计用来测量的信号。
这种区别并非理论问题。检测器并不是在读取意义。它是在评估一段文字与语言模型本会生成的模式有多接近, 而这正是我们关于 how to humanize AI text 的指南所教你手动打破的模式, 一次处理一个句子。humanizer 工具只是在更大规模上, 一次性完成同一类工作。
这些变化中,哪些实际上会改变分数
最清楚的证据来自研究人员,他们构建了一个专门的改写模型 DIPPER,专门用来测试这类攻击。将其用于 DetectGPT,一种经过充分研究的检测方法时,DIPPER 的改写在固定 1 percent 假阳性率下,将检测准确率从 70.3 percent 降至 4.6 percent,而研究人员报告称,这些重写并未明显改变源文本的含义。这是一个经过测量的效果,不是营销说法, 在句子层面重组一段文字,可以让分数发生很大幅度的变化。
这就是该结果与商业 humanizer 营销页面之间的差距。这也是为什么不同工具之间,以及审阅这些工具的人之间,结果会如此不同的主要原因。DIPPER 是一个研究模型。它是在受控条件下构建和测试的,用来评估某一个公开记录的检测器。所有案例都使用了相同强度的重写。浏览器中的工具做的是同一类编辑, 词语替换和句子重组。但它并不具备研究论文那样对另一端检测器或对重写质量的同等控制。
将你自己的论文人性化
改写你的 AI 辅助文本,使其听起来更像人工写作,同时不改动重要词语或引文。
为什么在一个检测器上的较低分数不会迁移到另一个检测器
检测器并不是从同一个参照点测量同一件事。关于 AI detectors 如何工作 的配套文章已经完整说明了其机制,但这里相关的要点很简单, 每个检测器都是相对于其自身的参考模型来评分的,因此,一个对某个检测器看起来不可预测的编辑,对另一个检测器仍然可能看起来很普通。
研究人员对一系列商业和开源检测器进行了压力测试,测试内容包括编辑、改写、提示以及组合攻击,结果发现性能平均下降了35 percent,但并不均匀。他们的结论是,几乎没有任何检测器能在每一种攻击类型下保持稳健,而且每一种都有不同且具体的漏洞,而不是某种共同的弱点。对单一 humanizer 的真实世界测试说明了同样的模式, 同一段改写后的段落在两个不同的检测器上都得到了100 percent AI,在第三个检测器上仍然是100 percent,在第四个检测器上则降至88 percent,这些结果都来自对同一工具的一次处理。
激进改写的代价
该类别的营销很少提及大幅改写另一侧的失败模式, 一种工具如果改变句子的幅度足以移动分数,也可能改变到足以丢失要点。某媒体将同一段 AI 生成的段落依次通过十种不同的 humanizer 工具,并将结果与原文核对。若干工具生成的句子已经无法被解析为英语。一个工具把指令“Tap your Apple ID”改写成了“Faucet your Apple ID.”。另一个把“Understanding LinkedIn Premium”变成了“Grasping LinkedIn Premium,”,审阅者指出这“根本没有传达相同的意思”。他们的总体结论是,这些工具“似乎完全没有理解整篇文章整体含义的能力”。
学术写作对这种失败的容忍度远低于产品博客文章。一个语气缓和词被替换成更强的断言,“may indicate”被改写为“shows”,会改变引文实际上是在支持什么内容,而围绕引语重排句子则可能把引文与它原本紧邻的主张分开。一个in-text citation fixer可以把已经从句子中偏移的引文重新放回原位,而不会凭空编造原始来源从未支持的细节,但它无法告诉你该主张本身是否仍然符合该来源所说的内容。无论如何,含有大量引文的部分都值得手工检查。
| 编辑类型 | 对检测器分数的典型影响 | 可能出错的地方 |
|---|---|---|
| 将单个词语替换为同义词 | 较小,通常处于检测器的正常噪声范围内 | 一个缓和词可能会变成比原文所支持的更强的主张 |
| 重新排序或合并句子 | 影响最大,也最稳定,这正是 burstiness 所衡量的内容 | 一个引文可能最终与它原本紧邻的主张脱离 |
| 整体改写一段文字 | 在该工具所针对的检测器上影响很大,在其他地方则不可预测 | 输出无法再被解析为完整句子的风险最高 |
| 添加填充内容,例如零散的拼写错误或插话 | 几乎没有,或完全没有, 这只是表面修饰,不是结构性改变 | 对人类读者来说显得人为,但并未修正底层模式 |
那么,AI humanizers 有效吗?
上面的证据实际上表明,humanizers 确实会可靠地改变检测器所测量的统计特征,这是一种真实的机械性影响,而不是营销说法。它们并不能可靠地保证通过任何特定的检测器,因为检测器之间本来就会彼此不一致,而且工具为了追求这种保证而越激进地改写,就越可能在过程中损失一些意义。
"humanizers 有效吗" 其实是一个句子里装着三个问题, 工具是否改变了模式,这种改变是否能在你关心的特定检测器上保留下来,以及句子是否仍然表达了你的本意。第一个问题的答案通常是肯定的,以上证据如此表明。后两个问题取决于工具、检测器,以及这次处理运行得有多激进。
TextPulse 的 AI 人性化工具建立在这种权衡之上,而不是建立在一种承诺之上。它会重写文档,并报告一个估算的 Human Score,这个分数是根据检测器使用的相同信号计算得出的,其中包括句子节奏和词语可预测性,而不是声称任何指定的检测器都会通过。之所以专门提供免费方案,正是为了让你在决定上表中的这种权衡是否值得用于完整文档之前,能够逐行查看一次通过实际上会改变什么。
能否正常工作与是否安全可用是两个不同的测试,安全性问题也有单独的页面。更尖锐的版本也是如此, Turnitin 在遇到人性化文本时会做什么。
值得信任的工具,是那些会向你展示哪些内容发生了变化并允许你核查的工具,而不是那些要求你相信着陆页上某个百分比的工具。在提交任何内容之前,先将重写后的段落与原文对照阅读,就像你会检查研究助理的初稿一样,因为从功能上说,人性化工具就是这样的东西。
常见问题
AI 人性化工具真的足以可靠地保证通过吗?没有任何单一工具能够确定地这样说。人性化工具会改变句子结构和词语可预测性,而这正是检测器衡量的信号,因此分数往往会下降,但检测器彼此之间本来就会有分歧。变化是否能在你关心的特定检测器上保留下来,是一个与是否发生变化本身不同、也更难预测的问题。
Content strategist at TextPulse, here since the company started. Mark writes the product and technical coverage: how the humanizer works under the hood, what changes in each release, and what a specification actually means for your writing. His reviews of writing software come from using them on real documents rather than reading a feature list.