AI Humanizer 比较研究:同一学术文本发生了什么
TextPulse Research 将同样的48篇学术文本交给每个 humanizer 处理,并对每个输出进行评分。工具改动了什么,保留了什么,以及 TextPulse 的表现如何。
在我们的 AI humanizer 比较研究中,每个 humanizer 都将同样的 48 篇学术文本调整为更接近人类写作风格的文本,而这些工具的最大差异在于它们保留了什么。有些工具尽量保留了原文的含义、引文和数字。另一些则添加了虚构的数字和姓名,或引入了新的语法错误,而这些输出往往正是被检测器标记为人类写作的那些。
TextPulse Research 于 2026 年 8 月开展了这项 AI humanizer 比较研究,并于 8 月 29 日将其作为工作论文发表。TextPulse 是其中的工具之一,因此每个工具都接收了相同的输入,每一项测量都是公开脚本。完整工作论文包含所有表格、图和脚本,全部 432 篇改写文本也已公开。
AI humanizer 比较研究测试了什么
该研究向每个 humanizer 提供了相同的 48 篇文本。每篇文本都是一项虚构实证研究的结果与讨论部分,由 AI 模型撰写,长度约为 301 词。四个模型家族各写了 12 篇文本,分别来自 OpenAI、Google、DeepSeek 和 Anthropic。文本涵盖四个学科和三种引文格式,因此每个工具都遇到了必须保留的数字、作者姓名和参考标记。
| 设计的组成部分 | 研究所使用的内容 |
|---|---|
| 源文本 | 48 篇 AI 撰写的结果与讨论部分,每篇 264 到 344 词 |
| 撰写者 | 分别来自 OpenAI、Google、DeepSeek 和 Anthropic 模型的 12 篇文本 |
| 学科 | 医学与健康、物理与计算科学、社会科学、人文学科 |
| 引文格式 | APA 作者年份制、数字方括号、无引文 |
| 文本中核查的事实 | 404 个技术术语、887 个数字、124 条引文 |
| 每个工具的运行方式 | 以默认设置粘贴一次到其网页中,输出按返回结果保留 |
| 日期 | 2026 年 8 月 26 日至 28 日 |
| 检测器 | Turnitin,每个工具一份文档,以及 GPTZero,每篇文本单独检测 |
人性化工具的工作是改写 AI 输出,因此这项研究从带有已核实事实清单的 AI 输出开始。在任何改写之前,每个模型都列出了它所使用的术语、数字和引文。将每一项已列出的内容与文本进行比对,凡是文本中缺失的项目都被删除。这样,每篇文本都留下了一份固定清单,因此研究可以准确统计每个人性化工具保留、修改或编造了什么。
每篇文本都只进入每个工具网页一次,使用该工具的默认设置,输出则按返回时的原样保存。没有人编辑任何输出。由于免费层限制了一个工具可处理的文本数量,有些工具处理的文本少于 48 篇。24 篇文本的核心集合对每个工具都相同,顺序也相同。TextPulse 处理了全部 48 篇。
研究如何测量人性化文本
检测器分数告诉你,某篇文本在某一天对某个检测器来说看起来如何。它并不能说明改写是否仍然报告相同的结果。该研究首先对每个输出就文本本身进行评分,然后再就检测器进行评分。对于学生或研究人员来说,拥有一篇仍然如数据所示那样陈述内容的论文很重要,而且其行文听起来像是人写的。
| 指标 | 它检查什么 | 它在论文中为何重要 |
|---|---|---|
| 含义 | 改写与来源文本的接近程度,作为从 0 到 1 的相似度分数 | 较低的分数表示该段现在表达了别的内容 |
| 保留的引文 | 正文引文中仍然保留、且作者和年份相同的比例 | 年份变动会破坏与参考文献表的对应关系 |
| 保留的数字 | 检查过的数字中仍留在文本中的比例 | 样本量或 p 值的丢失会改变结果 |
| 虚构项目 | 输出中源文本从未出现过的数字和名称 | 虚构的数值是关于研究的虚假陈述 |
| 新增语法错误 | 每 1,000 词新增的错误数,使用 LanguageTool 统计 | 错误会降低分数并削弱审稿人的信任 |
| 阅读等级 | Flesch-Kincaid 等级的变化 | AI 文本的等级高于已发表的人类散文 |
| 文体位置 | 文本在典型人类写作与典型 AI 写作之间的位置 | 文体计量检测器会对这些特征作出反应 |
| 长度 | 输出长度相对于来源文本的比例,0.70 到 1.30 倍计为保留 | 将文本减半的工具已经删去了内容 |
文体位置来自 TextPulse 开发的一个量表,该量表基于 121,092 篇学术文本中的 47 个文体特征构建而成,(见我们的 文体计量分类论文)。典型的人类学术文本位于 0,典型的 AI 文本位于 100。我们将人类文本的中间一半,(-36 到 33)称为人类范围。
词汇是根据我们 AI 词汇论文中的 1,057 个词的列表进行评分的。其中,581 个是 AI 模型比人类更常使用的词,476 个则倾向于相反方向。该研究统计了每个工具每 1,000 词删除了多少个偏向 AI 的词。
每个 humanizer 对文本做了什么
研究中的每一种工具都将其输出向风格量表的人类端移动。未经处理的 AI 文本平均为 138,超过了典型 AI 文本的 100。经过改写后,有些工具达到了人类范围,另一些则停留在大约中途。每一种工具也都去除了偏向 AI 的词汇,并降低了阅读年级,因此变化方向在整个领域中是一致的。
最能推动文本沿量表移动的有两类特征。第一对是平均词长和长词比例。将 "help" 改写为 "facilitate" 会使文本更像 AI,因为它增加了平均词长,也增加了长词比例。第二类是句长的变化,这会推动文本向人类端移动。若一个段落中的所有句子都在 22 到 26 个词之间,那么它就显得平板;而一个把 9 词句与 31 词句混合在一起的段落则更具变化。
其目的在于达到更低的阅读年级。AI 撰写的学术文本的 Flesch-Kincaid 年级高于已发表的人类学术散文。因此,如果它下降了,就会使写作更接近研究者所写的那种朴素风格。这正是文体统计检测器所响应的内容。这些变化也会使草稿更易阅读。只要内容保持完整,这两个目标就是一致的。
我们关于 humanizers 如何改变一个句子 的文章逐句展示了这些编辑。该研究补充了测量结果, 即每一项变化使文本移动了多远,以及它在意义和事实方面付出了什么代价。
工具之间的差异:意义、引文和数字
这些工具在保留率方面存在差异。例如,在整个研究中,保留的引文比例介于 29% 到 100% 之间。每个输出中出现了 0.06 到 4.44 个虚构项目。每 1,000 词中出现了 0.65 到 4.91 个新的语法错误。虚构项目包括样本量、百分比、置信界限、作者姓名和源文献从未提及的机构。
名称和单位以更隐蔽的方式丢失了。当某个工具改写一项统计数据时,它常常会删去单位,因此 "Cohen's d" 变成了效应量,而 "Celsius" 变成了度。作者姓名连同其引文一起丢失了。物种、时代和仪器名称被替换成了描述。想要核查结果的读者需要这些名称,因此这些损失都应计入。
改写深度和忠实度朝相反方向作用。一个改动三分之一词语的工具更容易保留意义。一个改动大多数词语的工具更有可能丢失某些内容。被改动的词语比例在 35 到 68% 之间。研究者想要的结果是深度改写,同时仍然保留意义。这种组合很少见。
该研究还寻找隐藏字符, 即不可见字符、非标准空格,以及来自西里尔字母或希腊字母表的形似字母。有些 humanizers 会添加这些字符来改变 detector 的结果。本研究中的任何工具都没有添加这些字符,因此没有任何输出因此未通过质量门槛。
将你自己的论文人性化
改写你的 AI 辅助文本,使其听起来更像人工写作,同时不改动重要词语或引文。
为什么单独的 detector 结果是一个较弱的 humanizer 基准
单靠检测器结果本身并不能构成完整的人性化工具基准。在这项 AI 人性化工具比较研究中,GPTZero 最常判定为人类的输出,往往来自那些编造了更多数字和名称、删除了更多引用或加入了更多语法错误的工具。改变检测器估计值最简单的方法,就是改变文本本身所说的内容。这样的改写反而会让它原本想帮助的论文不合格。
为了同时衡量两个方面,研究设定了一个质量门槛。要通过该门槛,输出需要至少 0.95 的意义分数,并保留至少 90% 的引文。它还需要没有编造的数字或名称,没有隐藏字符,并且长度在容差范围内。随后,GPTZero 的 human 标记只对通过门槛的输出计入。对每个工具而言,这一门槛都是相同的。
每个工具的输出都放入一个文档中,每页一篇文本。该研究对该文档使用了 Turnitin 的 one AI percentage。对于低于 20% 的情况,Turnitin 使用星号而不是数字。检测器的结果是研究日期时某一检测器版本给出的估计值。我们在关于Turnitin AI 分数含义的指南中写到了如何阅读你的 Turnitin AI 分数。
TextPulse 在 humanizer 比较中的表现
TextPulse 在该研究的综合指数中排名第一, 该指数对重写深度、含义、风格位置、语法和内容完整性赋予相同权重。TextPulse 在这五项指标上的得分为 0.811,加入门控检测器指标后为 0.843。它表现良好,因为没有任何薄弱指标。它重写了每篇文本的一半以上,并保留了论文所依赖的事实。
| 指标 | TextPulse 结果 |
|---|---|
| 更改的词数 | 52% |
| 保留的含义, 与来源的相似度 | 0.971,约 97 % |
| 保留的引文 | 99% |
| 保留的数字 | 87% |
| 保留的命名实体 | 95% |
| 新增的语法错误 | 每 1,000 words 0.65, 为研究中最少 |
| 虚构项目 | 每个输出 0.48, 即每 50 个输出中有 1 个输出出现虚构名称 |
| 阅读年级 | 降低 3.6 个年级,降幅最大 |
| 移除的 AI 倾向词 | 每 1,000 words 39 个,为研究中最多 |
| 风格位置 | 29, 处于人类范围内 |
| 在长度容差内的输出 | 48 个中的 47 个 |
| 通过质量门槛的输出 | 67% |
| Turnitin AI 分数, 所有输出合并为一个文档 | 24%, 为研究中最低, 并列 |
| 通过门槛的输出上的 GPTZero human label | 10.4% (5 of 48), 为研究中最高 |
对于学术用途,最重要的是两个结果。在至少改动了一半词语的工具中,TextPulse 最好地保留了含义。在含义得分达到 0.97 或更高的工具中,它改动的词语最多。研究中没有其他工具同时属于这两组。学术写作的人性化工具需要这种组合,因为轻度改写会保留 AI 风格,而会删去事实的深度改写会改变研究结果。
GPTZero 将 48 个 TextPulse 输出中的 9 个标记为人类撰写,其中 5 个也通过了质量门槛,这是研究中通过门槛的最高结果。TextPulse 输出的 Turnitin 文档得分为 24% AI,并列最低分。其他文档的得分从 28 到 74% 不等。检测器结果只是估计值,因此研究将它们与文本指标并列报告。
该研究不能告诉你的内容
AI 人性化工具比较研究列出了其自身的局限。文本由 AI 模型根据固定提示写成,而真实草稿更长,也不那么一致。每个工具只运行一次,使用其默认设置,时间为 2026 年 8 月 26 日至 28 日之间。供应商会更新其工具,因此这些结果只描述这些日期,应当被视为一个快照。
不同工具拥有不同数量的文本,因为它们受限于该工具将处理的免费文本数量上限。这也导致文本较少的工具具有更大的置信区间。Turnitin 为每篇文档生成一个得分,因此没有每个文本的得分分布。GPTZero 是一个检测器,一个模型版本(2026-08-09-base)。
TextPulse 制作了这项研究,也是其中的工具之一。每个工具都获得了相同的输入。按照方案,所有指标都是公开可用的脚本,所有原始结果都已共享。这意味着任何人都可以重新运行这些数值,或者以不同方式加权。源文本、全部 432 个输出、检测器回复和脚本都是公开的。
如何将这些发现用于你自己的草稿
这些发现可以转化为一个简短检查,你可以在任何人性化工具之后运行,包括我们的工具。将输出与你的草稿进行比较,关注研究所统计的那些内容。对于单个部分,这只需要几分钟。
- 检查草稿中的每一个数字,包括样本量、百分比、p值和置信区间。
- 检查每一处文内引文的作者和年份是否一致,然后将其与参考文献列表对应起来。
- 查找发生变化的名称,包括仪器、物种、数据集、单位和作者姓名。
- 阅读是否存在被加强的论断,例如将“may indicate”改写为“shows”。
- 比较长度。输出如果明显短于原文,很可能遗漏了内容。
- 大声朗读文本,以发现改写新增的语法错误。
长度是这些检查中最快的一项。在该研究中,输出长度介于原文长度的0.70倍到1.30倍之间被视为保留。TextPulse将48个输出中的47个保持在这一范围内,平均为原文长度的1.14倍,因此其输出比草稿略长。
引文是最耗时的人工检查项目。在该研究中,TextPulse保留了其中99%,其变化体现在呈现方式上,例如将括号式引文改为叙述式引文。我们关于保留引文的 AI humanizer的文章说明了在你自己的参考标记中应当关注什么。
免费 burstiness 检查器衡量草稿中句子长度的变化程度。句子长度的变化是该研究量表偏向人类写作的特征之一。关于带价格的排名指南,请参阅我们的适用于学术写作的最佳 AI humanizer指南。当你准备改写时,TextPulse AI humanizer旨在保留你的数字、名称和引文,并为结果报告一个估计的 Human Score。
常见问题
AI humanizer 比较研究是 TextPulse Research 于2026年8月发表的一篇工作论文。它将同样的48篇 AI 写作的学术文本以默认设置送入每个 humanizer,并对432个输出在含义、引文、数字、虚构事实、语法、风格以及两个检测器方面进行评分。文本、输出和脚本均为公开。
PhD in natural language processing, with years spent building NLP applications end to end. Moe works on text analysis: lexical and syntactic structure, and what separates machine-generated prose from human prose statistically. He has been experimenting with computational linguistics since the early days of NLTK, spaCy and WordNet, and still writes most of his tooling in Python.