Почему текст AI обнаруживается? Реальные причины

Если попросить языковую модель завершить предложение "The weather today is," она не будет пытаться выбрать цвет вроде "cerulean" или "apocalyptic." Вместо этого она, скорее всего, попытается сказать "sunny," "cloudy," или "nice," потому что именно эти слова чаще всего следовали за этой фразой в тех данных, на которых она обучалась. Программное обеспечение, которое выбирает следующее слово в предложении, было спроектировано так, чтобы отдавать предпочтение именно такому ответу.

Почему текст AI обнаруживается? Потому что то же самое предпочтение, которое выбирает 'sunny' вместо 'cerulean', проходит через весь документ, слово за словом, и в результате текст оказывается в более узкой полосе возможных вариантов письма, чем та, в которой обычно находится человек. Детектору не нужно уличать во лжи. Ему достаточно заметить, что фрагмент снова и снова попадает в эту узкую полосу.

Все, что следует далее, не требует формулы. Механизм основан на одной идее, повторяющейся на трех разных уровнях: выборе слов, структуре предложения и конкретной детали, к которой автор тянется, не задумываясь. Каждый из этих уровней связан с более широким вопросом о how AI detectors actually work, и каждый из них легче увидеть, когда названа первопричина.

Почему текст AI обнаруживается? Краткий ответ

Текст AI обнаруживается потому, что процесс декодирования, который превращает предсказания модели в готовые предложения, устроен так, чтобы на каждом шаге отдавать предпочтение наиболее вероятным словам, а последовательное применение этого принципа на протяжении тысяч слов создает письмо, которое занимает более узкий участок языкового пространства, чем обычно занимает человек. Статистический инструмент может выявить эту узость даже тогда, когда каждое предложение грамматически безупречно и фактически точно.

Из этой одной причины следуют три признака. Словарь сужается до самого безопасного общеупотребительного слова. Структура предложений сужается до нескольких предпочитаемых форм. А конкретный, слегка маловероятный выбор, который человек делает почти рефлекторно, странное слово, отступление, деталь, которую ничего не стоит включить и все стоит предсказать, как правило, вообще не появляется.

Как языковая модель выбирает свое следующее слово

Если оставить языковую модель без вмешательства, она просто выдала бы свой полный ранжированный список возможных следующих слов и позволила бы чему-то другому сделать выбор. На практике стратегия декодирования автоматически делает этот выбор, слово за словом, и то, какая именно стратегия используется, меняет вид выходного текста даже тогда, когда сама модель не меняется.

Жадное декодирование всегда выбирает единственное наиболее вероятное слово. В статье, где nucleus sampling был предложен как решение, Ari Holtzman и соавторы отметили, что следование этой стратегии приводит к тексту, который, по их собственным словам, "скучный и странно повторяющийся". Beam search, который отслеживает сразу несколько вероятных продолжений, прежде чем остановиться на одном, сталкивается с похожей версией той же проблемы.

Стратегии сэмплирования вновь вводят некоторую случайность, но в контролируемой форме. Температура регулирует, насколько резко модель предпочитает собственные наиболее вероятные варианты до того, как выбирается слово. Nucleus sampling, иногда называемый top-p, обрезает распределение до наименьшего набора слов, чья совокупная вероятность превышает порог, и выбирает только из этого набора, который в исходной статье описывается как выборка из динамического ядра распределения, а не из его ненадежного хвоста.

Даже наименее детерминированная из этих настроек все равно выбирает из короткого списка, построенного вокруг того, что модель уже считает вероятным. Человеческое письмо никогда не создавалось путем ранжирования словаря и выбора из его верхней части, поэтому оно постоянно выходит за пределы этого короткого списка. Смысл иногда живет в слове, которого никогда не было в списке.

Плоскость словаря: меньшее число более безопасных слов

Плоскость словаря, это словесный уровень той же привычки. В каждой точке предложения десятки слов могли бы правдоподобно его продолжить, но несколько слов заметно выше остальных в ранжировании модели, и декодирование снова и снова останавливается именно на этой группе. Если умножить этот выбор на каждое предложение в документе, диапазон реально использованных слов заметно сужается по сравнению с текстом человека сопоставимой длины.

Эффект накапливается, а не остаётся постоянным. Модель, которая в первом предложении тянется к слову с самым высоким рангом, с большей вероятностью выстроит контекст, в котором слово с самым высоким рангом во втором предложении тоже будет распространённым, потому что распространённые слова обычно следуют за распространёнными словами. Человек-писатель постоянно прерывает этот дрейф, выбирая конкретный технический термин, чуть более необычный глагол, слово, которое называет саму вещь, а не её безопасное приближение. Это различие проявляется как измеримо меньший рабочий словарь в сгенерированной версии, даже когда обе версии описывают одни и те же базовые факты.

Это свойство всего фрагмента, а не какого-то одного выбора слова. Одно безопасное слово ничего не доказывает. Страница таких слов, когда предложение за предложением тянется к одному и тому же рангу распространённой лексики, это и есть то, что словесный сигнал детектора на уровне слов действительно предназначен замечать.

Синтаксическая однородность: одни и те же формы, повторяющиеся

Синтаксическая однородность, это версия на уровне предложения. Речь идёт не о том, насколько длинным является предложение. Речь идёт о том, сколько различных грамматических форм использует фрагмент: как начинаются предложения, как придаточные присоединяются друг к другу, как часто переходное слово выполняет работу по соединению одной идеи с другой. Модель, которая продолжает предсказывать статистически вероятную следующую структуру, закрепляется в небольшом наборе форм и повторяет его.

Абзац может различаться по длине предложений и всё же читаться как синтаксически плоский, если каждое предложение следует одной и той же схеме подлежащее-сказуемое-дополнение, начинается с одного и того же типа перехода или разрешается одинаковым образом. Предсказуемость заключена в шаблоне, а не в количестве слов, и это различие подробнее рассматривается в руководстве к тому, что на самом деле измеряет burstiness.

Что сужает диапазон	Что обычно делает текст, оптимизированный для декодирования	Что обычно делает человеческое письмо
Выбор слов	Останавливается на наиболее вероятном общеупотребительном слове на каждом шаге	Тянется к конкретному или менее распространенному слову, которое называет саму вещь
Начало предложения	Повторяет небольшой набор безопасных переходных начал	Варьирует то, как начинается предложение, включая начала, которые модель сочла бы менее вероятными
Структура придаточных частей	Повторяет одну или две предпочтительные грамматические модели на протяжении отрывка	Смешивает простые и сложные структуры в зависимости от того, что требуется предложению

Выбор, который обычно делает только человек

Обратная сторона узкого диапазона состоит в том, что выходит за его пределы. Человек, описывающий реальные события, тянется к точной цифре вместо округленной, признает ту часть, которая не сработала, прерывает предложение, чтобы исправить его в ходе мысли, или выбирает слово, которое является правильным, а не типичным. С точки зрения языковой модели каждый такой выбор является низковероятным токеном, именно тем типом, которого декодирование и призвано избегать.

Все это не означает, что конкретное или необычное письмо защищено от любого сигнала, или что беглое, корректное письмо по умолчанию подозрительно. Раздел с методами, юридическая оговорка или сильно отредактированный финальный вариант могут попасть в узкий диапазон по причинам, не имеющим ничего общего с моделью, и именно поэтому единичная оценка является описанием закономерности, а не вердиктом о том, кто это напечатал.

Полезнее увидеть, где ваш собственный черновик находится на этом диапазоне, чем гадать. Бесплатный проверщик perplexity и проверщик burstiness от TextPulse измеряют предсказуемость на уровне слов и ритм от предложения к предложению отдельно, так что плоский словарь и повторяющаяся структура предложений проявляются как два разных сигнала, а не как одно смешанное число.

Из этого следуют две более узкие страницы. Как Turnitin обнаруживает AI в частности является одной из них, а разница между его показателем сходства и показателем AI является другой, поскольку эти два показателя регулярно путают друг с другом.

Обе находятся внутри более широкой коллекции бесплатных инструментов, для тех, кто хочет увидеть закономерность самостоятельно, а не слепо доверять одной цифре.