Warum wird KI-Text erkannt? Die tatsächlichen Gründe

Wenn Sie ein Sprachmodell bitten, den Satz „The weather today is,“ zu vervollständigen, wird es nicht versuchen, eine Farbe wie „cerulean“ oder „apocalyptic“ auszuwählen. Stattdessen wird es versuchen, „sunny“, „cloudy“ oder „nice“ zu sagen, weil dies die Wörter waren, die in den Trainingsdaten am häufigsten auf diese Wendung folgten. Die Software, die das nächste Wort in einem Satz auswählt, ist darauf ausgelegt, genau diese Art von Antwort zu bevorzugen.

Warum wird KI-Text erkannt? Weil dieselbe Präferenz, die „sunny“ gegenüber „cerulean“ auswählt, sich durch ein ganzes Dokument zieht, Wort für Wort, und das Ergebnis in einem engeren Bereich möglicher Schreibweisen liegt, als ihn eine Person tatsächlich einnimmt. Ein Detektor muss keine Lüge aufdecken. Er muss nur feststellen, dass ein Abschnitt immer wieder in diesem engen Bereich landet.

Nichts von dem, was folgt, braucht eine Formel. Die Mechanik beruht auf einer Idee, die auf drei verschiedenen Ebenen wiederholt wird, Wortwahl, Satzbau und das konkrete Detail, nach dem eine schreibende Person greift, ohne darüber nachzudenken. Jede dieser Ebenen fließt in die umfassendere Frage ein, wie AI-Detektoren tatsächlich funktionieren, und jede ist leichter zu erkennen, sobald die Ursache benannt ist.

Warum wird KI-Text erkannt? Die kurze Antwort

KI-Text wird erkannt, weil der Dekodierungsprozess, der die Vorhersagen eines Modells in fertige Sätze umwandelt, darauf ausgelegt ist, bei jedem Schritt wahrscheinliche Wörter zu bevorzugen, und weil die konsequente Anwendung dieses Verfahrens über Tausende von Wörtern hinweg Schreibweisen erzeugt, die einen engeren Ausschnitt der Sprache einnehmen, als es ein Mensch typischerweise tut. Ein statistisches Werkzeug kann diese Enge erkennen, selbst wenn jeder Satz grammatikalisch einwandfrei und sachlich korrekt ist.

Aus dieser einen Ursache ergeben sich drei Symptome. Der Wortschatz verengt sich auf das sicherste gebräuchliche Wort. Der Satzbau verengt sich auf eine Handvoll bevorzugter Formen. Und die konkrete, leicht unwahrscheinliche Wahl, die eine Person fast reflexhaft trifft, das ungewöhnliche Wort, die Nebenbemerkung, das Detail, das nichts kostet, wenn man es einfügt, und alles kostet, wenn man es vorhersagen will, erscheint oft überhaupt nicht.

Wie ein Sprachmodell sein nächstes Wort auswählt

Ein Sprachmodell würde, sich selbst überlassen, einfach seine vollständige Rangliste möglicher nächster Wörter ausgeben und etwas anderes die Auswahl treffen lassen. In der Praxis trifft eine Dekodierungsstrategie diese Wahl automatisch, Wort für Wort, und welche Strategie läuft, verändert das Erscheinungsbild der Ausgabe, selbst wenn sich das zugrunde liegende Modell nie ändert.

Greedy Decoding wählt immer das einzelne wahrscheinlichste Wort aus. In dem Paper, das Nucleus Sampling als Lösung einführte, beobachteten Ari Holtzman und Mitautorinnen und Mitautoren, dass die Befolgung dieser Strategie zu Text führt, der, in ihren eigenen Worten, 'bland and strangely repetitive.' Beam Search, das mehrere wahrscheinliche Fortsetzungen gleichzeitig verfolgt, bevor es sich für eine entscheidet, stößt auf eine ähnliche Form desselben Problems.

Sampling-Strategien führen etwas Zufälligkeit wieder ein, aber auf kontrollierte Weise. Temperature passt an, wie stark das Modell seine eigenen obersten Auswahlmöglichkeiten bevorzugt, bevor ein Wort gezogen wird. Nucleus Sampling, manchmal auch top-p genannt, schneidet die Verteilung auf die kleinste Menge von Wörtern zu, deren gemeinsame Wahrscheinlichkeit eine Schwelle überschreitet, und zieht nur aus dieser Menge, im ursprünglichen Paper als Sampling aus einem dynamischen Nucleus der Verteilung statt aus ihrem unzuverlässigen Schwanz beschrieben.

Selbst die am wenigsten deterministischen dieser Einstellungen zieht noch aus einer Auswahlliste, die sich an dem orientiert, was das Modell bereits für wahrscheinlich hält. Menschliches Schreiben wurde nie dadurch erzeugt, dass ein Wortschatz gerankt und aus dessen Spitze gezogen wurde, daher greift es ständig über diese Auswahlliste hinaus. Bedeutung liegt manchmal in dem Wort, das nie auf der Liste stand.

Vokabularflachheit: Weniger, sicherere Wörter

Vokabularflachheit ist die wortbezogene Version derselben Gewohnheit. An jedem Punkt eines Satzes könnten Dutzende von Wörtern ihn plausibel fortsetzen, aber eine Handvoll liegt in der Rangliste des Modells weit vor dem Rest, und das Decoding landet immer wieder bei dieser Handvoll. Multipliziert man diese Wahl mit jedem Satz in einem Dokument, verengt sich die tatsächlich verwendete Wortbreite messbar im Vergleich zu menschlichem Schreiben ähnlicher Länge.

Der Effekt verstärkt sich, statt konstant zu bleiben. Ein Modell, das im ersten Satz nach dem höchstplatzierten Wort greift, setzt mit größerer Wahrscheinlichkeit einen Kontext, in dem das höchstplatzierte Wort im zweiten Satz ebenfalls gebräuchlich ist, weil gebräuchliche Wörter dazu neigen, auf gebräuchliche Wörter zu folgen. Eine menschliche Autorin oder ein menschlicher Autor unterbricht diese Drift fortwährend, greift nach dem spezifischen Fachbegriff, dem leicht ungewöhnlichen Verb, dem Wort, das die tatsächliche Sache benennt, statt nur eine sichere Annäherung daran. Dieser Unterschied zeigt sich als messbar kleinerer Arbeitswortschatz in der erzeugten Version, selbst wenn beide Versionen dieselben zugrunde liegenden Fakten beschreiben.

Dies ist eine Eigenschaft der gesamten Passage, nicht einer einzelnen Wortwahl. Ein sicheres Wort beweist nichts. Eine Seite voller solcher Wörter, Satz für Satz nach demselben Rang des gebräuchlichen Wortschatzes greifend, ist das, worauf das Wortsignal eines Detektors tatsächlich ausgelegt ist.

Syntaktische Einheitlichkeit: Dieselben Formen, wiederholt

Syntaktische Einheitlichkeit ist die Version auf Satzebene. Es geht nicht darum, wie lang ein Satz ist. Es geht darum, wie viele unterschiedliche grammatische Formen eine Passage verwendet: wie Sätze beginnen, wie Teilsätze aneinander anschließen, wie oft ein Übergangswort die Verbindung einer Idee zur nächsten übernimmt. Ein Modell, das immer wieder die statistisch wahrscheinliche nächste Struktur vorhersagt, ordnet sich auf eine kleine Rotation von Formen ein und wiederholt sie.

Ein Absatz kann seine Satzlängen variieren und dennoch syntaktisch flach wirken, wenn jeder Satz derselben Subjekt-Verb-Ergänzung-Form folgt, mit derselben Art von Übergang beginnt oder auf dieselbe Weise aufgelöst wird. Die Vorhersagbarkeit liegt im Muster, nicht in der Wortzahl, ein Unterschied, der im Leitfaden zu was burstiness tatsächlich misst ausführlicher behandelt wird.

Was verengt	Was dekodierungsoptimierter Text tendenziell tut	Was menschliches Schreiben tendenziell tut
Wortwahl	Entscheidet sich bei jedem Schritt für das wahrscheinlichste gebräuchliche Wort	Greift nach dem spezifischen oder selteneren Wort, das die tatsächliche Sache benennt
Satzanfang	Wiederholt eine kleine Rotation sicherer, überleitender Satzanfänge	Variiert, wie ein Satz beginnt, einschließlich Anfängen, die ein Modell als weniger wahrscheinlich einstufen würde
Gliedsatzstruktur	Wiederholt über einen Abschnitt hinweg ein oder zwei bevorzugte grammatische Muster	Mischt einfache und komplexe Strukturen, je nachdem, was ein Satz benötigt

Die Entscheidungen, die nur ein Mensch tendenziell trifft

Die Kehrseite eines engen Bereichs ist das, was außerhalb davon liegt. Eine Person, die reale Ereignisse beschreibt, greift nach der genauen Zahl statt nach einer gerundeten, gibt den Teil zu, der nicht funktioniert hat, unterbricht einen Satz, um ihn mitten im Gedanken zu korrigieren, oder wählt ein Wort, das richtig ist, statt typisch. Jede dieser Entscheidungen ist aus Sicht eines Sprachmodells ein Token mit geringer Wahrscheinlichkeit, genau die Art von Auswahl, die Decoding zu vermeiden versucht.

Nichts davon bedeutet, dass spezifisches oder ungewöhnliches Schreiben vor jedem Flag sicher ist, oder dass flüssiges, korrektes Schreiben per se verdächtig ist. Ein Methodenteil, eine Rechtsklausel oder ein stark überarbeiteter Endentwurf kann aus Gründen in einen engen Bereich fallen, die nichts mit einem Modell zu tun haben, weshalb ein einzelner Score eine Beschreibung eines Musters ist und kein Urteil darüber, wer ihn getippt hat.

Zu sehen, wo Ihr eigener Entwurf in diesem Bereich liegt, ist nützlicher als zu raten. Der kostenlose Perplexity-Checker und der Burstiness-Checker von TextPulse messen Wortvorhersagbarkeit und Satz-für-Satz-Rhythmus getrennt, sodass ein flaches Vokabular und eine wiederholte Satzstruktur als zwei verschiedene Signale erscheinen und nicht als eine vermischte Zahl.

Daraus ergeben sich zwei engere Seiten. Wie Turnitin KI konkret erkennt ist eine davon, und der Unterschied zwischen seinem Ähnlichkeitsscore und seinem KI-Score ist die andere, da die beiden regelmäßig miteinander verwechselt werden.

Beide sind Teil der umfassenderen Sammlung kostenloser Tools, für alle, die das Muster selbst sehen möchten, statt einer einzelnen Zahl blind zu vertrauen.