Jak działają detektory AI? Perplexity, burstiness i prawdopodobieństwo tokenów

Twoja uczelnia zaczęła przepuszczać zgłoszenia przez detektor AI, a raport zwrócił liczbę, której się nie spodziewałeś. Zanim spróbujesz ją zakwestionować, warto wiedzieć, co ta liczba oznacza. Jak działają detektory AI? Nie czytają tekstu maszynowego tak jak człowiek. Mierzą, jak przewidywalny jest twój tekst dla modelu językowego, a następnie zamieniają tę przewidywalność na wynik. W tym procesie nic nie odnosi się do tego, co masz na myśli, do twojego argumentu ani do tego, czy rzeczywiście to napisałeś.

Przez lata budowałem narzędzia, które statystycznie rozkładają tekst na części, i najważniejsza rzecz, jaką trzeba zrozumieć o wykrywaniu, jest taka: jest to pomiar typowości, a nie pochodzenia. Gdy to się zrozumie, zarówno technologia, jak i jej ograniczenia, stają się znacznie bardziej zrozumiałe.

Co detektor rzeczywiście mierzy

Detektor nie wie, kto cokolwiek napisał. Ma natomiast model językowy i funkcję oceny. Model czyta twój tekst od lewej do prawej i w każdym punkcie tworzy rozkład prawdopodobieństwa tego, jakie słowo powinno pojawić się następne. Jeśli podasz mu słowa "the results of the", najwyżej oceni "study", nieco niżej "experiment", a "marmalade" umieści gdzieś blisko zera.

Detektor zadaje więc twojemu dokumentowi jedno pytanie: jak często ten tekst wybierał słowo, którego model się spodziewał? Pisanie, które stale trafia w słowa o wysokim prawdopodobieństwie, wygląda na wytworzone przez maszynę, ponieważ dokładnie tak działa generator tekstu. Model wielokrotnie próbuje z górnej części własnego rozkładu, przez tysiące tokenów.

Dlatego cała ta kategoria opiera się na bardziej chwiejnych podstawach, niż sugeruje marketing. Detektor nie znajduje znaku wodnego ani odcisku palca. Zauważa jedynie, że twoja proza jest statystycznie mało zaskakująca, a proza mało zaskakująca może mieć wiele przyczyn poza chatbotem.

Perplexity: jak bardzo model jest zaskoczony

Główną miarą jest perplexity, co jest prostsze, niż brzmi. Weź prawdopodobieństwo, jakie model przypisał każdemu słowu, które rzeczywiście się pojawiło, uśrednij logarytmy tych prawdopodobieństw i podnieś wynik do potęgi. Otrzymujesz jedną liczbę opisującą, jak bardzo model był zaskoczony Twoim dokumentem. Możesz sprawdzić perplexity własnego szkicu, zamiast zgadywać.

Niskie perplexity oznacza, że tekst podążał tam, gdzie model się tego spodziewał. Wysokie perplexity oznacza, że stale skręcał w kierunki, których model się nie spodziewał. Pisanie ludzkie zwykle plasuje się wyżej, ponieważ ludzie sięgają po osobliwy, konkretny rzeczownik, nietypową konstrukcję, zdanie zaczynające się w nieoczekiwanym miejscu. Tekst generowany zwykle plasuje się niżej, ponieważ proces dekodowania jest zbudowany tak, aby unikać właśnie takich ruchów.

Porównaj dwa sposoby rozpoczęcia sekcji metod. "The results of the study were statistically significant" to sekwencja, którą niemal każdy model przewidziałby z dużą pewnością, ponieważ nie niesie ona żadnych nieoczekiwanych informacji. "Two of the three cohorts drifted before week six, which we had not planned for" jest znacznie mniej przewidywalne, ponieważ niesie konkretne, niezręczne informacje, których nie dałoby się odgadnąć z reszty pracy. Drugie zdanie kosztuje detektor rzeczywiste zaskoczenie, a to zaskoczenie właśnie rejestruje się jako ludzkie.

Burstiness: wariancja, nie średnia

Samo perplexity nie wystarcza, ponieważ dokument może dawać średnio całkiem rozsądną wartość, a jednocześnie pod spodem być podejrzanie jednolity. Liczy się zmienność w całym tekście i właśnie to mierzy burstiness: jak bardzo długość zdań i perplexity na poziomie zdania wahają się w miarę postępu tekstu. burstiness checker pokaże Ci ten rozrzut bezpośrednio.

Przyspieszamy, gdy jesteśmy pewni, i zwalniamy, gdy się asekurujemy, a ten rytm przenosi się do prozy. Ludzie piszą skokami. Akapit może zacząć się krótkim zdaniem oznajmującym liczącym osiem słów, przejść w zdanie liczące trzydzieści cztery słowa, zawierające trzy zdania składowe i wtrącenie, a następnie wrócić do czegoś zwięzłego.

Wyjście modelu nie robi tego niezawodnie. Zdania skupiają się wokół średniej długości. Akapity pojawiają się w starannie uporządkowanych grupach. Każda sekcja zaczyna się od powtórzenia własnego nagłówka. Tekst czyta się płynnie i uzyskuje słaby wynik, ponieważ niska wariancja między zdaniami jest jednym z najsilniejszych sygnałów, jakimi dysponuje detektor. To nie jedno konkretne zdanie go zdradza. To jednolitość.

Sygnał	Co mierzy	Dlaczego tekst maszynowy uzyskuje niski wynik
Perplexity	Jak bardzo model jest zaskoczony Twoimi wyborami słów, uśrednione dla całego dokumentu	Podczas dekodowania z założenia próbuje się próbki z tokenów o wysokim prawdopodobieństwie
Burstiness	Jak bardzo długość zdań i przewidywalność różnią się w całym tekście	Wyjście skupia się wokół średniej zamiast się wahać
Prawdopodobieństwo tokenu	Prawdopodobieństwo dla pojedynczych słów, z którego oblicza się pozostałe dwa	Długie ciągi pojedynczo mało wyróżniających się wyborów

Prawdopodobieństwo tokenu i skąd bierze się wynik

Obie te liczby są zbudowane na podstawie trzeciej, logarytmicznego prawdopodobieństwa dla pojedynczego tokenu, czyli surowego materiału, z którego oblicza się wszystko inne. Niektóre narzędzia pokazują je bezpośrednio, wyróżniając fragmenty, w których Twój tekst był najbardziej przewidywalny. Te wyróżnienia nie są oskarżeniem o konkretne zdania, niezależnie od tego, co sugeruje interfejs. Są to części, które najbardziej przyczyniły się do liczby na poziomie całego dokumentu.

Podejścia badawcze wyszły poza proste progi. DetectGPT i jego następcy analizują krzywiznę, lekko zaburzają Twój tekst i sprawdzają, czy prawdopodobieństwo spada w wzorcu, który zwykle wykazuje tekst generowany. Inne porównują ten sam fragment w dwóch różnych modelach i wykorzystują rozbieżność jako sygnał.

Jedna konsekwencja ma znaczenie dla każdej osoby poddawanej ocenie. Ponieważ metryki są obliczane względem określonego modelu referencyjnego, wynik jest zawsze względny wobec tego modelu. Dwa detektory mogą odczytać ten sam akapit i całkowicie się nie zgodzić, a żaden z nich nie działa nieprawidłowo. Odpowiadają na to samo pytanie, ale z różnych punktów odniesienia.

Drugi skutek jest rzadziej odnotowywany. Model może uznać fragment za przewidywalny tylko wtedy, gdy ten fragment przypomina to, na czym był trenowany, więc jakość wykrywania pogarsza się wraz ze wzrostem luki między modelem referencyjnym a tym, co wytworzyło tekst. Nowsze generatory, nietypowe dyscypliny oraz języki inne niż angielski wszystkie tę lukę powiększają. To częściowo wyjaśnia, dlaczego trafność mierzona w kontrolowanym benchmarku rzadko utrzymuje się w zetknięciu z rzeczywistym zbiorem zgłoszeń.

Co dodają komercyjne detektory

Narzędzia, które instytucje rzeczywiście kupują, nie obliczają podręcznikowej perplexity. Turnitin, GPTZero, Originality i pozostałe trenują nadzorowane klasyfikatory na dużych oznaczonych zbiorach tekstów ludzkich i maszynowych, wykorzystując cechy statystyczne obok cech stylistycznych. To, czego klasyfikator się uczy, to wszystko, co odróżnia te dwa zbiory w danych treningowych, a jest to rzecz węższa i bardziej historyczna niż "AI writing" w ogólności.

Zależność od treningu jest cichym problemem. Klasyfikator trenowany głównie na jednym pokoleniu wyników modelu musi uogólniać na nowsze modele, na nieznane dyscypliny oraz na autorów, których angielski nie przypomina rozkładu treningowego. Dostawcy publikują wskaźniki trafności z własnych ocen, a niezależne benchmarki regularnie osiągają wyniki znacznie poniżej tych liczb dla tych samych narzędzi.

Jak czytać wynik bez nadinterpretacji

Raport detektora zwykle pojawia się jako procent i ten procent jest regularnie błędnie odczytywany. Nie jest to odsetek dokumentu napisany przez maszynę. Zależnie od narzędzia jest to poziom pewności klasyfikatora albo udział zdań, które przekroczyły jakiś wewnętrzny próg, a dostawcy często nie precyzują, o który z tych wariantów chodzi. Dwa raporty pokazujące po sześćdziesiąt procent mogą oznaczać bardzo różne rzeczy.

Warto również wiedzieć, co przesuwa wynik z powodów, które nie mają nic wspólnego z tym, kto go napisał. Krótkie dokumenty są bardziej zaszumione, ponieważ jest mniej tekstu, na którym mogą się ustabilizować średnie, a esej liczący pięćset słów może mocno się wahać pod wpływem dwóch lub trzech nietypowych zdań. Zliczany jest także materiał cytowany, chyba że narzędzie go usuwa, więc przegląd literatury wypełniony cytatami blokowymi dziedziczy przewidywalność tego, co cytuje. Podobnie zachowuje się fragment techniczny obciążony standardową terminologią.

Jeśli otrzymasz oznaczenie, użyteczna odpowiedź polega na przedstawieniu dowodów, a nie na sporze o samą metrykę. Historia wersji, szkice, notatki i zapisy wyszukiwań mówią o procesie, a to właśnie proces może rzeczywiście ocenić komisja ds. naruszeń. Nie istnieje żaden próg, na który ktoś mógłby wskazać i który oddziela starannego autora od modelu.

Dlaczego detektory oznaczają tekst, którego żaden model nie wygenerował

Fałszywe pozytywy nie są rzadką awarią. Wynikają bezpośrednio z pomiaru typowości. Każdy tekst, który rzeczywiście jest przewidywalny, otrzyma wynik wskazujący na przewidywalność, niezależnie od tego, kto go stworzył.

Najbardziej dotyczy to osób piszących po angielsku jako języku obcym. Badacze ze Stanfordu stwierdzili, że detektory błędnie klasyfikowały dużą część esejów napisanych przez osoby niebędące rodzimymi użytkownikami języka jako wygenerowane przez maszynę, podczas gdy eseje rodzimych użytkowników klasyfikowały poprawnie. Powód ma charakter mechaniczny, a nie złośliwy, autorzy pracujący w drugim języku mają tendencję do opierania się na utartych konstrukcjach i bardziej powszechnym słownictwie. To dokładnie odpowiada profilowi niskiej perplexity, dlatego ESL writers get flagged for writing carefully.

Konwencje akademickie powodują ten sam problem. Sekcja metod ma być schematyczna. Pisanie prawnicze, dokumentacja techniczna i raportowanie kliniczne wszystkie premiują standardowe sformułowania zamiast tych bardziej pomysłowych. Intensywna redakcja dodatkowo to wzmacnia, ponieważ dopracowanie szkicu zwykle oznacza usunięcie nieregularności, które stanowiły twój sygnał statystyczny.

Instytucje to zauważyły. Vanderbilt wyłączył funkcję wykrywania AI w Turnitin zamiast opierać się na wynikach, których nie mógł zweryfikować, a inne uniwersytety ograniczyły sposób, w jaki liczby te mogą być używane w postępowaniach dotyczących naruszeń. Traktuj wynik detektora jako jeden słaby element dowodowy, a nie jako rozstrzygnięcie.

Co to oznacza dla własnego pisania

Praktyczna rada wynikająca z mechaniki nie jest niczym niezwykłym i żadna z tych wskazówek nie polega na obchodzeniu systemu. Świadomie zróżnicuj długość zdań, ponieważ to właśnie jednolitość jest rejestrowana. Zachowaj konkretny szczegół, rzeczywistą liczbę, rzeczywiste ograniczenie, to, co poszło nie tak w szóstym tygodniu. Ogólna poprawność jest tym, co uzyskuje wynik typowy dla tekstu maszynowego, a konkretność jest zarazem lepszym pisaniem i silniejszym sygnałem.

Zachowaj też własny idiom. Jeśli masz swój sposób ujmowania rzeczy, pozostaw go. Odruch wygładzania szkicu tak długo, aż zacznie brzmieć jak każdy inny tekst w danej dziedzinie, jest tym samym odruchem, który obniża Twoją perplexity.

Jednej rzeczy należy unikać: niektóre narzędzia celowo wprowadzają błędy gramatyczne, aby podnieść perplexity. Działa to na poziomie metryki i jest bardzo złym pomysłem w przypadku czegokolwiek ocenianego lub recenzowanego, ponieważ zamieniasz podejrzenie na pewność. Celem jest tekst, który brzmi jak Twój, a nie tekst celowo uszkodzony. Na tym właśnie polega cała różnica między przepisywaniem dla ludzkiego czytelnika a psuciem tekstu po to, by oszukać oceniający go system.

Jeśli chcesz zobaczyć te liczby dla własnego szkicu zamiast przyjmować na wiarę to, co mówi czarna skrzynka, podstawowe pomiary nie są tajemnicą. Darmowe narzędzia do analizy tekstu pokażą Ci, gdzie znajduje się Twój tekst, a Ty możesz sam zdecydować, czy płaskie fragmenty stanowią problem stylistyczny wart poprawy.