Perché il testo AI viene rilevato? Le ragioni reali

Se si chiede a un modello linguistico di completare la frase "The weather today is," non cercherà di scegliere un colore come "cerulean" o "apocalyptic." Piuttosto, cercherà di dire "sunny," "cloudy," o "nice," perché erano le parole che seguivano più spesso quella frase in qualunque materiale su cui è stato addestrato. Il software che sceglie la parola successiva in una frase è stato progettato per favorire proprio questo tipo di risposta.

Perché il testo generato da AI viene rilevato? Perché la stessa preferenza che sceglie 'sunny' al posto di 'cerulean' attraversa un intero documento, parola dopo parola, e il risultato si colloca in una fascia più ristretta di scrittura possibile rispetto a quella in cui si colloca effettivamente una persona. Un rilevatore non ha bisogno di cogliere una menzogna. Deve solo notare che un passaggio continua a ricadere in quella fascia ristretta.

Nulla di ciò che segue richiede una formula. Il meccanismo si fonda su un'unica idea, ripetuta a tre scale diverse, la scelta delle parole, la forma della frase e il dettaglio specifico che uno scrittore cerca senza pensarci. Ciascuna di queste scale confluisce nella questione più ampia di how AI detectors actually work, ed è più facile da vedere una volta che la causa originaria è stata nominata.

Perché il testo generato da AI viene rilevato? La risposta breve

Il testo generato da AI viene rilevato perché il processo di decodifica che trasforma le previsioni di un modello in frasi compiute è costruito per favorire le parole più probabili a ogni passaggio, e farlo in modo coerente, per migliaia di parole di seguito, produce una scrittura che occupa una porzione più ristretta della lingua rispetto a quella che occupa di solito un essere umano. Uno strumento statistico può individuare questa ristrettezza anche quando ogni frase è grammaticalmente perfetta e fattualmente corretta.

Da questa sola causa derivano tre sintomi. Il lessico si restringe verso la parola comune più sicura. La struttura della frase si restringe verso una manciata di forme preferite. E la scelta specifica, leggermente improbabile, che una persona compie quasi per riflesso, la parola insolita, la parentesi, il dettaglio che non costa nulla includere e tutto da prevedere, tende a non comparire affatto.

Come un modello linguistico sceglie la sua parola successiva

Lasciato a se stesso, un modello linguistico si limiterebbe a riportare il proprio elenco completo e ordinato di possibili parole successive e a lasciare che qualcos'altro scelga. In pratica, una strategia di decodifica effettua automaticamente quella scelta, parola dopo parola, e la strategia in esecuzione modifica l'aspetto dell'output anche quando il modello sottostante non cambia mai.

La decodifica greedy seleziona sempre la singola parola più probabile. Nell'articolo che ha introdotto il nucleus sampling come soluzione, Ari Holtzman e coautori osservarono che seguire questa strategia porta a un testo che, nelle loro stesse parole, è 'bland and strangely repetitive.' Il beam search, che tiene traccia di più continuazioni probabili contemporaneamente prima di stabilirne una, incontra una versione simile dello stesso problema.

Le strategie di campionamento reintroducono una certa casualità, ma in modo controllato. La temperatura regola quanto nettamente il modello favorisca le proprie scelte principali prima che una parola venga estratta. Il nucleus sampling, talvolta chiamato top-p, tronca la distribuzione al più piccolo insieme di parole la cui probabilità combinata supera una soglia ed estrae solo da quel insieme, descritto nell'articolo originale come campionamento da un nucleo dinamico della distribuzione anziché dalla sua coda inaffidabile.

Anche l'impostazione meno deterministica tra queste continua a estrarre da una rosa ristretta costruita attorno a ciò che il modello considera già probabile. La scrittura umana non è mai stata generata classificando un vocabolario ed estraendo dalle sue parole più probabili, quindi oltrepassa costantemente quella rosa ristretta. Il significato a volte vive nella parola che non era mai stata nell'elenco.

Appiattimento del vocabolario: meno parole, più sicure

L'appiattimento del vocabolario è la versione a livello di parola della stessa abitudine. In ogni punto di una frase, decine di parole potrebbero plausibilmente continuarla, ma poche si collocano molto al di sopra delle altre nella classificazione del modello, e la decodifica continua a ricadere su quel piccolo gruppo. Moltiplicando questa scelta per ogni frase di un documento, la gamma di parole effettivamente usate si restringe in modo misurabile rispetto a una scrittura umana di lunghezza simile.

L'effetto si accumula invece di rimanere costante. Un modello che cerca la parola più in alto in classifica nella prima frase ha maggiori probabilità di creare un contesto in cui anche la parola più in alto in classifica nella seconda frase sia comune, perché le parole comuni tendono a seguire parole comuni. Uno scrittore umano interrompe continuamente questa deriva, cercando il termine tecnico specifico, il verbo leggermente insolito, la parola che nomina la cosa reale invece di una sua approssimazione prudente. Questa differenza emerge come un vocabolario di lavoro misurabilmente più piccolo nella versione generata, anche quando entrambe le versioni descrivono gli stessi fatti di fondo.

Questa è una proprietà dell'intero passaggio, non di una singola scelta lessicale. Una parola prudente non dimostra nulla. Una pagina di parole di questo tipo, frase dopo frase che cerca lo stesso livello di vocabolario comune, è ciò che il segnale a livello di parola di un rilevatore è effettivamente costruito per notare.

Uniformità sintattica: le stesse forme, ripetute

L'uniformità sintattica è la versione a livello di frase. Non riguarda la lunghezza di una frase. Riguarda quante forme grammaticali distinte usa un passaggio: come si aprono le frasi, come le proposizioni si collegano tra loro, quanto spesso una parola di transizione svolge il lavoro di collegare un'idea alla successiva. Un modello che continua a prevedere la struttura successiva statisticamente probabile si assesta su una piccola rotazione di forme e la ripete.

Un paragrafo può variare la lunghezza delle frasi e risultare comunque sintatticamente piatto se ogni frase segue la stessa struttura soggetto-verbo-complemento, si apre con lo stesso tipo di transizione o si risolve nello stesso modo. La prevedibilità risiede nel modello, non nel numero di parole, una distinzione trattata più in dettaglio nella guida su che cosa misura davvero la burstiness.

Cosa restringe	Cosa tende a fare il testo ottimizzato per il decoding	Cosa tende a fare la scrittura umana
Scelta delle parole	Si orienta verso la parola comune più probabile a ogni passaggio	Ricorre alla parola specifica o meno comune che nomina la cosa reale
Apertura della frase	Ripete una piccola rotazione di aperture transizionali sicure	Varia il modo in cui una frase inizia, comprese aperture che un modello valuterebbe come meno probabili
Struttura della proposizione	Ripete una o due forme grammaticali preferite lungo un passaggio	Mescola strutture semplici e complesse in base a ciò di cui una frase ha bisogno

Le scelte che solo un essere umano tende a fare

Il rovescio della medaglia di una banda ristretta è ciò che ne resta fuori. Una persona che descrive eventi reali ricorre alla cifra esatta invece di una arrotondata, ammette la parte che non ha funzionato, interrompe una frase per correggerla mentre la sta formulando, oppure sceglie una parola che è giusta anziché tipica. Ognuna di queste scelte è, dal punto di vista di un modello linguistico, un token a bassa probabilità, esattamente il tipo di elemento che il decoding è costruito per evitare.

Nulla di tutto questo significa che una scrittura specifica o insolita sia al sicuro da ogni segnalazione, o che una scrittura fluida e corretta sia sospetta per definizione. Una sezione di metodi, una clausola legale o una bozza finale molto revisionata possono rientrare in una banda ristretta per ragioni che non hanno nulla a che fare con un modello, ed è per questo che un singolo punteggio è la descrizione di un andamento, non un verdetto su chi lo abbia digitato.

Vedere dove si colloca la propria bozza in quella banda è più utile che fare supposizioni. Il controllo gratuito di perplexity e il controllo di burstiness di TextPulse misurano separatamente la prevedibilità a livello di parola e il ritmo da una frase all'altra, così un vocabolario piatto e una struttura di frase ripetuta emergono come due segnali distinti invece che come un unico numero mescolato.

Da questo derivano due pagine più circoscritte. Come Turnitin rileva specificamente l'AI è una, e la differenza tra il suo punteggio di similarità e il suo punteggio AI è l'altra, poiché i due vengono abitualmente confusi tra loro.

Entrambe rientrano nella più ampia raccolta di strumenti gratuiti, per chiunque voglia vedere il modello con i propri occhi invece di fidarsi ciecamente di un singolo numero.