Che cos'è la perplexity nel rilevamento AI?

Cerca perplexity e rilevamento AI insieme, e diversi dei primi risultati si rivelano riguardare un prodotto non correlato: un motore di ricerca basato su AI che, per coincidenza, si chiama anche Perplexity. La metrica che un rilevatore riporta non ha in comune con quell'azienda altro che la parola. Proviene dalla ricerca sul riconoscimento vocale di decenni precedente a GPTZero o al motore di ricerca, e misura qualcosa di più ristretto rispetto a entrambi: quanto un language model è sorpreso dalle parole già presenti nella pagina.

Allora, che cos'è la perplexity nel rilevamento AI? La perplexity è un punteggio che descrive quanto bene un language model ha previsto le parole esatte in un passaggio, ottenuto mediando le probabilità del modello e convertendo il risultato in un singolo numero. Un punteggio basso significa che il modello ha continuato a indovinare correttamente. Un punteggio alto significa che ha continuato a essere sorpreso.

L'idea è più antica di qualunque rilevatore AI sul mercato, e da sola non dice nulla su chi abbia scritto un documento. Una volta che l'aritmetica dietro il numero diventa visibile, un punteggio in un report smette di sembrare un verdetto e comincia a sembrare ciò che è realmente: una descrizione della scelta delle parole.

Che cos'è la perplexity nel rilevamento AI?

La perplexity è una misura presa in prestito dalla modellazione del linguaggio. Valuta quanto bene un modello ha previsto le parole specifiche che compaiono in un passaggio e riporta quel punteggio come un singolo numero. I rilevatori applicano la stessa misura a un documento inviato: un numero basso, che significa che le ipotesi del modello corrispondevano da vicino alle parole effettive, viene letto come un segno di paternità della macchina, e un numero alto viene letto come un segno di paternità umana. Nulla nel calcolo legge l'argomentazione del documento, le sue citazioni o il suo contenuto. Legge solo quanto era attesa ciascuna parola, una alla volta.

I rilevatori non hanno inventato questa misura. Hanno preso in prestito uno strumento che i sistemi di riconoscimento vocale e di traduzione automatica avevano già usato per decenni per giudicare quanto bene un modello prevedeva il linguaggio ordinario, e lo hanno riadattato come proxy della paternità, un compito per cui non era stato originariamente costruito.

Nulla di tutto questo ha a che fare con il motore di ricerca non correlato menzionato in precedenza. La perplexity che un rilevatore riporta non è mai un'azienda e non è mai maiuscola: è una semplice proprietà statistica di una sequenza di parole, calcolata ex novo a partire da qualunque testo le venga dato.

Come viene effettivamente calcolata la perplexity

Il calcolo risale a un periodo ancora precedente a qualsiasi prodotto di AI. Frederick Jelinek, Robert Mercer, Lalit Bahl e James Baker introdussero la perplexity nel 1977 per misurare quanto fosse difficile un compito di riconoscimento vocale per un modello statistico, decenni prima che qualcuno applicasse il termine a un saggio o a una relazione di laboratorio. La definizione non è cambiata da allora.

A ogni posizione in un documento, il modello produce una probabilità per la parola che viene effettivamente dopo, qualcosa come 0.72 per una transizione comune o 0.03 per una insolita. La perplexity fa la media dei logaritmi di quelle probabilità lungo l'intero passaggio, poi inverte la media con un esponente.

L’esponente in there's fa più di quanto sembri. Fare la media delle probabilità logaritmiche è esattamente ciò che facciamo quando calcoliamo la cross-entropy, cioè il modo, in termini di teoria dell’informazione, di dire quanti bit servono per codificare una sequenza date le previsioni formulate da un modello. Ma la perplexity traduce il conteggio dei bit in qualcosa che possiamo comprendere meglio, un numero effettivo di scelte, invece di un conteggio astratto di bit.

Ciò che sopravvive a questa aritmetica ha una lettura limpida, quasi fisica. Un modello che è completamente certo ogni volta produce una perplexity di 1, il limite inferiore della scala. Un modello che considera ogni posizione come un pareggio tra ottanta parole equiprobabili produce una perplexity di 80.

La maggior parte dei documenti reali si colloca da qualche parte tra questi due estremi, e il punto esatto dipende dallo scrittore, dall’argomento e da quale modello sta facendo la lettura.

Perché la scrittura umana tende a ottenere un punteggio diverso

Le aspettative di un modello sono costruite interamente su ciò che viene prima, una parola alla volta. Dopo la frase 'the treatment group showed a statistically', la grande maggioranza delle continuazioni ben formate è 'significant', e un modello addestrato su un grande volume di scrittura scientifica assegna a quella parola un’elevata probabilità senza esitazione. Uno scrittore umano che arrivasse alla stessa frase potrebbe scegliere anch’egli 'significant', perché la frase stessa è un tratto tipico del genere. La distanza si apre altrove, nel sostantivo scelto due frasi dopo, nella parentesi aggiunta tra parentesi, nel numero riportato con una cifra decimale insolita invece che con una arrotondata.

Non c’è alcun trucco in questo. Quando una persona che scrive di dati reali cerca il numero esatto, il qualificatore preciso, la parola leggermente più circoscritta, sta cercando elementi che sono veri del lavoro e non del genere. E ciascuna di queste scelte costa al modello un po’ più di sorpresa. La sorpresa è ciò che il punteggio è costruito per sommare.

L'inferenza sta facendo più lavoro di quanto la misurazione possa sostenere. La perplexity misura direttamente la prevedibilità. Inferisce la paternità solo assumendo che una scrittura prevedibile sia rara tra gli esseri umani e comune tra i modelli, un'assunzione che di solito è ragionevole e talvolta errata in un modo specifico e identificabile, poiché la prevedibilità è una proprietà che un testo può avere per ragioni che non hanno nulla a che fare con chi lo ha digitato.

Perché lo stesso passaggio può ottenere punteggi diversi

Il punteggio è anche meno portabile di quanto sembri, perché non viene mai misurato in un vuoto. La perplexity è sempre calcolata rispetto all'addestramento di uno specifico modello di riferimento, e questa dipendenza crea problemi che nessuna singola definizione può mostrare da sola.

Fattore	Cosa cambia	Perché accade
Quale modello sta facendo la lettura	Lo stesso paragrafo può ottenere un punteggio basso su un modello e alto su un altro	La perplexity viene sempre misurata solo rispetto ai dati di addestramento di un modello, e modelli diversi sono stati addestrati su testi diversi
Se il passaggio è un testo ampiamente riprodotto	Un famoso documento storico o una definizione da manuale possono ottenere una bassa perplexity anche quando una persona ha digitato ogni parola nel rilevatore	Pangram Labs indica la Dichiarazione di Indipendenza come esempio: è citata così spesso nei dati di addestramento che un modello trova non sorprendente ogni sua frase
Se il rilevatore può vedere affatto le probabilità dei token	I modelli commerciali chiusi come ChatGPT, Gemini e Claude non espongono le probabilità per parola di cui la perplexity ha bisogno	I rilevatori approssimano il punteggio con un modello aperto sostitutivo invece di calcolare la perplexity rispetto al modello che ha effettivamente prodotto il testo

Niente di tutto questo rende il numero privo di significato, lo rende solo più rischioso da considerare attendibile come verdetto a sé stante. La documentazione di GPTZero aveva un tempo pubblicato una regola empirica approssimativa, secondo cui una perplexity superiore a 85 era più probabilmente umana, ma la soglia di un singolo fornitore su un modello non si trasferisce a uno strumento diverso misurato rispetto a un altro. Un rilevatore che riporta un singolo punteggio sta comprimendo tutti i fattori sopra in un'unica cifra senza dire quali di essi abbiano fatto il lavoro.

Cosa indica davvero un punteggio di perplexity

I rilevatori commerciali combinano la perplexity con i modelli a livello di frase, l'addestramento del classificatore e diversi altri segnali prima ancora di stampare un singolo numero in un rapporto. Il quadro più completo di come funzionano davvero i rilevatori di AI è trattato separatamente, e spiega da dove proviene il resto di quel numero.

Il ritmo da una frase all'altra è un segnale correlato ma distinto, trattato nei propri termini dal controllore di burstiness, e osserva quanta variazione c'è in un passaggio piuttosto che in una singola parola.

Nessuno di questi numeri può provare chi abbia scritto un documento, incluso l'Human Score stimato che TextPulse calcola da una bozza inviata, il quale descrive il testo invece di emettere un verdetto su di esso. Una versione semplificata della stessa idea, la varietà del vocabolario invece della probabilità completa del modello, alimenta il controllore gratuito di perplexity su questo sito, utile da provare su un paragrafo la cui origine è già nota prima di fidarsi di ciò che un rapporto dice sul testo di qualcun altro.

Il controllore di perplexity si affianca al resto degli strumenti gratuiti di TextPulse, così un'analisi completa di una bozza, del vocabolario, del ritmo e di tutto il resto, non richiede di avere aperte contemporaneamente una dozzina di schede separate.

La perplexity è una delle due statistiche su cui si basano questi sistemi. L'altra è la burstiness, la variazione nella lunghezza e nella struttura delle frasi in un passaggio, e sotto entrambe si trova l'aritmetica della probabilità dei token che produce il punteggio in primo luogo.

Un numero in un rapporto è la fine di una lunga catena di aritmetica, non l'inizio di un argomento su chi abbia scritto qualcosa. La domanda più interessante, una volta che l'aritmetica smette di essere misteriosa, è che cosa abbia reso precisamente un documento sorprendente o prevedibile in primo luogo, e questa è una domanda che riguarda la scrittura stessa.