Chiunque abbia usato un assistente basato sull'intelligenza artificiale prima o poi si è imbattuto in una risposta sicura, ben scritta e completamente sbagliata: un libro attribuito all'autore sbagliato, un articolo di legge che non esiste, un riferimento bibliografico con titolo, rivista e anno perfettamente plausibili ma inventati. Questo fenomeno si chiama allucinazione. Non è un guasto occasionale, ma una conseguenza diretta di come funzionano i modelli linguistici.
Perché un modello "allucina"
Un modello linguistico genera testo scegliendo, parola dopo parola, la continuazione più plausibile in base a ciò che ha imparato. Il suo obiettivo durante l'addestramento è produrre testo verosimile, non testo vero. Nella grande maggioranza dei casi le due cose coincidono, perché i testi da cui ha imparato contengono soprattutto informazioni corrette. Quando però l'informazione richiesta è rara, ambigua o assente, il modello non ha un meccanismo innato per dire "non lo so": continua a produrre ciò che suona giusto.
Alcuni fattori rendono le allucinazioni più probabili:
- argomenti di nicchia: persone poco note, aziende locali, normative specifiche di settore;
- dettagli precisi: numeri, date, nomi propri, codici, citazioni testuali;
- domande che presuppongono un fatto falso: se chiedi "perché il tal ministro si è dimesso nel 2019?" e non si è mai dimesso, il modello può costruire una spiegazione;
- richieste di fonti: titoli di articoli e URL sono sequenze in cui piccole deviazioni producono riferimenti inesistenti;
- conversazioni molto lunghe, in cui le informazioni iniziali vengono gestite con meno precisione.
Esempi tipici
Per riconoscere un'allucinazione aiuta sapere che forma prende di solito.
| Tipo | Esempio | Perché è insidiosa |
|---|---|---|
| Fonte inventata | Uno studio con autori e rivista reali ma titolo inesistente | Il contesto credibile maschera il falso |
| Numero plausibile | Una percentuale "tonda" senza origine | I numeri danno un'aria di precisione |
| Funzione inesistente | Un comando software che sembra ufficiale | Il codice pare corretto finché non lo esegui |
| Biografia mescolata | Fatti di due persone omonime uniti in una | Ogni frammento preso da solo è vero |
Nel lavoro di informatica forense mi capita di vedere testi prodotti con l'AI e presentati come documentazione tecnica: il segnale più ricorrente è proprio la presenza di riferimenti precisi che, controllati uno per uno, non portano da nessuna parte.
Come ridurre il rischio quando scrivi la richiesta
Non puoi eliminare del tutto le allucinazioni, ma puoi renderle molto meno frequenti.
- Fornisci tu il materiale. Se incolli il testo di un documento e chiedi di rispondere solo in base a quello, il modello ha una base concreta e inventa molto meno.
- Autorizza esplicitamente il "non lo so". Frasi come "se l'informazione non è nel testo, dillo chiaramente" riducono la tendenza a riempire i vuoti.
- Chiedi di separare fatti e ipotesi. Una richiesta del tipo "distingui ciò che è certo da ciò che è una deduzione" rende visibili i punti deboli.
- Evita domande con premesse non verificate. Meglio chiedere "il tal ministro si è dimesso?" piuttosto che "perché si è dimesso?".
- Usa strumenti con ricerca o documenti collegati quando ti servono informazioni aggiornate o molto specifiche, e controlla le fonti che citano.
Come verificare una risposta
La regola d'oro è semplice: più un'informazione conta, più va verificata alla fonte. In pratica:
- controlla nomi, date e numeri su fonti primarie, come il testo ufficiale di una norma o il sito dell'ente;
- apri ogni riferimento bibliografico e verifica che esista davvero e dica ciò che il modello sostiene;
- per il codice, esegui i test e consulta la documentazione ufficiale della libreria;
- se possibile, poni la stessa domanda in modo diverso: risposte incoerenti tra loro sono un campanello d'allarme;
- diffida delle risposte che sembrano troppo perfette su argomenti oscuri.
Quando le allucinazioni sono un problema serio
In una bozza di post per i social un errore si corregge facilmente. In altri contesti le conseguenze sono pesanti: un atto con precedenti giurisprudenziali inesistenti, una diagnosi informatica basata su un comando che non fa ciò che si crede, una relazione aziendale con dati di mercato inventati. In questi casi l'AI può restare un aiuto prezioso per la stesura e l'organizzazione, ma ogni affermazione fattuale deve passare per una verifica umana.
Le allucinazioni scompariranno?
I modelli più recenti allucinano meno dei primi, grazie a dati migliori, addestramento mirato e collegamento a fonti esterne. Tuttavia, finché il meccanismo di base resta la generazione di testo plausibile, il rischio non sarà mai zero. Conviene quindi trattare l'AI come un collaboratore brillante ma non sempre preciso: utilissimo per partire, da controllare prima di firmare.
In sintesi
- Le allucinazioni nascono perché il modello produce testo verosimile, non necessariamente vero.
- Sono più frequenti su argomenti di nicchia, dettagli precisi, fonti e premesse false.
- Fornire documenti, consentire il "non lo so" e separare fatti da ipotesi riduce il rischio.
- Le informazioni importanti vanno sempre verificate su fonti primarie.
