Perché l'IA allucina - e come ridurlo

Che cos'è davvero un'allucinazione dell'IA

Un'allucinazione è un output fluente, plausibile e sicuro, ma di fatto errato o del tutto inventato. Il modello non 'mente' in senso umano: non ha intenzione né consapevolezza che qualcosa sia falso. Il termine è una metafora: il sistema genera contenuti senza corrispondenza nei dati di addestramento o nella realtà.

• Fatti inventati: nomi, date, cifre o eventi mai esistiti.
• Fonti false: studi, sentenze o URL inesistenti con titoli dall'aria autentica.
• Confusione: frammenti corretti combinati in un'affermazione complessiva errata.

Il meccanismo: previsione, non conoscenza

Un modello linguistico non memorizza un database di fatti. Impara da enormi quantità di testo quale parola tende a seguirne un'altra e, a ogni richiesta, calcola la continuazione più probabile, token dopo token. La verità non è un criterio: il modello ottimizza la plausibilità, non la correttezza. Finché risposte giuste ed errate suonano ugualmente fluide, può produrle entrambe con la stessa sicurezza.

Inoltre, generare è più difficile che riconoscere. Un modello spesso sa giudicare se un'affermazione data è vera, ma non riesce a produrre correttamente la stessa informazione da zero. Per fatti rari con molti valori possibili - una data esatta, un numero preciso - la probabilità di azzeccare l'unico valore corretto è di conseguenza bassa.

Perché addestramento e valutazione premiano il tirare a indovinare

Le allucinazioni non sono solo un incidente tecnico: in parte sono indotte. Un'analisi molto discussa di ricercatori di OpenAI (Kalai, Nachum, Vempala, Zhang, settembre 2025) sostiene che i benchmark comuni trattano i modelli come candidati a un esame: una risposta tirata a indovinare può fare punti, mentre un onesto 'non lo so' vale zero sicuro. Con questi incentivi indovinare conviene - ed è proprio ciò che insegniamo ai modelli.

La conseguenza pratica: finché le classifiche premiano la sicurezza e penalizzano la prudenza, gli errori sicuri restano un sottoprodotto sistematico. Parte della soluzione, quindi, non è un nuovo modello ma una valutazione migliore che torni a valorizzare l'incertezza calibrata e l'astensione.

Quando le allucinazioni sono più probabili

• Conoscenza di nicchia rara: fatti quasi assenti nei dati di addestramento (entità a coda lunga, dettagli locali).
• Dettagli precisi: numeri esatti, citazioni, norme giuridiche, DOI o riferimenti bibliografici.
• Attualità: eventi successivi alla data di taglio delle conoscenze del modello, senza collegamento a fonti aggiornate.
• Prompt ambigui o suggestivi che danno per scontata una premessa falsa.
• Lunghe catene di ragionamento in cui gli errori iniziali si propagano.
• 'Temperatura' alta: output più creativi e casuali aumentano il rischio nei compiti fattuali.

Ridurre le allucinazioni: grounding, RAG, verifica

Non esiste un modello che non allucini mai, ma un approccio a livelli riduce nettamente il rischio. Ogni misura affronta una classe di errore diversa; combinate funzionano meglio. Iniziate con grounding e astensione, che eliminano la quota maggiore di errori con il minimo sforzo, e aggiungete la verifica dove una risposta errata costa cara.

• Grounding / RAG: portare i documenti pertinenti nel contesto e istruire il modello a rispondere solo da essi e a citare le fonti.
• Consentire l'astensione: permettere esplicitamente 'non lo so' invece di forzare una risposta.
• Verifica: controllare gli output critici rispetto alle fonti - con un secondo modello, chain-of-verification o revisione umana.
• Output vincolato: formati strutturati, elenchi predefiniti o schemi che rendono più difficile l'invenzione libera.
• Temperatura più bassa e prompt preciso per compiti fattuali; definire ruolo, contesto e formato chiari.
• Qualità dei dati: curare, aggiornare e organizzare per argomento la base di conoscenza - fonti scadenti generano risposte scadenti.

La prospettiva svizzera: IA in contesti regolati

In Svizzera e nell'area DACH gli output dell'IA sono sempre più usati in ambiti sensibili - diritto, sanità, finanza, pubblica amministrazione. Qui un'allucinazione non è un difetto estetico ma un rischio di responsabilità e conformità. Chi tratta dati personali resta responsabile ai sensi della legge sulla protezione dei dati riveduta (revDSG); l'IFPDT si attende processi tracciabili e corretti. Una norma o una diagnosi inventata, nel dubbio, non è colpa dell'IA ma dell'organizzazione che la adotta senza verifica.

Conseguenza pratica: nei processi regolati, abbinare sempre gli output dell'IA a un'approvazione umana (human-in-the-loop), fonti documentate e responsabilità chiare. Trattare il modello come un assistente veloce ma inaffidabile, non come fonte di verità.