Definizione
Allucinazione (IA)
Un'allucinazione è un'affermazione prodotta da un modello di IA che suona fluida e plausibile ma è di fatto errata, inventata o non supportata dalle fonti.
Le allucinazioni nascono perché i modelli linguistici prevedono il token successivo più probabile invece di verificare la verità. Le contromisure includono ancorare le risposte a fonti verificate (ad esempio tramite RAG), richiedere citazioni e un controllo umano prima di un uso critico per il business.