Il termine “allucinazione dell’IA” descrive un fenomeno in cui un sistema di Intelligenza Artificiale, in particolare i modelli linguistici di grande dimensione (LLM) come quelli alla base dei chatbot, produce un output non veritiero, fuorviante o totalmente inventato, ma che viene presentato con la massima sicurezza e in modo convincente. 

Per scoprire quali sono le cause principali di questo fenomeno e come mitigare le allucinazioni, continua a leggere il mio articolo! 

Cosa si intende per “allucinazioni”? 

Il modello “inventa” fatti o dettagli, ma anche dati numerici, che non sono presenti nei suoi dati di addestramento o nel contesto fornito, generando una risposta linguisticamente corretta ma fattualmente errata: non si tratta di percezioni sensoriali errate come nelle allucinazioni umane, ma di risposte costruite erroneamente a causa di limiti intrinseci nel modello. 

Leggi anche: Glossario AI per aziende: i termini tecnici che devi conoscere

Le allucinazioni possono essere classificate in base a ciò che accade. Come? Vediamolo insieme: 

  • Intrinseca: la risposta contraddice le informazioni presenti nel prompt o nel contesto fornito dall’utente; 
  • Estrinseca: la risposta è fattualmente errata o inventata, non potendo essere verificata all’interno del contesto fornito; 
  • Confabulazione temporale: il modello inventa eventi o dettagli successivi alla sua data di addestramento. 

Potrebbe interessarti anche: Quanto è intelligente l’IA?

Cause principali del fenomeno

Le cause che portano l’IA ad inventare fatti sono principalmente tre:

  • Natura statistica: gli LLM sono addestrati a calcolare la probabilità che una parola segua un’altra in un dato contesto, per cui il modello non ha accesso alla “verità” ma alla sequenza di parole che statisticamente appare più plausibile in quel frangente;
  • Dati contraddittori: 
    • Bias di addestramento: se il set di dati contiene molti errori o bias specifici, il modello apprende e amplifica questi errori
    • Overfitting: il modello si è adattato troppo ai dati di addestramento specifici e non riesce a generalizzare a nuovi contesti
  • Mancanza di memoria: nelle conversazioni lunghe, il modello potrebbe perdere il contesto precedente, portando a risposte incoerenti o fuori contesto. 

Potrebbe interessarti anche: Machine Learning: cos’è e a cosa serve la tecnologia di apprendimento automatico

Mitigazione delle allucinazioni 

Per superare i limiti intrinseci dei modelli linguistici, la ricerca ha sviluppato tecniche specifiche che permettono di ancorare le risposte dell’IA a dati reali e processi logici verificabili.

1. Retrieval-augmented generation (RAG): il modello accede a una base di dati verificata durante la generazione della risposta, per basare l’output su fatti specifici recuperati.

2. Ottimizzazione dei prompt: tecniche specifiche di prompting possono ridurre le allucinazioni: la “Catena di Pensiero” istruisce il modello a mostrare il suo processo di ragionamento passo dopo passo, oppure chiedere al modello di non inventare l’informazione. Se te lo sei perso, puoi leggere il mio articolo Prompt: come fare le domande giuste ChatGPT & CO.

3. Monitoraggio e feedback: implementazione di sistemi di feedback umano per identificare e correggere i modelli che generano allucinazioni.

Le allucinazioni sono una sfida intrinseca alla natura statistica degli LLM, ma la ricerca e l’implementazione di tecniche come il RAG e l’ottimizzazione del prompting, stanno rendendo questi strumenti sempre più affidabili e precisi.

Potrebbe interessarti anche: Come sta andando l’IA in Italia?