OpenAI e il problema delle allucinazioni: come risolverlo?

Le soluzioni di IA generativa come ChatGPT, Bing Chat e Google Bard soffrono di un problema non indifferente: le “allucinazioni”. Si tratta di un modo semplice ed efficace per descrivere tutte quelle risposte errate o distorte prodotte direttamente dall’intelligenza artificiale in seguito a intoppi con l’interpretazione delle fonti e dei dati a disposizione. OpenAI sa bene quanto questo disguido comprometta l’esperienza d’uso dei chatbot, fornendo agli utenti risposte poco affidabili, spesso a loro insaputa. Per questo motivo, l’organizzazione di Sam Altman ora sta cercando di trovare una soluzione definitiva.

OpenAI cerca una soluzione per le allucinazioni

L’approccio illustrato dai creatori di ChatGPT e del modello di linguaggio GPT nell’ultimo post sul blog ufficiale prevede l’uso di una tecnica definita “Process Supervision”, ben differente dall’”Outcome Supervision”. Nel secondo caso i ricercatori valutano esclusivamente il risultato del processo di elaborazione dei dati da parte dell’IA; nel primo, ovvero il nuovo metodo, si guarda invece alla revisione di ogni step dell’operazione, dando vita così a un ragionamento più umano, ovvero a un flusso di pensiero più naturale.

I primi test, condotti con un modello delegato alla risoluzione di problemi matematici, hanno mostrato una certa efficacia, ma si tratta di una soluzione definitiva? Esistono già alcuni fronti scettici, tra cui Ben Winters dell’Electronic Privacy Information Center: “Non credo che solo questa soluzione possa mitigare in modo significativo le preoccupazioni riguardanti il rischio di disinformazione e risultati errati, una volta utilizzato al di fuori degli ambienti di prova. Conta soprattutto come abbiano intenzione di implementare ciò che hanno scoperto nella loro ricerca”.

La stessa OpenAI ammette che “non è noto quanto ampiamente questi risultati si generalizzeranno oltre il dominio della matematica”. Un dettaglio è indubbio: in caso di successo nella generalizzazione, la Process Supervision si confermerà la soluzione più promettente, essendo più performante e allineata alle esigenze umane rispetto all’Outcome Supervision.

Ricordiamo, in chiusura, che ChatGPT è disponibile in Italia su iOS con l’app ufficiale.