Perché ChatGPT smette di funzionare se inserisci alcuni nomi di persona?

Brian Hood, Johnatan Turley, Jonathan Zittrain, David Faber, David Mayer e Guido Scorza: questi nomi, a quanto pare, hanno la capacità di bloccare ChatGPT.

Tanto su Reddit quanto su X stanno aumentando le segnalazioni che riguardano il noto chatbot di OpenAI che, a quanto pare, al momento della digitazione di alcuni nomi nel prompt, restituisce un messaggio di errore del tipo “Impossibile generare risposta” o simile, terminando poi bruscamente la conversazione.

Il fenomeno, circoscritto solo all’interfaccia Web, presenta alcune varianti non confermate e dai contorni ancora più misteriosi. Secondo alcuni, per esempio, citando David Mayer viene mostrato con un carattere poco leggibile e su un’immagine di una formula matematica.

Al di là di quelle che possono diventare leggende metropolitane, questo tipo di comportamento di ChatGPT in realtà ha una spiegazione abbastanza semplice.

Nomi di persona in grado di bloccare ChatGPT? In realtà esiste una spiegazione logica

A rivelare quanto avvenuto con il chatbot sono i casi che riguardano due nomi della precedente lista.

Brian Hood è il nome di un sindaco australiano. Questo ha minacciato di citare in giudizio OpenAI per diffamazione a marzo 2023, dopo che ChatGP aveva generato false informazioni sul suo conto, definendo il politico come incarcerato per corruzione. La startup ha immediatamente preso provvedimenti, rimuovendo le informazioni false e dunque ponendo un rigoroso filtraggio in caso di prompt che contenessero il nome del sindaco.

Una situazione simile è quella relativa al nome di Jonathan Turley, professore della George Washington University. In questo caso, si parla di un articolo di giornale inesistente citato dal chatbot in cui il docente veniva ingiustamente accusato di uno scandalo sessuale. Sebbene il professor Turley non abbia intrapreso azioni legali, OpenAI ha voluto prevenire questa evenienza andando a filtrare il nome.

Da questi due casi è facile intuire come il blocco di ChatGPT rispetto alcuni nomi di persona è, con tutta probabilità, strettamente correlato ad azioni legali o situazioni pericolose per OpenAI.