Deloitte risarcisce l'Australia per un documento scritto con l'AI

Dall’Australia (e non dall’Albania come erroneamente riportato da alcuni giornali italiani per una traduzione sbagliata dall’inglese) arriva una notizia su uno degli usi più imbarazzanti dell’AI negli ultimi mesi: la nota società di consulenza Deloitte ha realizzato, per conto del Governo australiano, un documento ufficiale che, però, a causa dell’AI era pieno di errori e allucinazioni. Ora Deloitte dovrà risarcire il Governo.

Cosa ha fatto Deloitte

Il Ministero del Lavoro del Governo australiano ha commissionato a dicembre 2024 a Deloitte un corposo report, dal costo di ben 440 mila dollari australiani.

In buona sostanza doveva rivedere la conformità legale del corpus legislativo, e del relativo sistema informatico, utilizzati per automatizzare le sanzioni nel sistema di welfare in caso di mancato rispetto degli obblighi reciproci da parte dei richiedenti lavoro.

Burocrazia, in pratica, che in Australia viene gestita da un sistema informatizzato che va periodicamente aggiornato in base alla normativa vigente.

Il lavoro è stato consegnato e pubblicato il 4 luglio 2025, ma nel giro di poco è stato chiaro che c’erano diversi problemi: le fonti citate nelle note erano incongruenti, a volte inventate del tutto, come era inventata una sentenza citata ed erano chiaramente “allucinate” alcune dichiarazioni, come “il sistema informatico è guidato da presupposti punitivi di non conformità dei partecipanti“.

Se ne accorgono gli accademici, non il Governo

Il bubbone scoppia ad agosto, quando il ricercatore della Sydney University Christopher Rudge scopre gli errori e li rende pubblici, grazie anche ad un articolo pubblicato da Financial Review.

A quel punto è chiaro che il Governo non solo ha pagato per un lavoro fatto (male) con l’AI, ma non se n’è nemmeno accorto e non ha scoperto da solo i gravi errori. Errori per i quali il report viene rimosso, corretto e poi nuovamente pubblicato venerdì scorso.

Oltre al danno d’immagine, ora Deloitte deve subire anche una penalizzazione economica: parte del prezzo pagato per il lavoro contaminato dall’AI, infatti, dovrà essere restituito al Governo Australiano. Quanto, esattamente, non è stato rivelato.