Il Garante Privacy blocca Clothoff, l’app che crea deepfake nudi

L’intervento dell’Autorità italiana sulla controversa applicazione Clothoff segna un punto di svolta nel dibattito pubblico attorno ai rischi connessi all’uso distorto dell’intelligenza artificiale per la creazione di contenuti digitali a sfondo sessuale. Il Garante per la protezione dati personali, infatti, ha disposto una limitazione immediata al trattamento dei dati degli utenti italiani da parte di questa piattaforma, sottolineando le crescenti preoccupazioni relative alla privacy e alla tutela della dignità delle persone coinvolte.

Il Garante blocca Clothoff

La decisione dell’Autorità non arriva in un vuoto normativo, ma si inserisce in un contesto in cui la cronaca italiana ha recentemente registrato un aumento significativo dei casi di abuso di immagini manipolate. Tali episodi hanno spesso avuto conseguenze devastanti sia a livello personale che professionale per le vittime, alimentando un allarme sociale sempre più diffuso. Il fenomeno, in particolare quello legato alle tecnologie deep nude, ha evidenziato come l’innovazione digitale, se non correttamente regolamentata, possa mettere a rischio i diritti fondamentali degli individui.

Il provvedimento del Garante si basa su precise disposizioni del GDPR, che prevede tutele rafforzate in presenza di trattamenti di dati suscettibili di arrecare un rischio elevato ai diritti e alle libertà delle persone. Nel caso di Clothoff, l’assenza di una verifica effettiva del consenso delle persone ritratte e la mancanza di trasparenza circa la natura artificiale dei contenuti generati hanno rappresentato elementi di particolare criticità. La generazione di immagini e video a carattere sessualmente esplicito senza consenso configura, infatti, una minaccia seria e concreta, soprattutto quando coinvolge soggetti vulnerabili come i minori.

Che cosa non va in Clothoff

Dal punto di vista tecnologico, la piattaforma si avvale di sofisticati modelli di intelligenza artificiale in grado di sovrapporre volti reali su corpi digitali o di creare immagini completamente sintetiche a partire da fotografie esistenti. Gli esperti sottolineano come la mancanza di sistemi di verifica dell’età degli utenti e l’assenza di chiari meccanismi di informazione sulla natura artificiale dei file prodotti rappresentino lacune gravissime, in grado di favorire abusi e di compromettere in modo irreparabile la privacy delle persone coinvolte.

La vicenda coinvolge una pluralità di attori. Da un lato, il Garante può imporre sanzioni amministrative e obblighi di adeguamento alle società responsabili; dall’altro, le piattaforme digitali sono chiamate a implementare meccanismi di prevenzione e protezione, come l’introduzione di sistemi di watermarking per rendere immediatamente riconoscibili i contenuti generati dall’IA. Nel frattempo, le associazioni per i diritti digitali sollecitano l’adozione di strumenti di rimozione rapida dei contenuti illeciti e chiedono l’introduzione di regole più stringenti per la tutela della privacy e della dignità online.

Il caso Clothoff si configura, dunque, come un precedente di grande rilevanza nel percorso di tutela della dignità digitale. Tuttavia, la vicenda lascia aperte questioni fondamentali: come garantire una verifica efficace del consenso? Come bilanciare l’innovazione tecnologica con il rispetto dei diritti individuali? E, soprattutto, quali standard internazionali possono essere adottati per assicurare che piattaforme che operano oltre i confini nazionali rispettino i principi fondamentali di protezione dati personali e di tutela della privacy?