IA addestrata segretamente con immagini di bambini reali?

Secondo quanto riportato da Human Rights Watch, diverse aziende avrebbero assunto comportamenti discutibili per quanto riguarda l’addestramento dell’Intelligenza Artificiale attraverso immagini che riguardano bambini reali.

Nello specifico si parla di 170 foto di bambini brasiliani, presenti in un set di dati open source, utilizzate a insaputa e senza il consenso dei genitori per addestrare l’IA. Il database da cui sono state estratte le foto incriminate sono state scattate su un ampio arco temporale, dalla metà degli anni ’90 fino al 2023. Le foto incriminate sarebbero state incluse in LAION-5B, un set di dati utilizzato da diverse startup che si occupano di IA.

Per Hye Jung Han, ricercatore di Human Rights Watch, lo scenario è a dir poco inquietante “La tecnologia è sviluppata in modo tale che ogni bambino che ha una foto o un video di se stesso online è a rischio perché qualsiasi  malintenzionato potrebbe utilizzare quel materiale per manipolarlo come vuole“.

Le foto di bambini reali e altri casi inquietanti legati a LAION-5B

Il già citato set di dati è stato creato dall’organizzazione no-profit tedesca LAION, ed è liberamente accessibile a chiunque. Si tratta di una risorsa importante per chi si occupa di generazione immagini IA e non solo, visto che offre oltre 5,85 miliardi di contenuti.

Secondo quanto affermato da Human Rights Watch, le immagini di bambini provengono da blog che trattano temi come maternità o genitorialità, oltre ad apparire su alcuni video su YouTube. La segnalazione non ha lasciato indifferente LAION che, attraverso un intervento tempestivo, ha dichiarato di aver rimosso i contenuti dal suo database.

Non è comunque la prima volta che i contenuti proposti nel pacchetto LAION-5B creano qualche problema. Nel 2022, per esempio, un cittadino statunitense ha individuato una immagine proveniente dalla sua cartella clinica personale nel suddetto database. Lo scorso dicembre, poi, alcuni ricercatori dell’Università di Stanford hanno scoperto che tra i tanti dati raccolti da LAION-5B figuravano anche alcuni con abusi sessuali su minori.

Tutto ciò rappresenta un problema da non sottovalutare, soprattutto per quanto riguarda una combinazione potenzialmente devastante come il fenomeno dei deepfake e il cyberbullismo.