Google a lavoro per consentire personalizzazione dei filtri output di Gemini?

Google sembra essere a lavoro per introdurre una nuova funzione nel suo modello di Intelligenza Artificiale Gemini. Questa funzionalità dovrebbe permettere agli utenti di esercitare un maggiore controllo sui contenuti generati.

Questo è quanto sostenuto da Android Authority che, attraverso una recente analisi del codice dell’app Google per Android, ha individuato la presenza di una sorta di filtro embrionale, che potrebbe essere presto attivato dagli sviluppatori per personalizzare il livello di censura applicato agli output testuali di Gemini.

Per Google il modello AI in questione è una priorità assoluta, come testimoniato dal recente lancio di Gemini 2.0. In questo senso, il colosso di Mountain View ha l’arduo compito di bilanciare protezione da contenuti sgradevoli e, allo stesso tempo, offrire un modello senza troppi restrizioni.

Filtri output per Gemini: più responsabilità per i singoli utenti

Con l’intento di raggiungere questo obiettivo, gli sviluppatori hanno accesso a impostazioni di sicurezza apposite, in cui è possibile bloccare o sbloccare particolari contesti delicati, come contenuti sessualmente espliciti o altre tematiche che potrebbero offendere parte dell’utenza. Questo tipo di intervento, attraverso i filtri individuati, dovrebbe passare (perlomeno in parte) nelle mani degli utenti, con possibilità di impostare la “sensibilità” degli output.

In questo momento l’opzione di filtro dei contenuti non è ancora attiva e rimanda a una pagina Web non disponibile. Tuttavia, questa scoperta suggerisce che Google stia considerando seriamente di estendere il controllo finora riservato agli sviluppatori anche ai comuni finali.

Attualmente non è chiaro se e quando questa nuova opzione sarà disponibile per il pubblico, ma le implicazioni potrebbero risultare significative, non solo nel contesto di Gemini. Se Google dovesse implementare con successo questi filtri, potrebbe migliorare notevolmente l’esperienza utente e al contempo limitare il proliferare di contenuti dannosi. Tutto ciò posizionerebbe la compagnia come punto di riferimento nel mercato per quanto concerne AI ed etica.