Uno dei padri dell'AI avverte: troppa attenzione su velocità e poca su sicurezza

L’allerta arriva da uno dei padri dell’Intelligenza Artificiale, ovvero Yoshua Bengio.

Secondo l’esperto, che ha contribuito a creare le fondamenta delle reti neurali utilizzate in molti strumenti AI odierni, il settore si sta focalizzando troppo su velocità e prestazioni, tralasciando colpevolmente un aspetto come la sicurezza. Questa leggerezza, secondo Bengio, potrebbe comportare future conseguenze catastrofiche vista la natura di questa tecnologia.

Nello specifico, Bengio è preoccupato per il comportamento degli sviluppatori che si affrettano a sviluppare sistemi AI sempre più potenti senza considerare appieno i rischi. Questo atteggiamento è stato ulteriormente alimentato dall’ascesa di aziende cinesi come DeepSeek, le cui capacità avanzate hanno attirato l’attenzione sia delle aziende che dai governi occidentali.

Al contrario di rallentare e valutare attentamente i rischi, le principali aziende tecnologiche stanno accelerando lo sviluppo dell’AI in una corsa sfrenata per prevalere sulla concorrenza, senza farsi troppe domande rispetto a eventuali risvolti negativi di tale evoluzione.

L’AI punta tutto su velocità: i rischi potrebbero essere enormi

La preoccupazione maggiore, per Bengio, riguarda gli agenti AI autonomi che possono prendere decisioni indipendenti senza l’intervento umano diretto. Queste entità sono già impiegate in settori come la finanza e la gestione della logistica, e agiscono con un minimo controllo umano.

L’esperto avverte che siamo vicini a comportamenti molto più complessi e potenzialmente imprevedibili da parte dell’AI se non vengono implementate misure di sicurezza rigorose. Le conseguenze potrebbero variare da semplici inconvenienti ai gravi problemi economico-sociali, con conseguenze disastrose per la popolazione.

Nonostante queste preoccupazioni, Bengio non si augura un blocco dello sviluppo dell’AI ma piuttosto una riconsiderazione delle priorità, con  un approccio più cauto ed etico nella ricerca su questa tecnologia.

L’onda di evoluzione, avviata con ChatGPT e proseguita dal già citato DeepSeek, sembra un processo inarrestabile, una gara di sviluppo senza troppe regole. Di fatto, nessuno vuole “frenare” la propria corsa prima degli altri e, tutto ciò, potrebbe portare a conseguenze imprevedibili.