DeepSeek non risponde all’85% degli "argomenti sensibili" sulla Cina

DeepSeek ha fatto parlare molto negli ultimi giorni, con le sue straordinarie capacità e il conseguente boom che ha messo in ombra persino ChatGPT.

L’exploit del chatbot è stato un vero e proprio terremoto, capace di far crollare le azioni NVIDIA e impressionare profondamente appassionati e addetti ai lavori. Nonostante ciò, il modello AI cinese nasconde un aspetto che preoccupa molti.

Messo alla prova DeepSeek appare non del tutto imparziale quando deve trattare argomenti sensibili sulla Cina. Argomenti come Taiwan o le proteste di piazza Tienanmen, sembrano essere argomenti tabù per il chatbot che, nella migliore delle ipotesi, si rifiuta di rispondere.

DeepSeek e la censura cinese: secondo gli esperti la situazione è preoccupante

Quanto emerso da un’indagine di PromptFoo, startup che aiuta le aziende a trovare vulnerabilità in applicazioni AI, la situazione sarebbe più grave del previsto.

La stessa avrebbe scoperto che il modello di ragionamento R1, motore dietro al chatbot, si è rifiutato di risponde a circa l’85% su 1.360 quesiti riguardo domande delicate che riguardano la Cina. Non solo: anche in caso di risposta, gli output testuali di DeepSeek si sarebbero mostrate cariche di un “tono nazionalistico esagerato“.

Secondo i ricercatori, il modello AI può essere facilmente soggetto a interventi di jailbroken. Secondo gli stessi, questo potrebbe essere una sorta di “finestra lasciata aperta” di proposito dal regime del paese per poter intervenire e modificare il chatbot in base alle proprie esigenze propagandistiche.

A rendere il tutto ancora più preoccupante vi è anche il fatto che DeepSeek potrebbe non essere l’unico modello cinese di grande successo. Alibaba sta infatti lavorando per proporre un’AI che, tra le altre cose, dovrebbe essere in grado di gestire autonomamente computer e smartphone.