Le affermazioni sulla trasparenza dell'IA cinese non reggono all'esame

Punti chiave

• GeoGPT, un sistema di IA per la geoscienze della Cina, è stato presentato alla Conferenza mondiale sull'IA nel luglio 2025 come esempio di IA aperta e governata in modo congiunto.
• Secondo il "quadro di trasparenza dei modelli" approvato in un recente rapporto delle Nazioni Unite, GeoGPT non si qualificherebbe come aperto.
• I pesi del modello sottostante di GeoGPT si basano principalmente su Qwen di Alibaba, le cui licenze non rispettano lo standard Open Systems Interconnection per la vera trasparenza.
• Né i dati di addestramento di GeoGPT né il codice sorgente della sua applicazione sono stati divulgati pubblicamente.
• La sua commissione di governance risponde a Zhejiang Lab stesso, non a un organo indipendente.

I laboratori di IA cinesi hanno genuinamente offerto al mondo alcuni strumenti impressionanti e liberamente disponibili. Qwen, DeepSeek e Kimi, tre modelli linguistici di grandi dimensioni (la tecnologia che alimenta chatbot come ChatGPT), provengono tutti da team cinesi e sono stati rilasciati in modi che permettono agli sviluppatori di tutto il mondo di scaricarli ed eseguirli. Per i ricercatori nel mondo in via di sviluppo che lavorano su computer modesti, questo ha molta importanza.

Ma "rilasciato apertamente" e "veramente aperto" non sono la stessa cosa. Questa distinzione è al cuore di un dibattito che si sviluppa sulle pagine di The Guardian e oltre.

Che cosa è GeoGPT e perché è importante?

GeoGPT è un sistema di IA costruito per la ricerca geoscientifica da Zhejiang Lab, un istituto di ricerca sostenuto dallo stato cinese. Il mese scorso, alla Conferenza mondiale sull'IA, è stato presentato come modello di scienza aperta e governata congiuntamente. I governi del mondo in via di sviluppo sono stati invitati a considerarlo una risorsa condivisa.

Il problema: non soddisfa la definizione standard di "aperto" che gli esperti indipendenti e un recente rapporto delle Nazioni Unite hanno approvato.

Secondo il quadro di trasparenza dei modelli, un sistema di IA veramente aperto deve divulgare i suoi pesi del modello (le impostazioni interne che fanno funzionare l'IA), i suoi dati di addestramento e il suo codice sorgente. GeoGPT divulga solo i pesi, e anche questi hanno dei vincoli: si basano sul modello Qwen di Alibaba, che utilizza licenze che non rispettano lo standard Open Systems Interconnection, un benchmark ampiamente riconosciuto per il software aperto. Nessun dato di addestramento. Nessun codice sorgente. E la commissione che dovrebbe governare il progetto risponde a Zhejiang Lab stesso.

Questo è meno "scienza aperta" e più "aperto-ish, secondo i nostri termini".

È solo un problema della Cina?

Affatto, e i ricercatori che lanciano l'allarme sono attenti a dirlo. Gli accademici che rispondono a un articolo dell'ambasciatore cinese nel Regno Unito sottolineano che il divario tra "aperto" come parola di marketing e "aperto" come standard tecnico esiste in tutta l'industria.

Molti laboratori occidentali rilasciano anche i pesi del modello mantenendo i dati di addestramento blindati. L'argomento per la vera trasparenza, inclusi gli standard condivisi che qualsiasi sistema di IA di qualsiasi paese deve rispettare per reclamare l'etichetta, è uno che si applica ovunque.

Per gli utenti ordinari, il consiglio pratico è semplice. Quando uno strumento di IA è descritto come "aperto", vale la pena chiedere: aperto come? Chiunque può ispezionare i dati da cui ha imparato? Chiunque può verificare chi lo controlla? Se le risposte non sono chiare, la parola "aperto" sta facendo un lavoro pesante.

Domande frequenti

Perché è importante che i dati di addestramento dell'IA siano pubblici?

Se nessuno al di fuori del laboratorio può vedere quali dati l'IA ha imparato, nessuno può verificare se contiene pregiudizi, errori o informazioni ristrette. La trasparenza sui dati di addestramento è uno dei modi principali in cui i ricercatori e le autorità di regolamentazione controllano i sistemi di IA.

Che cos'è il quadro di trasparenza dei modelli?

È uno standard per giudicare quanto è veramente aperto un sistema di IA, coprendo pesi, dati di addestramento, codice sorgente e governance. Un recente rapporto delle Nazioni Unite lo ha approvato come benchmark, il che significa che sempre più organismi internazionali lo stanno utilizzando quando valutano strumenti di IA promossi per l'uso globale.