Les affirmations de la Chine sur l'ouverture de l'IA ne résistent pas à l'examen

Points clés

• GeoGPT, un système d'IA en géosciences chinois, a été présenté à la Conférence mondiale sur l'IA en juillet 2025 comme un exemple d'IA ouverte et conjointement gouvernée.
• Selon le « cadre d'ouverture des modèles » approuvé dans un récent rapport de l'ONU, GeoGPT ne serait pas qualifié d'ouvert.
• Les poids du modèle sous-jacent de GeoGPT sont construits principalement sur Qwen d'Alibaba, dont les licences ne respectent pas la norme OSI (Open Systems Interconnection) pour une véritable ouverture.
• Ni les données d'entraînement de GeoGPT ni son code source d'application n'ont été rendus publics.
• Son comité de gouvernance rend des comptes à Zhejiang Lab lui-même, et non à un organisme indépendant.

Les laboratoires d'IA chinois ont véritablement offert au monde des outils impressionnants et librement disponibles. Qwen, DeepSeek et Kimi, trois grands modèles de langage (la technologie qui alimente les chatbots comme ChatGPT), proviennent tous d'équipes chinoises et ont été diffusés de manière à permettre aux développeurs du monde entier de les télécharger et de les exécuter. Pour les chercheurs du monde en développement travaillant sur des ordinateurs modestes, cela revêt une grande importance.

Mais « diffusé ouvertement » et « véritablement ouvert » ne sont pas la même chose. Cette distinction est au cœur d'un débat qui se joue dans les pages du Guardian et au-delà.

Qu'est-ce que GeoGPT et pourquoi cela importe-t-il ?

GeoGPT est un système d'IA conçu pour la recherche en géosciences par Zhejiang Lab, un institut de recherche soutenu par l'État chinois. Le mois dernier, à la Conférence mondiale sur l'IA, il a été présenté comme un modèle de science ouverte et conjointement gouvernée. Les gouvernements du monde en développement ont été invités à le traiter comme une ressource partagée.

Le problème : il ne correspond pas à la définition standard d'« ouvert » que les experts indépendants et un récent rapport de l'ONU ont approuvée.

Selon le cadre d'ouverture des modèles, un véritable système d'IA ouvert doit divulguer ses poids de modèle (les paramètres internes qui font fonctionner l'IA), ses données d'entraînement et son code source. GeoGPT ne divulgue que les poids, et même ceux-ci sont assortis de conditions : ils reposent sur le modèle Qwen d'Alibaba, qui utilise des licences qui ne respectent pas la norme OSI, un point de référence largement reconnu pour les logiciels ouverts. Pas de données d'entraînement. Pas de code source. Et le comité qui est censé gouverner le projet rend des comptes à Zhejiang Lab lui-même.

C'est moins de la « science ouverte » et plus de la « science à peu près ouverte, à nos conditions ».

Est-ce un problème propre à la Chine ?

Pas du tout, et les chercheurs qui tirent la sonnette d'alarme y veillent soigneusement. Les universitaires qui répondent à un article de l'ambassadeur de la Chine auprès du Royaume-Uni soulignent que l'écart entre « ouvert » comme terme marketing et « ouvert » comme norme technique existe dans toute l'industrie.

De nombreux laboratoires occidentaux divulguent également les poids du modèle tout en gardant les données d'entraînement verrouillées. L'argument en faveur d'une véritable ouverture, incluant des normes communes que l'IA de tout pays doit respecter pour revendiquer ce label, s'applique partout.

Pour les utilisateurs ordinaires, l'enseignement pratique est simple. Lorsqu'un outil d'IA est décrit comme « ouvert », il vaut la peine de demander : ouvert comment ? N'importe qui peut-il inspecter les données à partir desquelles il a appris ? N'importe qui peut-il vérifier qui le contrôle ? Si les réponses ne sont pas claires, le mot « ouvert » fait beaucoup de travail.

Questions courantes

Pourquoi importe-t-il que les données d'entraînement de l'IA soient publiques ?

Si personne en dehors du laboratoire ne peut voir les données à partir desquelles une IA a appris, personne ne peut vérifier si elle contient des biais, des erreurs ou des informations restreintes. La transparence concernant les données d'entraînement est l'un des principaux moyens par lesquels les chercheurs et les régulateurs responsabilisent les systèmes d'IA.

Qu'est-ce que le cadre d'ouverture des modèles ?

Il s'agit d'une norme pour juger du degré réel d'ouverture d'un système d'IA, couvrant les poids, les données d'entraînement, le code source et la gouvernance. Un récent rapport de l'ONU l'a approuvé comme point de référence, ce qui signifie que davantage d'organismes internationaux commencent à l'utiliser lors de l'évaluation des outils d'IA promus pour un usage mondial.