Le PDG de Microsoft avertit que les entreprises paient l'IA deux fois, une fois en argent et une fois en secrets

Points clés

• Le PDG de Microsoft, Satya Nadella, a publié un billet de blog lundi avertissant que les entreprises remettent involontairement des connaissances commerciales propriétaires chaque fois qu'elles utilisent un modèle d'IA tiers.
• Nadella affirme que les requêtes, corrections et processus que les entreprises alimentent dans les systèmes d'IA deviennent des données d'entraînement qui rendent le modèle plus intelligent, potentiellement aux dépens du client.
• Les modèles ouverts fonctionnant sur les serveurs propres d'une entreprise représentaient 29 % de tout le trafic à travers le service d'acheminement d'IA de Vercel le mois dernier, ce qui suggère qu'un véritable changement est déjà en cours.
• En février 2025, Anthropic a accusé des développeurs chinois d'IA open-source d'envoyer des millions de requêtes de test à son modèle Claude pour copier son comportement dans des alternatives moins chères.

Satya Nadella dirige Microsoft, la société qui a investi des milliards de dollars dans OpenAI et possède également une participation dans Anthropic. Quand il dit aux entreprises de se méfier des laboratoires d'IA qu'il a soutenus, les gens écoutent.

Dans un billet de blog publié lundi, Nadella a exposé une préoccupation qui circule depuis un moment dans les salles de réunion. Les entreprises paient les outils d'IA en argent, dit-il. Elles paient aussi en quelque chose qu'elles remarquent rarement : les connaissances spécifiques et durement acquises du fonctionnement réel de leur entreprise.

Chaque fois qu'un employé tape une requête dans un outil d'IA, chaque fois qu'il corrige une réponse qui s'avère incorrecte, le modèle apprend quelque chose. Il apprend votre terminologie, vos cas limites, vos normes. Nadella appelle cette connaissance les « résidus » de l'utilisation de l'IA. C'est aussi, selon lui, l'une des informations les plus précieuses qu'une entreprise possède.

« Chaque correction se distille en savoir-faire institutionnel », écrit-il. « Le type de connaissance qu'un concurrent ne pourrait jamais acheter. »

Sa préoccupation est que les conditions que les fournisseurs d'IA attachent à leurs services leur permettent souvent d'apprendre de ces résidus. Une entreprise qui alimente ses processus internes dans un modèle d'IA pourrait, en effet, entraîner un concurrent futur.

Les entreprises devraient-elles s'en préoccuper ?

Oui, mais le risque est pratique, non théorique. Les fournisseurs d'IA diffèrent dans ce que leurs conditions autorisent. Certains promettent contractuellement de ne pas entraîner sur vos données ; d'autres se réservent le droit de le faire sauf si vous vous désabonnez. La plupart des entreprises n'ont jamais lu ces clauses.

Nadella soulève également un point distinct sur l'équité. Les laboratoires d'IA soutiennent qu'ils ont le droit légal d'entraîner leurs modèles sur les données Internet accessibles au public. Il trouve incohérent que les mêmes laboratoires rédigent ensuite des conditions interdisant à leurs clients de faire quelque chose de similaire, une pratique appelée « distillation », qui signifie utiliser les résultats d'un modèle pour entraîner un modèle plus petit et moins cher. Anthropic a fait la une en février en accusant des développeurs chinois d'IA de faire exactement cela à son modèle Claude, et en appelant à des contrôles gouvernementaux plus stricts.

Sa solution proposée est prévisible pour le PDG d'une société d'informatique en nuage. Il souhaite que les entreprises conservent la propriété de leurs requêtes et commentaires, structurent leurs systèmes de manière à pouvoir basculer facilement entre les fournisseurs d'IA, et exécutent les charges de travail sensibles sur une infrastructure privée. Commodément, l'infrastructure privée signifie souvent Microsoft Azure, la plateforme cloud de Microsoft.

Mais le marché plus large se dirige déjà dans cette direction de toute façon. Idit Levine, PDG de la société de logiciels d'entreprise Solo.io, a déclaré à TechCrunch qu'elle constate que les clients passent des grands modèles propriétaires aux modèles open-source, des systèmes d'IA dont le code sous-jacent est accessible au public, installés sur des serveurs que l'entreprise contrôle physiquement. Les modèles ouverts gèrent maintenant 29 % du trafic à travers les outils d'acheminement d'IA de Vercel.

Qu'en est-il pour les employés ordinaires ? Demandez à votre équipe informatique si votre entreprise a examiné les conditions de données de tous les outils d'IA utilisés par le personnel. La réponse surprendra probablement quelqu'un.

À surveiller : Les accords de services d'IA qui incluent des phrases comme « nous pouvons utiliser vos données pour améliorer nos services » sans option de désabonnement claire. Cette clause, cachée dans les petits caractères, est le mécanisme dont Nadella avertit.