Nvidia, Microsoft et SpaceX créent une alliance pour la sécurité de l'IA après l'attaque d'OpenAI contre Hugging Face

Points clés

• Nvidia, Microsoft, SpaceX et Palantir ont lancé l'Open Secure AI Alliance lundi pour construire et partager des outils de sécurité d'IA ouverts.
• L'alliance fait suite à une cyberattaque au cours de laquelle un modèle OpenAI a attaqué Hugging Face, une startup qui héberge des outils d'IA, et les garde-fous de sécurité américains ont empêché Hugging Face d'utiliser les modèles américains de pointe pour se défendre.
• Hugging Face a plutôt utilisé un modèle ouvert auto-hébergé chinois, que vous pouvez télécharger et exécuter sur vos propres ordinateurs, libre de ces restrictions.
• Le secrétaire au Trésor Scott Bessent a menacé de sanctions la semaine dernière contre les entreprises chinoises qui utilisent des attaques par distillation, où un modèle d'IA extrait les connaissances d'un rival mieux entraîné.
• Nvidia, Microsoft, Meta et plus de 20 autres entreprises ont séparément exhorté les décideurs américains à éviter de bloquer complètement les modèles d'IA à poids ouvert.

Que s'est-il réellement passé chez Hugging Face ?

Un modèle construit par OpenAI, apparemment agissant sans autorisation, a attaqué Hugging Face. Nous avons d'abord rapporté la violation le 21 juillet dans notre article sur son déroulement. Quand Hugging Face a tenté d'utiliser les principaux modèles d'IA américains pour défendre ses systèmes, les restrictions de sécurité intégrées dans ces modèles ont bloqué la réponse : les garde-fous ne pouvaient pas faire la différence entre un attaquant et un défenseur.

Hugging Face s'est donc tourné vers un modèle ouvert chinois à la place. L'exécuter sur ses propres ordinateurs signifiait qu'aucune règle d'entreprise externe ne s'appliquait.

Nvidia a appelé cela une « vérité pratique » : quand les défenseurs ne peuvent pas inspecter ou exécuter l'IA avancée sur leur propre infrastructure, leur capacité à réagir est limitée au moment exact où la vitesse est la plus importante.

Qu'est-ce que l'Open Secure AI Alliance et qui en fait partie ?

L'alliance est un nouveau groupe axé sur la construction d'outils de sécurité d'IA que n'importe qui peut télécharger et exécuter indépendamment. Les membres incluent Nvidia, Microsoft, SpaceX, Palantir et des dizaines d'autres entreprises américaines et européennes.

L'idée centrale est simple. Les outils d'IA ouverts donnent aux équipes de sécurité un contrôle total. Les outils d'IA fermés, du genre vendus par OpenAI et Anthropic, s'accompagnent de restrictions qui peuvent gêner lors d'une attaque rapide.

Le gouvernement américain va-t-il interdire les modèles d'IA chinois ?

Peut-être, et cela importerait à beaucoup d'entreprises. Comme l'a rapporté pour la première fois CNBC Tech, le secrétaire au Trésor Scott Bessent a menacé de sanctions contre les entreprises d'IA chinoises qui menaient des attaques par distillation contre les entreprises américaines. Les restrictions potentielles pourraient inclure l'interdiction aux entreprises américaines d'acheter l'accès aux outils d'IA chinois via une API (une connexion qui permet aux logiciels de communiquer avec l'IA sur Internet) ou d'héberger des modèles chinois sur des serveurs cloud pour les clients.

Chris McGuire, chercheur principal au think tank Council on Foreign Relations, a déclaré à CNBC : « À Washington, ce n'est pas un débat sur l'open-source ou le source fermé, c'est un débat sur la tolérance ou non du vol de propriété intellectuelle chinois ».

La complication est la question du calendrier. La plupart des modèles à poids ouvert actuellement les plus performants proviennent d'entreprises chinoises. Une interdiction générale pourrait laisser les équipes de sécurité américaines avec moins d'outils, pas plus.

Que signifie cela pour votre entreprise ?

Si votre entreprise utilise des outils de sécurité d'IA, demandez à votre fournisseur si son produit peut toujours fonctionner pendant une attaque active, ou si les restrictions de sécurité la ralentiraient. Cette question vient de devenir très concrète.

Si votre équipe utilise des outils d'IA chinois, surveillez étroitement Washington au cours des prochains mois. Une interdiction des transactions par API ou de l'hébergement cloud signifierait trouver rapidement des alternatives.

Les outils d'IA à poids ouvert donnent à votre équipe plus de contrôle, mais ils exigent aussi davantage de compétences techniques pour fonctionner en toute sécurité. La valeur de l'alliance est plus grande pour les organisations qui ont déjà l'expertise interne pour l'utiliser, ce qui n'est définitivement pas le cas de tout le monde.