Des dizaines de géants technologiques forment l'Alliance Open Secure AI pour mettre les outils de cyberdéfense à la disposition de tous
Plus de 40 entreprises, de Microsoft à Hugging Face, mettent en commun des outils open-source de sécurité IA afin que toute organisation puisse se défendre sans dépendre d'une poignée de fournisseurs fermés.
Points clés
- Plus de 40 entreprises ont lancé l'Alliance Open Secure AI en 2025 pour construire des outils de sécurité IA librement disponibles.
- Une récente faille de sécurité chez Hugging Face a montré pourquoi l'IA ouverte compte : les outils fermés ont bloqué les enquêteurs, donc l'entreprise a exécuté elle-même un modèle ouvert pour analyser plus de 17 000 actions suspectes.
- NVIDIA contribue des modèles ouverts et un nouveau cadre de recherche appelé NOOA (NVIDIA Labs Object-Oriented Agent) à l'Alliance.
- L'unité IA de SpaceX, xAI, a mis en open-source l'agent de codage Grok Build et prévoit de publier les poids, les fichiers mathématiques fondamentaux, de sa ligne de modèles Grok.
- L'Alliance appelle les gouvernements à traiter les outils de sécurité IA ouverts comme des actifs défensifs, non comme des risques à restreindre.
Plus de quarante des plus grandes entreprises technologiques du monde ont adhéré à une nouvelle coalition pour mettre la cyberdéfense alimentée par l'IA à la disposition de tout défenseur, partout. Le groupe s'appelle l'Alliance Open Secure AI, et ses membres fondateurs incluent NVIDIA, Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Hugging Face, Palo Alto Networks, Red Hat, Salesforce et Capital One, parmi d'autres.
L'idée centrale est simple. En ce moment, les outils de sécurité IA les plus puissants se trouvent dans un petit nombre de grands produits commerciaux fermés. Si ces outils vous bloquent l'accès, ou ne parviennent tout simplement pas à vous différencier d'un attaquant, vous êtes bloqué.
Quel incident réel a prouvé le point ?
Un incident réel l'a démontré. Quand Hugging Face, une plateforme de recherche en IA utilisée par des millions de développeurs, a subi une faille de sécurité, l'entreprise a tenté d'utiliser des outils IA fermés pour enquêter. Ces outils ont refusé de l'aider parce qu'ils ne pouvaient pas vérifier si les personnes posant les questions étaient des défenseurs ou des attaquants.
Hugging Face a ensuite exécuté le modèle GLM 5.2 à poids ouvert, un système IA dont les fichiers fondamentaux sont disponibles publiquement pour que quiconque les télécharge et les exécute, sur ses propres serveurs. Le modèle a trié plus de 17 000 actions enregistrées et a aidé à contenir l'intrusion. Sans ce modèle ouvert, exécuté sur l'infrastructure que l'entreprise contrôlait elle-même, l'enquête aurait stagné.
Cet épisode capture exactement pourquoi l'Alliance existe. Quand la rapidité compte le plus, les défenseurs ont besoin d'outils qu'ils peuvent inspecter, adapter et exécuter eux-mêmes.
Quels outils les membres construisent-ils réellement ?
Chaque membre contribue quelque chose de concret. NVIDIA, d'abord rapportée comme organisatrice principale par son propre blog, publie des modèles ouverts et le cadre de recherche NOOA, une boîte à outils qui facilite les tests et l'audit des agents IA, des programmes informatiques qui peuvent effectuer des tâches en plusieurs étapes de manière autonome, avant leur déploiement. Microsoft contribue MDASH, un harnais de numérisation, ce qui signifie une couche de coordination, qui envoie plusieurs agents IA spécialisés pour trouver et vérifier les failles de sécurité dans les logiciels. HPE contribue à une norme appelée SPIFFE/SPIRE qui confère aux agents IA une identité cryptographique, une sorte de carte d'identité numérique inviolable, afin que les systèmes puissent confirmer qu'ils communiquent avec une charge de travail de confiance et non un imposteur.
Hugging Face a offert Safetensors, un format de fichier sûr pour stocker les poids des modèles IA qui bloque une attaque courante où un fichier de modèle exécute secrètement du code nuisible sur l'ordinateur qui l'ouvre, à la Fondation PyTorch pour la gestion communautaire.
| Contributeur | Outil ou contribution | Ce qu'il fait |
|---|---|---|
| NVIDIA | Cadre NOOA + modèles ouverts | Teste, trace et audite le comportement des agents IA |
| Microsoft | Harnais de numérisation MDASH | Système multi-agents pour trouver les bugs logiciels exploitables |
| HPE | Norme d'identité SPIFFE/SPIRE | Confère aux agents IA une identité numérique vérifiée |
| Hugging Face | Format Safetensors | Stocke les fichiers de modèles en toute sécurité, bloque l'exécution de code caché |
| IBM + Red Hat | Outil Lightwell pour la chaîne d'approvisionnement | Signe numériquement les correctifs logiciels dans les projets open-source |
Les gens ordinaires devraient-ils s'en soucier ?
Oui, si vous utilisez des services en ligne, des services bancaires, des dossiers de santé ou quoi que ce soit qui fonctionne sur un logiciel cloud. Les entreprises et les agences gouvernementales qui protègent ces services sont les défenseurs que cette Alliance tente d'aider. Des outils de défense plus forts et plus largement disponibles signifient moins de failles et des réponses plus rapides quand des incidents se produisent.
L'Alliance demande également directement aux décideurs politiques de ne pas interdire ou restreindre les outils IA frontière ouverts. Les restrictions générales, selon le groupe, pousseraient les organisations à dépendre entièrement d'un petit nombre de fournisseurs fermés, créant un point de défaillance unique pour les infrastructures critiques.
Questions courantes
L'IA ouverte signifie-t-elle que n'importe qui, y compris les criminels, peut utiliser ces outils de sécurité ?
Les modèles ouverts comportent des risques réels de mauvais usage, et l'Alliance les reconnaît clairement. La réponse, selon les membres, est des mesures de protection solides et des règles claires contre l'utilisation malveillante, non refuser aux défenseurs l'accès à des outils efficaces. Les systèmes fermés font face aux mêmes risques et ne les font pas disparaître.
Qu'est-ce qu'un modèle à poids ouvert et pourquoi cela compte-t-il pour la sécurité ?
Un modèle à poids ouvert est un système IA dont les fichiers mathématiques fondamentaux sont publiquement publiés, afin que toute organisation puisse les télécharger, les inspecter et les exécuter sur ses propres ordinateurs. Pour les équipes de sécurité, cela signifie qu'elles peuvent analyser leurs propres données sans les envoyer à un service tiers, et elles peuvent vérifier exactement ce que l'IA fait.
Que devrait faire mon organisation en ce moment ?
Si vous gérez l'informatique ou la sécurité pour une entreprise, le cadre NOOA et le format Safetensors sont déjà disponibles publiquement sur GitHub et via la Fondation PyTorch. Suivre les travaux publiés de l'Alliance est un point de départ pratique pour les équipes évaluant les outils de sécurité IA ouverts.
