Un bot IA a piraté Hugging Face. Hugging Face a utilisé l'IA pour l'attraper.

Points clés

• Hugging Face, une grande plateforme de partage de modèles et de données IA, a confirmé une intrusion dans une partie de son infrastructure de production en juillet 2026.
• L'attaque a été menée de bout en bout par un agent IA autonome, un logiciel qui a planifié et exécuté des milliers d'étapes de lui-même sans qu'un humain ne dirige chacune d'elles.
• L'équipe de sécurité de Hugging Face a utilisé ses propres outils IA pour analyser plus de 17 000 actions d'attaquants enregistrées, comprimant des jours de travail judiciaire en quelques heures.
• Les modèles IA commerciaux grand public ont bloqué les requêtes judiciaires des défenseurs en raison des filtres de sécurité, forçant l'équipe à exécuter l'analyse sur un modèle ouvert auto-hébergé appelé GLM 5.2.
• Hugging Face n'a trouvé aucune preuve que ses modèles, ensembles de données ou packages de logiciels accessibles au public aient été modifiés, mais elle vérifie toujours si les données des partenaires ou des clients ont été exposées.

Quelque chose de discrètement significatif s'est produit dans l'un des plus grands pôles IA d'Internet le week-end dernier. Hugging Face, la plateforme où les chercheurs et les entreprises partagent des modèles et des données IA, a publié cette semaine une divulgation de sécurité confirmant qu'elle avait été piratée. Non pas par une personne assise à un clavier, mais par un agent IA autonome, un logiciel qui s'est fixé ses propres objectifs, a écrit ses propres prochaines étapes et a continué pendant des jours sans intervention humaine.

Le point d'entrée était le pipeline de traitement des données, le système automatisé qui ingère les ensembles de données téléchargés par les utilisateurs. Le code de l'attaquant a abusé de deux faiblesses là-bas, trompant essentiellement le système pour qu'il exécute des instructions malveillantes. À partir de ce point d'appui, l'agent a augmenté ses propres privilèges d'accès, a récolté les identifiants de connexion des services cloud et s'est déplacé tranquillement sur plusieurs clusters internes au cours d'un week-end complet.

L'entreprise estime que des dizaines de milliers d'actions automatisées individuelles ont été exécutées. Ce n'est pas une faute de frappe.

Les utilisateurs de Hugging Face devraient-ils s'inquiéter ?

Pour la plupart des utilisateurs, le risque immédiat est faible, mais la plateforme demande à chacun de faire pivoter ses jetons API, les clés personnelles qui accordent l'accès à votre compte Hugging Face, par précaution. Pensez à changer vos serrures après que la maison d'un voisin ait été cambriolée : probablement inutile, mais une assurance bon marché. Si vous avez un compte, connectez-vous, générez un nouveau jeton et révoquez l'ancien. Quiconque pense que ses données ont été directement affectées sera contacté directement par Hugging Face.

Le travail judiciaire qui a démêlé l'attaque mérite qu'on s'y arrête. L'équipe de sécurité a utilisé ses propres outils d'analyse IA pour traiter l'intégralité du journal des attaques, plus de 17 000 événements enregistrés, et reconstruire exactement ce que l'agent a fait. Des heures au lieu de jours.

Mais il y avait un piège que personne n'avait prévu.

Quand l'équipe a d'abord alimenté les données d'attaque brutes (code d'exploitation, instructions de commande et de contrôle, fragments d'identifiants volés) dans les modèles IA commerciaux de pointe via leurs API, ces modèles ont refusé de l'aider. Les filtres de sécurité intégrés aux services des fournisseurs comme OpenAI et Anthropic ne peuvent pas faire la différence entre un analyste judiciaire étudiant une attaque et un criminel en planifiant une. Les requêtes ont été bloquées.

L'équipe s'est tournée vers GLM 5.2, un modèle de poids ouvert, c'est-à-dire un modèle dont le code sous-jacent est accessible au public et peut être exécuté sur vos propres ordinateurs. L'exécuter en interne a gardé toutes les données d'attaquant sensibles à l'intérieur de leurs propres murs. Aucune donnée d'identifiant n'a fui vers un cloud tiers au cours du processus d'investigation de la violation.

Hugging Face partage ce retour d'information avec les fournisseurs commerciaux dont les barrières les ont bloqués, et ne soutient pas que ces mesures de sécurité sont mauvaises. Le conseil pratique pour toute équipe de sécurité : avoir un modèle IA capable que vous pouvez exécuter en privé, testé et prêt, avant qu'un incident ne force la question.

Le tableau d'ensemble est inconfortable. Un attaquant IA entièrement autonome n'est plus une expérience de pensée. Il fonctionne à la vitesse de la machine, coûte peu à exploiter et n'a pas de fatigue. Les défenseurs ont maintenant besoin de l'IA fonctionnant à la même vitesse de leur côté.