Une semaine d'existence et déjà active : la nouvelle alliance de sécurité de l'IA fait ses premiers pas

Points clés

• L'Open Secure AI Alliance (OSAA), dirigée par Nvidia, a été lancée il y a moins de deux semaines et compte déjà plus de 120 entreprises membres.
• Un groupe de travail appelé Shared AI Findings Exchange (SAFE) a publié ses premières propositions de brouillon pour consultation publique.
• Adobe, Cisco, Intel, Microsoft et Visa en sont membres ; OpenAI, Google et Anthropic ne le sont pas.
• OpenAI et Google ont tous deux signé la lettre ouverte originale qui a créé le groupe, ce qui rend leur absence de l'adhésion notable.
• La Linux Foundation, une organisation à but non lucratif qui gère les projets de logiciels libres largement utilisés, supervise les propositions.

Une toute nouvelle alliance industrielle consacrée à la sécurité de l'IA fait déjà quelque chose d'inhabituel pour une organisation d'une semaine : du vrai travail.

L'Open Secure AI Alliance, connue sous le nom d'OSAA et dirigée par Nvidia, a dévoilé son premier résultat concret à la conférence de cybersécurité Black Hat à Las Vegas cette semaine. Au sein de l'OSAA se trouve un groupe de travail appelé Shared AI Findings Exchange, ou SAFE. Ses premières propositions de brouillon sont déjà ouvertes aux commentaires du public, la Linux Foundation, une organisation à but non lucratif qui supervise les logiciels libres largement utilisés, gérant le processus.

Que propose exactement le groupe ?

Les propositions précoces sont pratiques plutôt que spectaculaires. Elles couvrent comment les entreprises devraient signaler de manière confidentielle les incidents de sécurité de l'IA, comment alerter tous les concernés, et comment mener des révisions sans culpabilité pour que l'ensemble de l'industrie puisse apprendre des erreurs.

Les membres mettent également en commun des outils open source. Nvidia contribue une famille de modèles d'IA ouverts et un outil appelé Garak, un scanner qui recherche les vulnérabilités dans les grands modèles de langage (la technologie derrière les chatbots d'IA). Okta, une entreprise de sécurité des identités, travaille sur des moyens de vérifier l'identité des agents d'IA, des programmes logiciels qui peuvent exécuter des tâches en plusieurs étapes de manière autonome. Red Hat travaille sur des cadres de gouvernance pour ces mêmes agents. Amazon a contribué deux outils : Strands Agents, pour construire des agents d'IA, et Cedar, un langage pour définir qui ou quoi est autorisé à faire quoi dans un système logiciel.

L'objectif, au fil du temps, est que ces éléments s'ajoutent à un kit d'outils open source pratique que toute entreprise pourrait utiliser pour sécuriser ses systèmes d'IA ou se défendre contre les attaques, y compris les incidents comme un modèle d'IA rogue s'infiltrant dans une plateforme externe. Hugging Face, un site populaire pour partager les modèles d'IA qui a connu exactement ce type d'incident impliquant un modèle d'OpenAI, est lui-même membre de l'OSAA.

Qui est dedans et qui manque ?

La liste des membres a un poids sérieux. Adobe, BlackRock, Cisco, Intel, Microsoft et Visa ont tous adhéré.

Notablement absents sont Anthropic (qui fabrique l'assistant Claude), OpenAI (ChatGPT) et Google. Cette dernière paire est particulièrement curieuse. Les deux entreprises ont signé la lettre ouverte, d'abord rapportée par TechCrunch AI, qui appelait le gouvernement à soutenir le développement de l'IA open source. Cette lettre, soutenue par plus de 200 entreprises technologiques et promue par Nvidia, a été publiée la semaine dernière. Signer la lettre qui a créé un groupe et ne pas rejoindre le groupe est une position étrange à tenir.

La distance d'Anthropic est moins surprenante. L'entreprise s'est historiquement tenue à distance des efforts de l'IA open source.

Qu'est-ce que cela signifie pour les gens ordinaires ?

Pour l'instant, rien ne change dans votre vie quotidienne. Mais si cette alliance réussit, les entreprises derrière les applications et services que vous utilisez partageront les connaissances en matière de sécurité plus rapidement, corrigeront les vulnérabilités de l'IA plus rapidement et disposeront de meilleurs outils pour empêcher les systèmes d'IA d'être retournés contre leurs utilisateurs. Une culture de signalement sans culpabilité, où les entreprises admettent les problèmes sans crainte de punition, est le type de changement structurel qui rend silencieusement la technologie plus sûre pour tous.

L'alliance elle-même l'a clairement énoncé dans sa lettre fondatrice : « L'ouverture peut être l'un des chemins les plus importants vers la sécurité et la sûreté de l'IA. » Compte tenu de la rapidité avec laquelle elle s'est déplacée jusqu'à présent, cette affirmation mérite d'être prise au sérieux.

Questions fréquentes

SAFE est-il un organisme gouvernemental ?

Non. SAFE est un groupe de travail industriel privé au sein de l'OSAA, géré par la Linux Foundation. Il n'a aucun pouvoir de réglementation ; la participation est volontaire.

Cela affecte-t-il mes outils d'IA maintenant ?

Pas directement. Les propositions sont sous forme de brouillon et ouvertes aux commentaires. Tous les outils ou normes qui émergeront seront adoptés par les entreprises membres à leur rythme.

Pourquoi l'IA open source est-elle importante pour la sécurité ?

Lorsque le code d'IA est ouvert à inspection par quiconque, les chercheurs en sécurité peuvent trouver et signaler les problèmes plus rapidement. Les systèmes fermés s'appuient sur l'entreprise seule pour détecter les défauts, ce qui prend historiquement plus de temps.