Eine Woche alt und bereits aktiv: Das neue KI-Sicherheitsbündnis macht erste Schritte

Kernpunkte

• Die Open Secure AI Alliance (OSAA), angeführt von Nvidia, wurde vor weniger als zwei Wochen gegründet und zählt bereits über 120 Mitgliedunternehmen.
• Eine Arbeitsgruppe namens Shared AI Findings Exchange (SAFE) hat ihre ersten Entwurfsvorschläge zur öffentlichen Stellungnahme veröffentlicht.
• Adobe, Cisco, Intel, Microsoft und Visa sind Mitglieder; OpenAI, Google und Anthropic nicht.
• Sowohl OpenAI als auch Google haben den ursprünglichen offenen Brief unterzeichnet, der die Gruppe gründete, was ihre Abwesenheit von der Mitgliedschaft bemerkenswert macht.
• Die Linux Foundation, eine gemeinnützige Organisation, die weit verbreitete Open-Source-Softwareprojekte verwaltet, beaufsichtigt die Vorschläge.

Ein brandneues Industriebündnis, das rund um die Sicherung von KI aufgebaut wurde, tut bereits etwas Ungewöhnliches für eine eine Woche alte Organisation: tatsächliche Arbeit.

Die Open Secure AI Alliance, bekannt als OSAA und angeführt von Nvidia, enthüllte diese Woche auf der Black-Hat-Cybersicherheitskonferenz in Las Vegas ihre erste konkrete Leistung. In der OSAA sitzt eine Arbeitsgruppe namens Shared AI Findings Exchange oder SAFE. Ihre ersten Entwurfsvorschläge sind bereits zur öffentlichen Stellungnahme freigegeben, wobei die Linux Foundation, eine gemeinnützige Organisation, die weit verbreitete Open-Source-Software verwaltet, den Prozess leitet.

Was schlägt die Gruppe konkret vor?

Die frühen Vorschläge sind praktisch statt spektakulär. Sie behandeln, wie Unternehmen KI-Sicherheitsvorfälle vertraulich melden sollten, wie man alle betroffenen Parteien benachrichtigt, und wie man vorwurfsfreie Überprüfungen durchführt, damit die gesamte Branche aus Fehlern lernen kann.

Mitglieder bündeln auch Open-Source-Tools. Nvidia trägt eine Familie von Open-AI-Modellen und ein Tool namens Garak bei, einen Scanner, der nach Sicherheitslücken in großen Sprachmodellen sucht (der Technologie hinter KI-Chatbots). Das Identitätssicherheitsunternehmen Okta arbeitet an Möglichkeiten zur Überprüfung der Identität von KI-Agenten, Softwareprogrammen, die mehrstufige Aufgaben selbstständig ausführen können. Red Hat arbeitet an Governance-Frameworks für diese Agenten. Amazon hat zwei Tools beigesteuert: Strands Agents zum Erstellen von KI-Agenten und Cedar, eine Sprache zur Definition von Berechtigungen innerhalb eines Softwaresystems.

Das Ziel ist im Laufe der Zeit, dass sich diese Bausteine zu einem praktischen Open-Source-Toolkit zusammenfügen, das jedes Unternehmen verwenden könnte, um seine KI-Systeme zu sichern oder sich gegen Angriffe zu verteidigen, einschließlich Vorfälle wie ein bösartiges KI-Modell, das auf eine externe Plattform eindringt. Hugging Face, eine beliebte Website zum Austausch von KI-Modellen, die genau solch einen Vorfall mit einem OpenAI-Modell erlitten hat, ist selbst Mitglied der OSAA.

Wer ist dabei, und wer fehlt?

Die Mitgliederliste hat erhebliches Gewicht. Adobe, BlackRock, Cisco, Intel, Microsoft und Visa haben alle beigetreten.

Auffällig abwesend sind Anthropic (das den Claude-KI-Assistenten entwickelt), OpenAI (ChatGPT) und Google. Dieses letzte Paar ist besonders seltsam. Beide Unternehmen unterzeichneten den offenen Brief, zuerst von TechCrunch AI berichtet, der das Weiße Haus aufforderte, die Open-Source-KI-Entwicklung zu unterstützen. Dieser Brief, unterstützt von über 200 Technologieunternehmen und von Nvidia propagiert, wurde gerade letzte Woche veröffentlicht. Den Brief zu unterzeichnen, der eine Gruppe gründet, und dann der Gruppe nicht beizutreten, ist eine merkwürdige Position.

Anthropics Distanz ist weniger überraschend. Das Unternehmen hat sich historisch distanziert von Open-Source-KI-Bemühungen gehalten.

Was bedeutet das für normale Menschen?

Im Moment ändert sich nichts in Ihrem täglichen Leben. Aber wenn dieses Bündnis erfolgreich ist, werden die Unternehmen hinter den Apps und Diensten, die Sie nutzen, Sicherheitskenntnisse schneller austauschen, KI-Sicherheitslücken schneller beheben und bessere Tools zur Verfügung haben, um zu verhindern, dass KI-Systeme gegen ihre Benutzer eingesetzt werden. Eine vorwurfsfreie Meldekultur, in der Unternehmen Probleme ohne Angst vor Bestrafung zugeben, ist die Art von strukturellem Wandel, der Technologie ruhig sicherer für alle macht.

Die Allianz selbst drückte es in ihrem Gründungsbrief deutlich aus: „Offenheit könnte einer der wichtigsten Wege zu KI-Sicherheit sein." Angesichts der Geschwindigkeit, mit der sie bisher vorangeschritten ist, verdient diese Aussage, ernst genommen zu werden.

Häufig gestellte Fragen

Ist SAFE eine Regierungsbehörde?

Nein. SAFE ist eine private Industrie-Arbeitsgruppe innerhalb der OSAA, verwaltet von der Linux Foundation. Es hat keine regulatorische Befugnis; die Teilnahme ist freiwillig.

Betrifft dies meine KI-Tools jetzt?

Nicht direkt. Die Vorschläge sind in Entwurfsform und offen für Kommentare. Alle Tools oder Standards, die entstehen, werden von Mitgliedunternehmen in ihrem eigenen Tempo angenommen.

Warum ist Open-Source-KI für die Sicherheit wichtig?

Wenn KI-Code offen zur Überprüfung verfügbar ist, können Sicherheitsforscher Probleme schneller finden und melden. Geschlossene Systeme verlassen sich nur auf das Unternehmen, um Fehler zu erkennen, was historisch länger dauert.