Dutzende Tech-Giganten gründen Open Secure AI Alliance für Cybersicherheits-Tools für jedermann
Mehr als 40 Unternehmen von Microsoft bis Hugging Face bündeln quelloffene KI-Sicherheitstools, damit sich jede Organisation selbst verteidigen kann, ohne von einer Handvoll geschlossener Anbieter abhängig zu sein.
Wichtige Punkte
- Mehr als 40 Unternehmen haben 2025 die Open Secure AI Alliance gegründet, um frei verfügbare KI-Sicherheitstools zu entwickeln.
- Eine kürzliche Sicherheitsverletzung bei Hugging Face zeigte, warum offene KI wichtig ist: geschlossene Tools blockierten Ermittler, daher führte das Unternehmen selbst ein offenes Modell aus, um über 17.000 verdächtige Aktionen zu analysieren.
- NVIDIA trägt offene Modelle und ein neues Forschungsframework namens NOOA (NVIDIA Labs Object-Oriented Agent) zur Alliance bei.
- SpaceX' KI-Einheit xAI hat den Grok Build-Coding-Agent quelloffon gemacht und plant die Freigabe der Gewichte, der mathematischen Kerndateien, seiner Grok-Modellreihe.
- Die Alliance fordert Regierungen auf, offene KI-Sicherheitstools als Schutzmaßnahmen zu behandeln, nicht als Risiken, die eingeschränkt werden sollten.
Mehr als vierzig der weltweit größten Technologieunternehmen haben sich einer neuen Koalition angeschlossen, um KI-gestützte Cybersicherheit kostenlos jedem Verteidiger, überall, zur Verfügung zu stellen. Die Gruppe nennt sich Open Secure AI Alliance, und ihre Gründungsmitglieder sind NVIDIA, Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Hugging Face, Palo Alto Networks, Red Hat, Salesforce und Capital One, unter anderem.
Die Grundidee ist einfach. Derzeit befinden sich die leistungsstärksten KI-Sicherheitstools in einer kleinen Anzahl großer, geschlossener kommerzieller Produkte. Wenn diese Tools Ihnen den Zugriff verweigern oder Sie einfach nicht von einem Angreifer unterscheiden können, sind Sie festgefahren.
Was hat das tatsächlich bewiesen?
Ein echter Zwischenfall machte das Argument für sie deutlich. Als Hugging Face, eine von Millionen Entwicklern genutzte KI-Forschungsplattform, einen Sicherheitsverstoß erlitt, versuchte das Unternehmen, geschlossene KI-Tools zur Untersuchung zu nutzen. Diese Tools verweigerten die Zusammenarbeit, da sie nicht überprüfen konnten, ob die Personen, die Fragen stellten, Verteidiger oder Angreifer waren.
Hugging Face führte dann das offengewichtete Modell GLM 5.2 aus, ein KI-System, dessen Kerndateien öffentlich zum Download und zur lokalen Ausführung verfügbar sind, auf seinen eigenen Servern. Das Modell sortierte über 17.000 erfasste Aktionen und half, den Eindringling einzudämmen. Ohne dieses offene Modell, das auf einer vom Unternehmen kontrollierten Infrastruktur läuft, wäre die Untersuchung ins Stocken geraten.
Diese Episode erfasst genau, warum die Alliance existiert. Wenn Geschwindigkeit am wichtigsten ist, brauchen Verteidiger Tools, die sie überprüfen, anpassen und selbst ausführen können.
Was bauen die Mitglieder tatsächlich?
Jedes Mitglied trägt etwas Konkretes bei. NVIDIA, das zunächst von seinem eigenen Blog als Lead-Organizer genannt wurde, gibt offene Modelle und das NOOA-Forschungsframework frei, ein Toolkit, das es einfacher macht, KI-Agenten zu testen und zu prüfen – Softwareprogramme, die mehrstufige Aufgaben eigenständig ausführen können – bevor sie bereitgestellt werden. Microsoft trägt MDASH bei, eine Scanning-Apparatur, bedeutet eine Koordinationsschicht, die mehrere spezialisierte KI-Agenten sendet, um Sicherheitsfehler in Software zu finden und zu überprüfen. HPE trägt zu einem Standard namens SPIFFE/SPIRE bei, der KI-Agenten eine kryptografische Identität verleiht – eine Art manipulationssicherer digitaler Ausweis – damit Systeme bestätigen können, dass sie mit einer vertrauenswürdigen Workload und nicht mit einem Imitator kommunizieren.
Hugging Face hat Safetensors, ein sicheres Dateiformat zur Speicherung von KI-Modellgewichten, das einen häufigen Angriff blockiert, bei dem eine Modelldatei heimlich schädlichen Code auf dem Computer ausführt, der sie öffnet, der PyTorch Foundation zur Community-Verwaltung angeboten.
| Mitwirkender | Tool oder Beitrag | Was es tut |
|---|---|---|
| NVIDIA | NOOA-Framework + offene Modelle | Testet, verfolgt und prüft KI-Agent-Verhalten |
| Microsoft | MDASH-Scanning-Apparatur | Multi-Agent-System zum Auffinden ausnutzbarer Software-Bugs |
| HPE | SPIFFE/SPIRE-Identitätsstandard | Gibt KI-Agenten eine verifizierte digitale Identität |
| Hugging Face | Safetensors-Format | Speichert Modelldateien sicher, blockiert versteckte Code-Ausführung |
| IBM + Red Hat | Lightwell-Supply-Chain-Tool | Signiert Software-Patches digital über Open-Source-Projekte hinweg |
Sollte sich der normale Mensch dafür interessieren?
Ja, wenn Sie Online-Services, Banking, Krankenakten oder alles andere nutzen, das auf Cloud-Software läuft. Die Unternehmen und Behörden, die diese Services schützen, sind die Verteidiger, denen diese Alliance helfen möchte. Stärkere, breiter verfügbare Abwehrwerkzeuge bedeuten weniger Verstöße und schnellere Reaktionen, wenn Zwischenfälle auftreten.
Die Alliance fordert Entscheidungsträger auch direkt auf, offene Frontier-KI-Tools nicht zu verbieten oder einzuschränken. Pauschale Beschränkungen, argumentiert die Gruppe, würden Organisationen dazu zwingen, sich vollständig auf eine kleine Anzahl geschlossener Anbieter zu verlassen, was einen einzelnen Ausfallpunkt für kritische Infrastruktur schafft.
Häufig gestellte Fragen
Bedeutet offene KI, dass jeder, einschließlich Krimineller, diese Sicherheitstools nutzen kann?
Offene Modelle bergen echte Missbrauchsrisiken, und die Alliance erkennt sie offen an. Die Antwort, argumentieren Mitglieder, besteht in starken Schutzmaßnahmen und klaren Regeln gegen böswillige Nutzung, nicht darin, Verteidigern den Zugang zu leistungsstarken Tools zu verweigern. Geschlossene Systeme sind denselben Risiken ausgesetzt und beseitigen sie nicht.
Was ist ein offengewichtetes Modell und warum ist es für Sicherheit wichtig?
Ein offengewichtetes Modell ist ein KI-System, dessen mathematische Kerndateien öffentlich freigegeben sind, damit jede Organisation es auf ihren eigenen Computern herunterladen, überprüfen und ausführen kann. Für Sicherheitsteams bedeutet das, dass sie ihre eigenen Daten analysieren können, ohne sie an einen Drittanbieter zu senden, und dass sie genau überprüfen können, was die KI tut.
Was sollte meine Organisation jetzt tun?
Wenn Sie IT oder Sicherheit für ein Unternehmen verantworten, sind das NOOA-Framework und das Safetensors-Format bereits öffentlich auf GitHub und über die PyTorch Foundation verfügbar. Die Verfolgung der veröffentlichten Arbeiten der Alliance ist ein praktischer Ausgangspunkt für Teams, die offene KI-Sicherheitstools evaluieren.
