Untätige GPUs sind wie geparkte Flugzeuge: Warum KIs nächstes Problem Verschwendung ist, nicht Stromverbrauch
Die KI-Industrie hat Jahre damit verbracht, intelligentere Modelle zu entwickeln und mehr Chips zu kaufen. Ein stilleres Problem zeichnet sich nun ab: Die teure Hardware in Rechenzentren leistet oft sehr wenig, und niemand wurde gebeten, das zu beheben.
Wichtige Punkte
- GPU-Chips, die speziellen Prozessoren, die KI betreiben, kosten Geld für jede Stunde, in der sie eingeschaltet sind, unabhängig davon, ob sie nützliche Arbeit leisten.
- Anthropic war ab 2026 gleichzeitig zu Multi-Gigawatt-KI-Computing-Vereinbarungen über vier Hardware-Plattformen (Amazon, Google, Microsoft und AMD) verpflichtet, ein Zeichen dafür, dass selbst die am besten finanzierten Labs den Chip-Zugang als akuten Engpass behandeln.
- Die gleiche Diskrepanz zwischen fixen Hardware-Kosten und variablem Bedarf, die die Flugverkehrsindustrie beinahe ruiniert hat, gilt nun auch für unternehmensweite KI-Cluster.
- Unternehmen, die ihre eigenen Chips kaufen, um steigende API-Gebühren zu vermeiden, müssen sich eine neue Frage stellen: Wie halten Sie diese Chips ausreichend ausgelastet, um die Rechnung zu rechtfertigen?
Die wichtigste Kennzahl einer Fluggesellschaft ist nicht, wie viele Flugzeuge sie besitzt. Es ist, wie viele Stunden pro Tag diese Flugzeuge tatsächlich in der Luft sind.
Die Logik ist unmissverständlich. Flugzeugkosten, Finanzierungsraten, Versicherung, Wartungsverträge laufen weiter, egal ob das Flugzeug am Gate oder in 35.000 Fuß Höhe ist. Umsatz entsteht nur, wenn es fliegt. Fluggesellschaften, die schnelle Umkehrungen und straffe Planung meisterten, überlebten. Diejenigen, die das nicht taten, gingen pleite, unabhängig von der Flottengröße.
Eine von Hugging Face veröffentlichte Analyse argumentiert, dass Enterprise-KI nun in genau der gleichen Situation ist, nur mit anderer Hardware.
Warum sollte mich das interessieren, wenn ich keine GPUs kaufe?
Es sollte Sie interessieren, weil GPU-Kosten zu jedem fließen, der KI-Tools bei der Arbeit nutzt oder als Kunde dafür bezahlt.
Ein GPU, ein spezialisierter Prozessor, der die schwere Rechenarbeit verrichtet, die KI benötigt, verursacht rund um die Uhr Kosten: Strom, Kühlung, Finanzierung, Abschreibung. Sein Output zählt nur, wenn es eine echte Aufgabe ausführt. Zwei Unternehmen mit identischen Chip-Budgets können sehr unterschiedliche Wirtschaftlichkeit haben, je nachdem wie viel dieser Hardware zu jedem gegebenen Zeitpunkt tatsächlich beschäftigt ist.
Die Industrie verbrachte ihre erste Phase damit, ein anderes Problem zu lösen. Größere Modelle, trainiert auf mehr Daten, schlugen kleinere. Parameterzahlen, die internen Zahlen, die die Kapazität eines Modells bestimmen, und Leaderboard-Rankings dominierten die Diskussion. Dieses Rennen führte zu Modellen, die robust genug für ernsthaften geschäftlichen Einsatz waren. Es schuf auch einen enormen Appetit auf Chips.
2020 baute Microsoft für OpenAI einen dedizierten Supercomputer mit mehr als 10.000 GPUs, um GPT-3, das Modell hinter dem frühen ChatGPT, zu trainieren. Damals klang diese Zahl fast unmöglich vorstellbar. Bis 2026 wirkt sie bescheiden.
Wie sieht Verschwendung tatsächlich in einem Chip-Cluster aus?
Beschäftigt aussehende Hardware kann immer noch die meiste ihrer Kapazität verschwenden. Das Problem ist, dass verschiedene KI-Aufgaben unterschiedliche Anforderungen an denselben Chip haben.
Echtzeit-Inferenz, das Generieren einer KI-Antwort in Sekunden, erfordert vor allem niedrige Latenz. Batch-Verarbeitung, das Verarbeiten großer Datensätze über Nacht, interessiert sich für den Gesamtdurchsatz und kann warten. Das Trainieren eines Modells kann einen Chip tagelang vollständig beanspruchen. Das Komprimieren eines Modells (ein Prozess namens Quantisierung) benötigt einen großen Kapazitätsstoß für kurze Zeit, dann nichts.
Ein Planungssystem, das für eine dieser Aufgaben optimiert ist, wird die anderen fast automatisch schlecht handhaben. Ein Cluster kann auf einem Dashboard hohe Durchschnittslastung zeigen, während spezifische Jobs in einer Warteschlange sitzen und auf den richtigen Chip-Typ warten, der frei wird.
Das Muster spiegelt das Luftfahrtproblem, aber mit einer zusätzlichen Wendung. Ein untätiges Flugzeug kann normalerweise kurzfristig auf eine andere Route umgelegt werden. Eine GPU, die für eine Klasse von Arbeitslast konfiguriert ist, kann nicht immer eine andere übernehmen, ohne Rekonfiguration, Verzögerung oder Verschwendung.
| Era | Bindende Einschränkung | Wer spürte es zuerst |
|---|---|---|
| 2018 bis 2021 | Modellqualität | Forschungslabors |
| 2022 bis 2024 | Chip-Versorgung | Labs und Cloud-Anbieter |
| 2025 vorwärts | Chip-Auslastung | Unternehmen, die eigene Cluster betreiben |
Was sollten Unternehmen, die auf KI aufbauen, daraus mitnehmen?
Die praktische Konsequenz ist einfach. Eine GPU-Kapazitätsvereinbarung zu unterzeichnen ist der Teil, der ein Deadline und ein Beschaffungsteam hat. Diese Kapazität am Laufen zu halten ist der Teil, der stillschweigend entscheidet, ob die Vereinbarung es wert war.
Unternehmen, die sich von Pay-per-Use-API-Preisen abwandten, bei denen Kosten linear mit jeder Anfrage steigen, hin zu eigenem Hardware-Besitz, sehen sich einer Break-Even-Berechnung gegenüber. Unterhalb eines bestimmten Nutzungsniveaus ist die API billiger. Darüber hinaus gewinnt eigene Infrastruktur. Aber eigene Infrastruktur gewinnt nur, wenn jemand dafür verantwortlich ist, sie ausgelastet zu halten.
Derzeit fehlt diese Verantwortlichkeit weitgehend. Die Luftfahrtindustrie brauchte Jahrzehnte und mehrere Pleiten, um Auslastung zu einer Vorstandsebene-Kennzahl zu machen. Die KI-Infrastruktur hat möglicherweise nicht so lange Zeit.
