Das AI-Rechenzentrum in einer Box: Einblick in Runwares Sonic Inference Pod
Ein Startup möchte riesige, wasserverbrauchende Rechenzentren durch kleine, tragbare Recheneinheiten ersetzen, die überall dort versandt werden können, wo es eine Stromsteckdose gibt. Hier ist, was es baut, und ob es haltbar ist.
Wichtige Punkte
- Runware startete am Dienstag den Sonic Inference Pod, eine einzelne tragbare Recheneinheit, die für KI-Arbeitslasten in der Nähe der Menschen gedacht ist, die sie benötigen.
- Das Unternehmen sammelte im Dezember 2024 in einer Serie-A-Finanzierungsrunde 50 Millionen Dollar, um KI-Bildgenerierungsinfrastruktur zu bauen.
- Runware hat derzeit 10 Pods in den USA, Europa und Asien-Pazifik aktiv, mit 160 bereits identifizierten potenziellen Standorten.
- Die Pods verwenden ein geschlossenes Kühlsystem, das bedeutet, dass kein Wasser verbraucht wird, im Gegensatz zu konventionellen Rechenzentren.
- Zu Runwares Kunden gehören die Bildgenerierungsplattform Higgsfield AI und der Website-Builder Wix.
Jedes Mal, wenn Sie ein KI-Tool bitten, ein Bild zu generieren, einen Satz zu schreiben oder eine Frage zu beantworten, leistet ein Rechenzentrum irgendwo die schwere Arbeit. Diese Zentren sind riesig, teuer, durstig nach Wasser und brauchen Jahre zum Bauen. Runware, ein KI-Infrastrukturunternehmen, denkt, dass es einen besseren Weg gibt.
Am Dienstag kündigte das Unternehmen den Sonic Inference Pod an: eine modulare, in sich geschlossene Recheneinheit, die an fast jeden Ort mit Stromversorgung versandt und in Tagen statt Jahren eingerichtet werden kann. Stellen Sie sich vor, es wäre ein Rechenzentrum, das auf die Größe eines großen Schiffscontainers geschrumpft wurde.
Was macht es eigentlich?
Der Pod behandelt Inferenz, den Prozess des Ausführens eines KI-Modells, um eine Antwort oder ein Bild zu erzeugen, im Gegensatz zu dem längeren und teureren Prozess des Trainierens eines Modells. Runware behauptet, dass seine Pods dies zu niedrigeren Kosten als konkurrierende Cloud-Plattformen tun können, während sie dennoch hochwertige Ergebnisse liefern.
Da die Einheiten modular sind, bedeutet das Hinzufügen von Kapazität, eine weitere Pod zu versenden, nicht den Grundstein für ein neues Gebäude zu legen. Flaviu Radulescu, Runwares Mitgründer und Chief Executive, sagte TechCrunch, dass das Design dem Unternehmen ermöglicht, „überall dort bereitzustellen, wo Strom vorhanden ist" und schnell zu reagieren, wenn neue Chips auf den Markt kommen.
„Die Nachfrage nach Inferenz wächst schneller, als Einrichtungen gebaut werden können", sagte Radulescu.
Warum ist das Kühlsystem wichtig?
Konventionelle Rechenzentren verbrauchen enorme Wassermengen, um Server kühl zu halten. Der Sonic Inference Pod verwendet stattdessen ein geschlossenes Kühlsystem, das die gleiche Flüssigkeit wiederholt zirkuliert, ohne Wasser aus lokalen Versorgungen zu entnehmen. Runware sagt, dass das sowohl für die Umwelt als auch für die Gemeinden in der Nähe seiner Standorte wichtig ist.
Das Unternehmen läuft noch nicht vollständig mit erneuerbarer Energie, und Radulescu räumte ein, dass der KI-Stromverbrauch unabhängig davon, welches Unternehmen die Berechnung liefert, weiter steigen wird. Sein Argument ist, dass Pods Strom nutzen, der bereits im Netz vorhanden ist, statt dass neue Kapazität gebaut werden muss, und dass „mehr auf diese Weise gebaute Inferenz weniger neues Netz, weniger Wasser für die gleiche Menge an Rechenleistung bedeutet."
Das ist eine Unternehmensbehauptung, keine unabhängig überprüfte Feststellung. Die Leser sollten sie entsprechend bewerten.
Was bedeutet das für gewöhnliche Menschen?
Direkt gesagt, noch nicht viel. Runware verkauft seine Rechenkapazität an Unternehmen, nicht an Verbraucher. Aber wenn seine Kosten- und Geschwindigkeitsansprüche gelten, könnten die Unternehmen, die die KI-Tools bauen, die gewöhnliche Menschen täglich verwenden, Einsparungen durch billigere oder schnellere Produkte weitergeben.
Das größere Bild ist auch wichtig. Gemeinden in den USA haben über steigende Stromrechnungen berichtet, die mit großen Rechenzentren in der Nähe verbunden sind. Ein verteiltes Modell, bei dem kleinere Einheiten die Last über viele Standorte verteilen, könnte diesen Druck verringern, könnte ihn aber auch breiter verteilen. Unabhängige Überprüfung dieser Kompromisse hat noch nicht stattgefunden.
Runwares 10 aktive Pods und 160 identifizierte Standorte sind ein Anfang. Ob das Modell wirklich mit den Multi-Milliarden-Dollar-Projekten konkurrieren kann, die OpenAI und andere bauen, ist eine Frage, die die nächsten Jahre beantworten werden.
