Apple spricht mit dem Startup, das riesige KI auf ein iPhone passt

Wichtige Punkte

• PrismML, ein Caltech-Spinoff mit Unterstützung von Khosla Ventures, veröffentlichte am Dienstag ein komprimiertes KI-Modell, das auf iPhone 15 oder neuer passt.
• Das Startup sagt, dass es Alibabas Open-Source-Modell Qwen von etwa 54 GB auf unter 4 GB reduziert hat – eine mehr als 13-fache Größenreduktion.
• Apple führt frühe Gespräche mit PrismML, um die Technologie für seine Geräte zu evaluieren, wie CEO Babak Hassibi gegenüber CNBC mitteilte.
• PrismML sammelte im März 2025 16,25 Millionen Dollar in einer Seed-Finanzierungsrunde ein.
• Die komprimierten Modelle benötigen 10- bis 15-mal weniger Speicher und generieren Antworten 6- bis 8-mal schneller als Standardversionen, laut dem Unternehmen.

Ein Silicon-Valley-Startup sagt, dass es herausgefunden hat, wie man ein leistungsstarkes KI-Modell – die Art von Software, die Chatbots wie ChatGPT antreibt – auf eine Größe komprimiert, die komplett auf einem iPhone läuft. Und Apple soll daran interessiert sein.

PrismML, ein Unternehmen, das aus dem California Institute of Technology ausgegründet wurde, veröffentlichte am Dienstag komprimierte Versionen von Alibabas Open-Source-Modell Qwen. Qwen benötigt normalerweise etwa 54 Gigabyte Speicherplatz. PrismML sagt, dass es das auf unter 4 Gigabyte reduziert hat, während alle 27 Milliarden seiner internen Datenpunkte, sogenannte Parameter, intakt bleiben.

CEO Babak Hassibi teilte CNBC mit, dass Apple und andere ungenannte Unternehmen aktiv die Modelle des Startups testen und Geschwindigkeit, Energieverbrauch und Gesamtleistung auf echten Geräten messen. Er bezeichnete die Apple-Gespräche als sehr früh, sagte aber, dass „die Dinge schön vorankommen".

Die Veröffentlichung erfolgte einen Tag, nachdem Apple die öffentliche Betaversion von iOS 27 öffnete, die iPhone-Besitzern einen ersten umfassenden Einblick in die lang erwartete Überholung von Siri ermöglicht.

Warum ist es wichtig, dass KI auf deinem Telefon läuft?

Das Ausführen von KI direkt auf einem Gerät, anstatt deine Anfrage an einen entfernten Server zu senden und auf die Antwort zu warten, ist schneller und hält deine Daten auf deinem Telefon. Das ist am wichtigsten, wenn es um persönliche Informationen geht: Gesundheitsakten, Medikamentenplan, Fotos. Es bedeutet auch, dass bestimmte Funktionen ganz ohne Internetverbindung funktionieren.

Apple behandelt bereits einige Aufgaben lokal, einschließlich Übersetzung und grundlegende Zusammenfassung. Anspruchsvollere Anfragen gehen in die Cloud. Das Unternehmen möchte dieses Gleichgewicht umkehren.

Der Trick von PrismML ist, drastisch zu vereinfachen, wie Werte in einem Modell gespeichert werden. Ein Standardmodell speichert jeden Wert mit 16 möglichen Zuständen, wie eine sehr präzise Messskala. PrismML komprimiert jeden Wert auf nur einen oder drei mögliche Zustände. Stellen dir vor, du wechselst von einem feinen Lineal zu einem einfachen An-Aus-Schalter. Das reduziert den Speicherverbrauch drastisch.

Das Unternehmen sagt, dass der Kompromiss ein kleiner Genauigkeitsverlust ist. Der Abruf von Fakten schwächt sich zuerst ab. Fähigkeiten wie logisches Denken und Mathematik halten besser.

Analysten begrüßten das Konzept, rieten aber zur Vorsicht. Tarun Pathak von Counterpoint Research sagte, dass die Leistung bei Millionen von realen Anfragen auf tausenden verschiedenen Gerätekombinationen der wahre Test ist. Phil Solis von IDC hob die Akkulaufzeit als größte offene Frage hervor: Ein Modell, das kontinuierlich im Hintergrund verwendet wird, könnte ein Telefon entladen, auch wenn es weniger Speicher benötigt.

Für alltägliche iPhone-Nutzer ändert sich vorerst nichts. Dies ist eine geschäftliche Verhandlung, nicht ein Software-Update. Aber wenn Apple und PrismML zu einer Vereinbarung kommen, könnten zukünftige Siri-Verbesserungen schneller ankommen, offline funktionieren und vertraulichere Informationen verarbeiten, ohne dass diese deine Tasche jemals verlassen.

PrismML veröffentlicht zwei komprimierte Modellversionen kostenlos, kompatibel mit iPhones, MacBooks und Nvidia-gesteuerten Windows-PCs. Googles Gemma-Modell ist als nächstes in der Pipeline des Unternehmens geplant.