#on-device AI
15 stories taggedon-device AI.

Apple researchers found a smarter way to build smaller AI models, and it could cut your phone's battery drain
A new technique called IDEA Prune trains a big AI model first, then trims it down. The result is a leaner model that outperforms ones built small from the start.

Ein KI-Modell mit 27 Milliarden Parametern, das Sie zu Hause ausführen können, entspricht Cloud-Konkurrenten bei Codingtests
Alibabas Qwen3.8-27B kann kostenlos heruntergeladen werden, passt auf einen hochwertigen Laptop und erzielte bei unabhängigen Benchmarks das gleiche Niveau wie Mid-Tier-Modelle von OpenAI und Anthropic. Entwickler bezeichnen es als das bislang deutlichste Zeichen dafür, dass KI der Spitzenklasse die Cloud verlässt und auf private Hardware umzieht.

Liquid AI's New Draft Models Make Its LFMs Up to 3.2x Faster, No Quality Trade-off
A technique called speculative decoding lets a small helper model do the heavy lifting so the main model just checks the work. The result: dramatically faster output on everything from a data-centre GPU to a MacBook.

Liquid AI presst seine kleinen Modelle auf Smartphones und Raspberry Pis – ohne großen Qualitätsverlust
Ein neues Trainingsverfahren namens Quantization-Aware Distillation ermöglicht es Liquid AIs kompakten Sprachmodellen, auf günstiger Hardware zu laufen und dabei 97% der Genauigkeit im vollen Präzisions-Format zu bewahren.

Liquid AIs LFM2.5-VL-3B läuft auf Ihrem Telefon und kann trotzdem Ihren Bildschirm lesen
Das neue Sprachmodell mit 3 Milliarden Parametern passt in 3 GB Speicher, schlägt größere Konkurrenten bei Bildschirmablese-Benchmarks und läuft schnell genug auf einem Smartphone, um wirklich nützlich zu sein.

Meta veröffentlicht Glimmer AI-Modell, das privat auf Ihrem eigenen Computer läuft
Das neue Modell mit 30 Milliarden Parametern kann Ihren Zeitplan, Dateien und Nachrichten verwalten, ohne Daten in die Cloud zu senden. Metas leistungsstärkstes KI-Modell bleibt jedoch fest unter seiner eigenen Kontrolle.

Metas Muse Glimmer ist ein KI-Modell mit 30 Milliarden Parametern, das Sie auf Ihrem eigenen Computer ausführen können
Das neue Open-Source-Modell sieht Bilder, versteht Videos und kann als persönlicher Assistent fungieren – alles ohne Ihre Daten an einen Cloud-Server zu senden.

Ein neuer Weg zu intelligenteren KI: Was Apples Flow-Matching-Forschung für Sie bedeutet
Forscher bei Apple testen einen anderen Motor für KI-Sprachtools, der die Textgenerierung schneller und flexibler machen könnte. Hier erfahren Sie, was es ist und warum es wichtig ist.

MacPaw kooperiert mit Liquid AI, um seinen Assistenten direkt auf dem Mac auszuführen
Das Unternehmen hinter SetApp möchte, dass seine KI-Tools offline funktionieren, Ihre Daten auf Ihrem Gerät speichern und Entwicklern schließlich Zugang zum gleichen System bieten.

Liquid AIs neues 2,6B-Modell führt KI-Agenten direkt auf Ihrem Laptop oder Telefon aus
LFM2.5-2.6B ist ein kompaktes KI-Modell, das mehrstufige Aufgaben bewältigen kann, ohne Ihre Daten in die Cloud zu senden, und konkurriert mit Modellen, die viermal so groß sind, bei wichtigen Benchmarks.

Tim Cook nennt On-Device-AI von Apple eine „Wettbewerbswaffe" während Konkurrenten Milliarden in Rechenzentren investieren
In seinem letzten Earnings Call als CEO argumentierte Cook, dass die direkte Ausführung von KI auf iPhones und Macs Apple einen Vorteil verschafft, den keine Menge Cloud-Ausgaben leicht nachahmen kann.

Apples neue On-Device-KI-Sprachtechnologie macht Siri menschlicher, ohne Audio in die Cloud zu senden
Ein Forschungspapier von Apples Machine-Learning-Team offenbart das Audio-Engine hinter Siris ausdrucksstärkeren neuen Stimmen. Die gesamte Verarbeitung findet auf dem iPhone statt und nutzt einen Chip, den Sie bereits haben.

Apple spricht mit dem Startup, das riesige KI auf ein iPhone passt
PrismML sagt, dass es ein 54-Gigabyte-KI-Modell auf unter 4 Gigabyte reduziert hat. Apple beobachtet das genau.

Apples neuer Siri AI kommt in Public Beta: Das kann er wirklich
iOS 27 bringt einen neu aufgebauten Siri, der deinen Bildschirm liest, deine Texte durchsucht und überall auf deinem iPhone präsent ist. Wir haben ihn getestet. Hier ist, was du bekommst.

Apples aufgegebenes Selbstfahrer-Auto hat stillschweigend den KI-Chip in jedem iPhone entwickelt
Ein vor Jahren storniertes Autoprojekt stellt sich als Ursprungsgeschichte von Apples wichtigstem KI-Hardware-Komponente heraus.