Liquid AI veröffentlicht zwei schlanke Encoder-Modelle, die lange Dokumente schnell lesen, auch auf einem Laptop
LFM2.5-Encoder-230M und LFM2.5-Encoder-350M können einen kompletten Vertrag in unter 30 Sekunden auf gewöhnlicher Computerhardware durchsuchen – ohne speziellen Chip erforderlich.
Wichtigste Punkte
- Liquid AI veröffentlichte zwei Encoder-Modelle, LFM2.5-Encoder-230M und LFM2.5-Encoder-350M, zu einem unbestimmten Zeitpunkt im Jahr 2026 auf Hugging Face.
- Das kleinere 230M-Modell läuft auf einer Standard-Laptop-CPU bei langen Eingaben etwa 3,7-mal schneller als das vergleichbare ModernBERT-base-Modell.
- Beide Modelle verarbeiten bis zu 8.192 Token – etwa sechs bis acht Seiten dichter Text – in einem Durchgang.
- LFM2.5-Encoder-350M rangierte von 14 getesteten Modellen auf Platz vier und wurde nur von Modellen geschlagen, die bis zu zehnmal größer sind.
- Beide Modelle sind Open-Weight und können heute kostenlos von Hugging Face heruntergeladen werden.
Liquid AI, ein in Boston ansässiges KI-Unternehmen, hat zwei neue Encoder-Modelle veröffentlicht – eine Art KI-Modell, das Text liest und versteht, anstatt ihn von Grund auf zu generieren. Die Modelle heißen LFM2.5-Encoder-230M und LFM2.5-Encoder-350M und sind ab sofort auf Hugging Face verfügbar, der Open-Source-KI-Plattform, auf der Forscher und Entwickler Modelle teilen.
Falls Sie noch nie von einem Encoder gehört haben: Stellen Sie sich das so vor. Ein Chatbot wie ChatGPT schreibt neue Sätze Wort für Wort. Ein Encoder macht das Gegenteil: Er liest einen Text und entscheidet, was er bedeutet – ob das bedeutet, eine E-Mail als Spam zu kennzeichnen, persönliche Daten in einem Dokument zu flaggen oder eine Kundenanfrage an die richtige Abteilung weiterzuleiten. Unternehmen führen diese Aufgaben ständig den ganzen Tag lang durch, was Geschwindigkeit und Kosten zu den entscheidenden Faktoren macht.
Warum ist das Ausführen auf einer Laptop-CPU wichtig?
Die meisten hochmodernen KI-Modelle benötigen teure spezialisierte Chips, sogenannte GPUs, um mit nützlicher Geschwindigkeit zu laufen. Diese Encoder nicht. Auf einem gewöhnlichen Laptop-Prozessor verarbeitet das 230M-Modell ein vollständiges 8.192-Token-Dokument – etwa sechs bis acht Seiten Text – in etwa 28 Sekunden. Das nächstgelegene konkurrierende Modell, ModernBERT-base, benötigt auf der gleichen Hardware für die gleiche Länge über 90 Sekunden.
Diese 3,7-fache Geschwindigkeitsdifferenz ist die zentrale Aussage, und sie ist besonders wichtig für kleinere Teams oder Unternehmen, die keine Cloud-GPU-Rechnungen für routinemäßige Klassifizierungsarbeiten zahlen möchten.
Wie gut sind die Ergebnisse?
Geschwindigkeit bedeutet wenig ohne Genauigkeit. Liquid AI testete beide Modelle über 17 Aufgaben aus GLUE und SuperGLUE, zwei Standard-Benchmark-Suiten, die Forscher verwenden, um zu bewerten, wie gut ein Modell die Sprache versteht. Von 14 Modellen im Vergleich landete LFM2.5-Encoder-350M auf Platz vier. Alle Modelle davor waren größer, einschließlich eines, das fast zehnmal so groß ist wie dieses mit 3,5 Milliarden Parametern.
Das kleinere 230M-Modell schlug ModernBERT-base und jede Variante von EuroBERT, obwohl es physisch kleiner als die meisten von ihnen ist.
| Modell | Parameter | GLUE/SuperGLUE-Rang |
|---|---|---|
| LFM2.5-Encoder-350M | 350M | 4. von 14 |
| LFM2.5-Encoder-230M | 230M | schlägt ModernBERT-base |
| ModernBERT-base | ~149M | unter beiden LFM2.5-Modellen |
Was kann man damit tatsächlich bauen?
Liquid AI listet mehrere einsatzbereite Demos auf: ein Tool, das 40 Arten persönlicher Informationen in 16 Sprachen erkennt und entfernt, einen Richtlinien-Checker, der Text gegen in einfachem Englisch geschriebene Unternehmensregeln prüft, und einen Prompt-Router, der Benutzeranfragen automatisch an den richtigen Service sendet. Alle Demos laufen im Browser ohne Setup.
Entwickler können auch eines der beiden Modelle herunterladen und es für eine spezifische Aufgabe anpassen – ein Prozess namens Fine-Tuning – mit den Standard-Tools von Hugging Face. Liquid AI veröffentlichte ein Tutorial, das diesen Prozess bei langen Rechtsdokumenten durchgeht.
Häufig gestellte Fragen
Brauche ich einen leistungsstarken Computer, um diese Modelle zu nutzen?
Nein. Beide Modelle sind für die Ausführung auf einer Standard-Laptop- oder Server-CPU ausgelegt. Sie benötigen keine GPU, obwohl die Verwendung einer bei kürzeren Dokumenten schneller sein wird.
Sind diese Modelle kostenlos zu verwenden?
Ja. Beide LFM2.5-Encoder-230M und LFM2.5-Encoder-350M sind Open-Weight, d. h. jeder kann sie kostenlos herunterladen und verwenden, auch für kommerzielle Projekte, vorbehaltlich der Lizenzbedingungen auf Hugging Face.
Welche Größe sollte ich wählen?
Die eigene Anleitung von Liquid AI ist unkompliziert: Wählen Sie das 350M-Modell, wenn Genauigkeit Priorität hat, und das 230M-Modell, wenn Sie mehr Dokumente pro Stunde verarbeiten müssen oder Ihre Hardware begrenzt ist.
