Liquid AI rilascia due efficienti modelli encoder che leggono lunghi documenti rapidamente, persino su un portatile
LFM2.5-Encoder-230M e LFM2.5-Encoder-350M possono scansionare un intero contratto in meno di 30 secondi su hardware informatico ordinario, senza richiedere chip specializzati.
Punti principali
- Liquid AI ha rilasciato due modelli encoder, LFM2.5-Encoder-230M e LFM2.5-Encoder-350M, su Hugging Face in una data non specificata nel 2026.
- Il modello più piccolo da 230M gira circa 3,7 volte più velocemente del comparabile modello ModernBERT-base su una CPU di portatile standard con input lunghi.
- Entrambi i modelli gestiscono fino a 8.192 token, all'incirca sei-otto pagine di testo denso, in una singola passata.
- LFM2.5-Encoder-350M si è classificato quarto su 14 modelli testati, superato solo da modelli fino a dieci volte più grandi.
- Entrambi i modelli sono open-weight e liberi da scaricare da Hugging Face oggi.
Liquid AI, un'azienda di AI con sede a Boston, ha rilasciato due nuovi modelli encoder, un tipo di modello di AI che legge e comprende il testo piuttosto che generarlo da zero. I modelli si chiamano LFM2.5-Encoder-230M e LFM2.5-Encoder-350M, e sono disponibili da subito su Hugging Face, la piattaforma di AI open-source dove ricercatori e sviluppatori condividono i modelli.
Se non hai mai sentito parlare di un encoder, pensala così. Un chatbot come ChatGPT scrive nuove frasi parola per parola. Un encoder fa il lavoro opposto: legge un pezzo di testo e decide cosa significa, che si tratti di etichettare un'email come spam, segnalare dati personali in un documento o instradare una domanda di un cliente al reparto giusto. Le aziende eseguono questi compiti costantemente, tutto il giorno, il che rende la velocità e il costo i fattori decisivi.
Perché è importante eseguire su una CPU di portatile?
La maggior parte dei modelli di AI all'avanguardia ha bisogno di costosi chip specializzati chiamati GPU per funzionare a velocità utile. Questi encoder non ne hanno bisogno. Su un processore di portatile ordinario, il modello 230M elabora un documento completo di 8.192 token, all'incirca sei-otto pagine di testo, in circa 28 secondi. Il modello concorrente più vicino, ModernBERT-base, impiega oltre 90 secondi sullo stesso hardware per la stessa lunghezza.
Questo divario di velocità di 3,7 volte è il rivendicazione principale, e importa di più per i team più piccoli o le aziende che non vogliono pagare le bollette delle GPU cloud per lavori di classificazione di routine.
Quanto sono buoni i risultati?
La velocità significa poco senza accuratezza. Liquid AI ha testato entrambi i modelli in 17 compiti tratti da GLUE e SuperGLUE, due suite di benchmark standard che i ricercatori usano per valutare quanto bene un modello comprende il linguaggio. Su 14 modelli nel confronto, LFM2.5-Encoder-350M si è classificato quarto. Ogni modello prima di esso era più grande, incluso uno quasi dieci volte la sua dimensione con 3,5 miliardi di parametri.
Il modello più piccolo da 230M ha superato ModernBERT-base e ogni variante di EuroBERT, nonostante sia fisicamente più piccolo della maggior parte di loro.
| Modello | Parametri | Ranking GLUE/SuperGLUE |
|---|---|---|
| LFM2.5-Encoder-350M | 350M | 4º su 14 |
| LFM2.5-Encoder-230M | 230M | supera ModernBERT-base |
| ModernBERT-base | ~149M | al di sotto di entrambi i modelli LFM2.5 |
Cosa può effettivamente costruire qualcuno con questo?
Liquid AI elenca diversi demo pronti per l'uso: uno strumento che identifica e rimuove 40 tipi di informazioni personali in 16 lingue, un controllore di policy che scansiona il testo rispetto alle regole aziendali scritte in inglese semplice, e un router di prompt che invia le richieste degli utenti al servizio giusto automaticamente. Tutti i demo funzionano in un browser senza configurazione.
Gli sviluppatori possono anche scaricare uno dei due modelli e adattarlo a un compito specifico, un processo chiamato fine-tuning, utilizzando gli strumenti standard di Hugging Face. Liquid AI ha pubblicato un tutorial che descrive quel processo su lunghi documenti legali.
Domande comuni
Ho bisogno di un computer potente per utilizzare questi modelli?
No. Entrambi i modelli sono progettati per funzionare su una CPU di portatile o server standard. Non hai bisogno di una GPU, anche se usarne una li farà funzionare più velocemente su documenti più corti.
Questi modelli sono gratuiti?
Sì. Sia LFM2.5-Encoder-230M che LFM2.5-Encoder-350M sono open-weight, il che significa che chiunque può scaricarli e usarli gratuitamente, anche per progetti commerciali, secondo i termini di licenza su Hugging Face.
Quale dimensione dovrei scegliere?
Le linee guida di Liquid AI sono semplici: scegli il modello 350M quando l'accuratezza è la priorità, e il modello 230M quando hai bisogno di elaborare più documenti all'ora o il tuo hardware è limitato.
