#on-device AI
26 stories taggedon-device AI · page 2 of 2.
Liquid AI's New Draft Models Make Its LFMs Up to 3.2x Faster, No Quality Trade-off
A technique called speculative decoding lets a small helper model do the heavy lifting so the main model just checks the work. The result: dramatically faster output on everything from a data-centre GPU to a MacBook.
Liquid AI Comprime Sus Modelos Pequeños en Teléfonos y Raspberry Pis Sin Perder Mucha Calidad
Un nuevo truco de entrenamiento llamado Quantization-Aware Distillation permite que los modelos de lenguaje compactos de Liquid AI se ejecuten en hardware económico manteniendo el 97% de la precisión de punto flotante completo.
El LFM2.5-VL-3B de Liquid AI puede ejecutarse en tu teléfono y aún leer tu pantalla
El nuevo modelo de visión de 3 mil millones de parámetros cabe en 3 GB de memoria, supera a rivales más grandes en pruebas de lectura de pantalla y se ejecuta lo suficientemente rápido en un smartphone para ser genuinamente útil.
Muse Glimmer de Meta es una IA de 30 mil millones de parámetros que puedes ejecutar en tu propia máquina
El nuevo modelo de código abierto ve imágenes, entiende video y puede actuar como asistente personal sin enviar tus datos a un servidor en la nube.
Una Nueva Forma de Construir IA Más Inteligente: Lo Que la Investigación Flow Matching de Apple Significa para Ti
Investigadores de Apple están probando un motor diferente para herramientas de lenguaje de IA que podría hacer que la generación de texto sea más rápida y flexible. Esto es lo que es y por qué importa.
MacPaw se asocia con Liquid AI para ejecutar su asistente directamente en tu Mac
La empresa detrás de SetApp quiere que sus herramientas de IA funcionen sin conexión, mantengan tus datos en tu dispositivo y eventualmente permitan a desarrolladores conectarse al mismo sistema.
El nuevo modelo 2.6B de Liquid AI ejecuta agentes de IA directamente en tu portátil o teléfono
LFM2.5-2.6B es un modelo de IA compacto que puede manejar tareas de varios pasos sin enviar tus datos a la nube, y compite con modelos cuatro veces más grandes en puntuaciones clave.
Tim Cook de Apple llama al AI en el dispositivo un 'arma competitiva' mientras rivales invierten miles de millones en centros de datos
En su última conferencia de ganancias como CEO, Cook argumentó que ejecutar IA directamente en iPhones y Macs le da a Apple una ventaja que ninguna cantidad de gasto en la nube puede copiar fácilmente.
La nueva tecnología de voz de IA en el dispositivo de Apple hace que Siri suene más humano, sin enviar tu audio a la nube
Un artículo de investigación del equipo de aprendizaje automático de Apple revela el motor de audio detrás de las nuevas voces más expresivas de Siri. Todo el procesamiento ocurre en tu iPhone, utilizando un chip que ya tienes.
Apple Habla con la Startup que Comprime IA Gigante en un iPhone
PrismML afirma que redujo un modelo de IA de 54 gigabytes a menos de 4 gigabytes. Apple está prestando mucha atención.
El proyecto de auto autónomo abandonado de Apple construyó silenciosamente el chip de IA dentro de cada iPhone
Un proyecto de automóvil cancelado resulta ser la historia de origen del hardware de IA más importante de Apple.