#edge AI
8 stories taggededge AI.
Liquid AI lanza dos modelos de decisión de peso abierto que responden en menos de 50 milisegundos en hardware edge
Los modelos d1-3B y d1-omni-600M omiten la generación palabra por palabra y devuelven respuestas estructuradas en un único cálculo, lo suficientemente rápido para ejecutarse en una placa Jetson Orin Nano de $250.
NVIDIA's new Jetson Orin Nano 2 chip aims to put frontier AI inside drones and home robots
The tiny computer uses 40% less power than its predecessor while doubling AI processing speed, and NVIDIA says developers will be able to run frontier-grade intelligence directly inside physical machines.
Liquid AI Comprime Sus Modelos Pequeños en Teléfonos y Raspberry Pis Sin Perder Mucha Calidad
Un nuevo truco de entrenamiento llamado Quantization-Aware Distillation permite que los modelos de lenguaje compactos de Liquid AI se ejecuten en hardware económico manteniendo el 97% de la precisión de punto flotante completo.
El LFM2.5-VL-3B de Liquid AI puede ejecutarse en tu teléfono y aún leer tu pantalla
El nuevo modelo de visión de 3 mil millones de parámetros cabe en 3 GB de memoria, supera a rivales más grandes en pruebas de lectura de pantalla y se ejecuta lo suficientemente rápido en un smartphone para ser genuinamente útil.
Este Robot de Cuatro Patas Inspecciona Fábricas Usando IA, sin Necesidad de Conexión en la Nube
Avnet y Weston Robot han construido un robot de inspección parecido a un perro que piensa por sí mismo en el lugar, detecta problemas en tiempo real y funciona incluso cuando no hay internet disponible.
El nuevo modelo 2.6B de Liquid AI ejecuta agentes de IA directamente en tu portátil o teléfono
LFM2.5-2.6B es un modelo de IA compacto que puede manejar tareas de varios pasos sin enviar tus datos a la nube, y compite con modelos cuatro veces más grandes en puntuaciones clave.
Iluminar un Chip Podría Darle a los Robots un Cerebro de IA Más Rápido
Investigadores de Cornell Tech han construido un receptor que reescribe la memoria de un chip usando destellos de luz en lugar de cables eléctricos, y algún día podría permitir que robots de almacén actualicen sus modelos de IA sobre la marcha.
NASA Ejecutó un Modelo de IA de Google Dentro de un Satélite. Esto Es Lo Que Encontró.
Un modelo de IA pequeño y eficiente analizó imágenes reales desde la órbita y envió descripciones en texto plano en lugar de datos sin procesar. Podría reducir las alertas de incendios forestales de 90 minutos a casi instantáneo.