Cuatro startups apuestan a que la próxima ola de IA funciona con algo mejor que transformers
El diseño de red neuronal que impulsa todos los principales chatbots de IA está alcanzando límites reales. Un pequeño grupo de empresas cree haber encontrado una solución.
Puntos clave
- Los investigadores de Google publicaron el diseño de red neuronal transformer en 2017, y ahora sustenta todos los principales chatbots de IA del mercado.
- OpenAI está en camino de gastar $50 mil millones en computación en 2025, principalmente porque los transformers son costosos de ejecutar a gran escala.
- La Agencia Internacional de la Energía predice que el consumo de electricidad en centros de datos se duplicará para 2030.
- Al menos cuatro startups están construyendo arquitecturas de IA alternativas que dicen ser más rápidas y económicas, y mejor adaptadas para tareas complejas.
- Liquid AI, una de esas empresas, ha registrado casi 34 millones de descargas para modelos que funcionan en una computadora hobby de $50.
En el verano de 2017, un equipo de Google publicó un artículo llamado "Attention Is All You Need". Describía un nuevo tipo de red neuronal (software basado libremente en cómo se conectan las células cerebrales) llamado transformer. Los transformers resultaron ser extraordinariamente buenos en la lectura y generación de texto, y se convirtieron en el motor dentro de todos los chatbots de IA que has escuchado, desde ChatGPT hasta Claude y Gemini.
Nueve años después, los transformers se están esforzando bajo su propio éxito.
¿Cuál es el problema real?
Para entender el significado de una oración, un transformer compara cada palabra con todas las demás palabras. Eso funciona bien para texto corto. Para documentos largos se vuelve costoso rápidamente: un documento de 10,000 palabras puede requerir 50 millones de cálculos individuales. Cuanto más texto alimentes, peor se pone.
Ese apetito computacional tiene un costo real. OpenAI planea gastar $50 mil millones en computación este año, según el presidente de la empresa Greg Brockman. La Agencia Internacional de la Energía dice que la electricidad total consumida por centros de datos se duplicará para 2030.
Los transformers también tienen dificultades con las tareas que ahora las empresas de IA venden con más fuerza. Los modelos de razonamiento, que escriben notas para sí mismos mientras trabajan en un problema, producen grandes cantidades de texto adicional que el transformer debe procesar. Los agentes de IA, software que realiza tareas de múltiples pasos de forma independiente, necesitan manejar información de muchas fuentes simultáneamente. Ambos empujan los transformers hacia su límite.
¿Cuáles son las alternativas?
Cuatro empresas están atacando el problema desde diferentes ángulos.
Subquadratic, una startup de Miami, dice que ha construido un modelo llamado SubQ que utiliza "atención dispersa". En lugar de comparar cada palabra con todas las demás palabras, la atención dispersa elige solo los emparejamientos que importan, reduciendo drásticamente el número de cálculos. La empresa afirma que SubQ rivaliza con los principales modelos de lenguaje en tareas de búsqueda y codificación, aunque algunos en la industria siguen siendo escépticos. Se reporta que miles de usuarios están en su lista de espera. Informamos por primera vez sobre Subquadratic el 10 de agosto de 2026.
Manifest AI, con sede en San Francisco, reemplaza el mecanismo de atención por completo. Su enfoque, llamado "retención de potencia", proporciona al modelo un resumen continuo de lo que ha leído, descartando información que ya no es relevante a medida que llega material nuevo. Es como un lector que toma buenas notas en lugar de memorizar cada palabra. La empresa ha utilizado la técnica para construir PowerCoder, basado en un modelo de codificación de código abierto existente llamado StarCoder, y Brumby, que dice que compite con algunas versiones del popular modelo de código abierto Qwen de Alibaba.
Liquid AI, un spinout del MIT con sede en Cambridge, Massachusetts, adopta un enfoque híbrido. Sus modelos, llamados LFMs (modelos de fundación líquida), combinan transformers con una tecnología diferente llamada redes neuronales líquidas, inspirada en los sistemas nerviosos simples de los gusanos. El resultado: modelos lo suficientemente pequeños como para ejecutarse en una Raspberry Pi, una computadora hobby de $50, pero la empresa dice que igualan el desempeño de rivales cuatro veces su tamaño. Liquid AI ha registrado casi 34 millones de descargas. Mercedes se encuentra entre sus clientes. Nuestro artículo del 4 de agosto de 2026 cubre en detalle el lanzamiento más reciente de LFM.
| Empresa | Enfoque | Afirmación notable |
|---|---|---|
| Subquadratic | Atención dispersa (SubQ) | Rivaliza con los mejores LLM en búsqueda y codificación |
| Manifest AI | Retención de potencia (Brumby, PowerCoder) | Compite con variantes de Alibaba Qwen |
| Liquid AI | LFMs híbridos | Se ejecuta en una computadora de $50; 34 millones de descargas |
¿Qué significa esto para la gente común?
Nada cambia en tu chatbot mañana. Los transformers están profundamente integrados en los productos, y reemplazarlos requiere años. Pero la dirección importa.
Si estos enfoques alternativos funcionan a escala, los servicios de IA podrían volverse más económicos de ejecutar, lo que probablemente significaría costos más bajos transmitidos a las empresas y, finalmente, a los usuarios. Los modelos más pequeños y eficientes también podrían ejecutarse en dispositivos que ya posees, manteniendo tus datos en tu teléfono en lugar de un servidor distante. Ese segundo punto está más cerca de lo que suena: como informamos el 5 de agosto de 2026, MacPaw ya está distribuyendo un asistente construido en Liquid AI que funciona completamente sin conexión en una Mac.
MIT Technology Review, que fue la primera en destacar varias de estas empresas, llama a esta próxima generación de modelos "LLMs+". Si alguna de las startups de hoy son las que la construyen es una pregunta abierta. El problema que están tratando de resolver, sin embargo, es real y los números detrás no desaparecerán.
Preguntas frecuentes
¿Necesito hacer algo diferente como usuario de IA en este momento?
No. Estos cambios están sucediendo a nivel de ingeniería, dentro de las empresas que construyen herramientas de IA. Los productos que utilizas se ven igual desde el exterior.
¿Definitivamente estas alternativas reemplazarán a los transformers?
No necesariamente. Los transformers han sobrevivido predicciones de su reemplazo antes. Cada una de estas startups aún tiene que demostrar que su enfoque se escala al tamaño de modelos que impulsan productos principales, un desafío técnico y financiero significativo.
