Una startup rusa de matemáticas encontró una forma para que los modelos de IA compartan inteligencia sin intercambiar palabras

Puntos clave

• Mostik, una startup rusa de IA, desarrolló un método que permite que dos modelos de IA compartan capacidades directamente a través de sus matemáticas internas, sin que ninguno de los modelos genere texto.
• Un sistema híbrido que combina un modelo de 753 mil millones de parámetros y un modelo móvil de 4 mil millones de parámetros cuesta una vigésima parte de ejecutar el modelo grande solo.
• El híbrido resultante funciona exactamente a la mitad entre los dos modelos en pruebas de rendimiento.
• El enfoque de Mostik ha colocado al equipo en la cima de ARC-AGI 3, una de las competiciones de rendimiento de IA más difíciles que existen hoy.
• El matemático ganador de la Medalla Fields Stanislav Smirnov actúa como científico jefe de Mostik.

Dentro de cada modelo de IA hay una vasta red de números llamados pesos, los valores que determinan cómo el modelo convierte tu pregunta en una respuesta. Mostik, una startup cuyo nombre es la palabra rusa para puente, encontró una forma de leer esos números directamente y usarlos para transferir las habilidades de un modelo a otro. Sin palabras intercambiadas. Sin texto generado. Solo matemáticas hablando con matemáticas.

El beneficio práctico es sorprendente. El equipo construyó un puente entre dos modelos de código abierto chinos, es decir, modelos cuyo funcionamiento interno es públicamente disponible. Uno era la versión más grande de GLM-5.2, un gigante con 753 mil millones de parámetros (cada parámetro es un número único ajustable que el modelo aprendió durante el entrenamiento). El otro era un modelo compacto Qwen-3.5 con solo 4 mil millones de parámetros, lo suficientemente pequeño para ejecutarse en un teléfono móvil.

El híbrido cuesta una vigésima parte de lo que cuesta ejecutar el modelo grande solo. Su rendimiento se sitúa exactamente a la mitad entre los dos.

¿Por qué es esto importante para alguien fuera de la investigación de IA?

Ejecutar un modelo de IA potente es costoso, por eso la mayoría de los sistemas capaces están detrás de muros de pago o cortafuegos corporativos. El método de Mostik podría permitir que un modelo pequeño y económico tome prestada potencia de uno grande sin que ninguno de los dos tenga que pagar la factura completa.

"Puedes acercarte a la calidad de un modelo grande sin que el modelo grande maneje todo el proceso, lo que te da mejoras sustanciales con solo un modelo más pequeño funcionando al lado," dijo Karl Tuyls, antiguo científico informático de Google DeepMind que revisó el trabajo de la empresa.

Para usuarios ordinarios, el efecto secundario podría ser herramientas de IA mejores en hardware más económico, incluyendo teléfonos.

La forma estándar de combinar modelos de IA hoy es alimentar la salida de uno en la entrada de otro, un proceso que AI2Day informó primero que consume tiempo y dinero. Mostik salta ese paso completamente trabajando al nivel de los pesos mismos.

"Es bien conocido en aprendizaje automático que los conjuntos de modelos funcionan mejor que los individuales," dijo la CEO Sasha Malysheva.

Ella dibuja una analogía de la estadística: una multitud de personas aleatorias adivinando el peso de un cerdo, en promedio, superará a un único experto si promedias sus adivinanzas. Combina suficientes modelos de IA y obtienes una mejora similar.

¿Qué sucede después?

Mostik actualmente está compitiendo en la cima de ARC-AGI 3, un punto de referencia notoriamente difícil para sistemas de IA, aunque el equipo se negó a compartir detalles hasta que el concurso cierre.

A más largo plazo, Malysheva cree que el futuro de la IA no es un modelo gigante entrenado con cada vez más datos, sino muchos modelos especializados más pequeños trabajando juntos. "Personalmente no creo que tengamos un modelo monolítico o que las capacidades de los modelos provengan de la escalada," dijo.

El científico jefe Stanislav Smirnov, profesor de la Universidad de Ginebra que ganó la Medalla Fields, el honor más alto en matemáticas, en 2010, es franco sobre la dificultad. "Parece que aún no hay un lenguaje matemático apropiado," dijo. También cree que un análisis más profundo de cómo los modelos comparten información puede revelar similitudes con cómo los cerebros humanos resuelven problemas difíciles.

Malysheva comenzó la empresa después de que colegas le dijeran que el enfoque del puente probablemente era demasiado difícil. "Dijeron que podría ser demasiado difícil para una chica joven," dijo. "Decidí que necesitaba demostrar que estaban equivocados."