ByteDance está construyendo uno de los mayores modelos de IA jamás creados
El gigante tecnológico chino está entrenando un modelo con hasta 10 billones de parámetros, lo que superaría con creces cualquier IA china lanzada hasta ahora y lo pondría en la misma conversación que los sistemas más avanzados de Anthropic.
Puntos clave
- ByteDance está entrenando un modelo de IA con hasta 10 billones de parámetros, según tres personas con conocimiento del proyecto.
- Esta cifra es tres veces mayor que Kimi K3, el mayor modelo de IA chino lanzado públicamente hasta la fecha.
- El modelo está en pre-entrenamiento, una fase que generalmente dura de tres a seis meses antes de cualquier lanzamiento público.
- El número final de parámetros no ha sido fijado y solo será confirmado en una fase posterior.
- Si se completa, el modelo se acercaría a la escala de los sistemas de IA más avanzados de Anthropic.
ByteDance, la empresa china detrás de TikTok, está construyendo silenciosamente lo que podría convertirse en uno de los mayores modelos de IA del mundo. Tres personas familiarizadas con el proyecto le dijeron a Ars Technica que el modelo podría alcanzar 10 billones de parámetros, una cifra que vale la pena analizar.
Un parámetro es una pequeña configuración interna dentro de un modelo de IA. Más parámetros significan más patrones aprendidos de datos y generalmente un desempeño más sólido en tareas como escritura o razonamiento complejo. Se estima ampliamente que GPT-4 tiene alrededor de 1,8 billones de parámetros. Diez billones es un orden de magnitud completamente diferente.
Para comparar, Kimi K3 de Moonshot, actualmente el mayor modelo de IA lanzado por cualquier empresa china, tiene aproximadamente 3,3 billones de parámetros. Cubrimos el impacto de mercado de Kimi K3 en julio en nuestro reportaje sobre cómo sacudió a los inversores estadounidenses. El proyecto de ByteDance sería tres veces ese tamaño.
¿En qué etapa se encuentra?
El modelo está en pre-entrenamiento: la primera y más larga fase de construcción de una IA, donde el sistema lee grandes cantidades de texto y datos para aprender el lenguaje y razonamiento básicos. Piénsalo como la escuela antes de cualquier entrenamiento especializado. Esta fase generalmente toma de tres a seis meses.
Después del pre-entrenamiento, los ingenieros realizan el ajuste fino, entrenando el modelo en tareas específicas antes de cualquier lanzamiento público. La cifra de 10 billones tampoco es definitiva. Una fuente dijo que el tamaño exacto se decide más adelante en el proceso, por lo que la cifra principal aún podría cambiar.
¿Por qué importa esto a la gente común?
Los modelos más grandes tienden a producir mejores resultados en problemas difíciles: documentos legales complejos, preguntas médicas, programación de múltiples pasos. Si ByteDance lanza a esta escala, obtiene una herramienta seria para competir con laboratorios estadounidenses como Anthropic y OpenAI a nivel global.
También muestra la rapidez con que se están moviendo las empresas chinas. El 3 de agosto informamos que Qwen3 Max de Alibaba, un modelo de 2,4 billones de parámetros, ya rivaliza con el buque insignia de Anthropic en la mayoría de los puntos de referencia. ByteDance estaría apuntando cuatro veces más alto que eso.
Para los consumidores, más competencia en la frontera históricamente reduce precios y aumenta la calidad. ByteDance ya opera el chatbot Doubao, que tiene decenas de millones de usuarios dentro de China.
El entrenamiento puede fallar, los resultados pueden decepcionar y muchos modelos se archivan antes de que alguien fuera del laboratorio los vea. Pero la magnitud misma del intento te dice hacia dónde apuntan las ambiciones de ByteDance. La empresa no está persiguiendo la mitad del camino; está apuntando a la cúspide.
