Ejecutar IA en tu ordenador se está volviendo más fácil. Esto es lo que esperar.
Las preocupaciones sobre privacidad están impulsando a más personas hacia la IA local, software que se ejecuta completamente en tu máquina en lugar de en la nube. La experiencia es genuinamente prometedora y genuinamente áspera en los bordes.
Puntos clave
- Hugging Face ahora aloja más de 3,1 millones de modelos, ofreciendo a cualquiera con un portátil capaz una vasta biblioteca de la que extraer sin pagar por consulta.
- Ejecutar IA localmente significa que tus datos permanecen en tu dispositivo: ningún servidor de la empresa ve tus archivos o fotos.
- Herramientas como Ollama y LM Studio permiten a usuarios ordinarios descargar y ejecutar modelos de IA capaces a través de una aplicación simple, sin necesidad de programación.
- Qwen3.8-Flash-Next, una vista previa experimental de la arquitectura detrás de Qwen4, es uno de los modelos más nuevos que aparecen en esas tiendas de aplicaciones locales, diseñado específicamente para un desempeño eficiente a tamaños más pequeños.
- AI2Day ha seguido Qwen en diez historias, nueve de ellas en los últimos 90 días, reflejando la rapidez con la que este espacio se está moviendo.
La nube tiene un problema de privacidad, y un número creciente de personas está decidiendo que ya no quiere lidiar con ello.
Cuando envías un mensaje a ChatGPT o le pides a Gemini que condense un documento, ese texto viaja al servidor de una empresa y se procesa allí. La empresa lo registra. La IA local da la vuelta a eso. El modelo, el software que entiende tus palabras y genera una respuesta, vive en tu propio ordenador. Nada sale de tu escritorio.
Esta idea está atrayendo a personas que nunca iban a confiar sus archivos más personales a una empresa de tecnología.
¿Cómo es realmente ejecutar IA localmente?
Descargar una aplicación es el punto de partida. Ollama y LM Studio son aplicaciones de escritorio gratuitas que te permiten explorar e instalar modelos de IA de la forma en que explorarías una tienda de aplicaciones. Elige un modelo, haz clic en descargar, comienza a chatear. Sin clave de API, sin factura mensual, sin cuenta requerida.
La biblioteca de modelos de la que extraen estas aplicaciones es enorme. Hugging Face, la plataforma de código abierto donde investigadores y empresas publican modelos de IA, ahora lista más de 3,1 millones de modelos. Muchos son lo suficientemente pequeños para ejecutarse cómodamente en un portátil moderno con un chip gráfico decente.
Algunos de los más nuevos merecen atención. Qwen3.8-Flash-Next es una vista previa de la arquitectura que el equipo Qwen de Alibaba planea usar para Qwen4, diseñada para hacer más con menos recursos de computación, lo que importa cuando tu "servidor" es una MacBook.
La barrera de entrada sigue bajando. El 22 de septiembre reportamos que Hugging Face hizo posible ejecutar modelos de IA comprimidos en una Mac con una sola línea de código, al construir soporte GGUF directamente en su biblioteca Transformers.
¿Es realmente lo suficientemente bueno para usar?
Honestamente, a veces sí, a veces todavía no.
Para resumir un documento largo o responder preguntas sobre un archivo en tu disco duro, un modelo local en hardware razonablemente moderno puede competir con alternativas en la nube. Privacidad intacta, sin cuota de suscripción, funciona sin conexión.
Donde falla es en la velocidad bruta y la ocasional respuesta extraña. Los servicios en la nube se ejecutan en racks de chips especializados; tu portátil no. Un modelo que responde en tres segundos en un navegador podría tardar cuarenta segundos localmente en hardware modesto. Los modelos más pequeños, los que realmente caben en una máquina de consumidor, también cometen errores que los modelos en la nube más grandes no cometerían.
The Verge capturó bien esta tensión: la experiencia es emocionante, abrumadora y frustrante en partes aproximadamente iguales, lo que coincide con lo que cualquiera que haya pasado una tarde en LM Studio te dirá.
El software está alcanzando rápidamente. El cuello de botella ahora no es si existe un modelo capaz; es sentarse y realmente empezar.
Preguntas comunes
¿Necesito un ordenador potente para probar IA local?
Un portátil comprado en los últimos dos o tres años manejará bien los modelos más pequeños, aproximadamente 7 mil millones de parámetros y menores, para tareas cotidianas. Los modelos más grandes necesitan más memoria y un chip gráfico más rápido.
¿Es verdaderamente privado mi datos si ejecuto IA localmente?
Sí, siempre que la aplicación que uses no envíe datos a ningún lugar por defecto. Ollama y LM Studio se ejecutan completamente sin conexión. Verifica la configuración de privacidad de cualquier aplicación antes de empezar a escribir información sensible en ella.
