Apple Habla con la Startup que Comprime IA Gigante en un iPhone

Puntos clave

• PrismML, una empresa derivada de Caltech respaldada por Khosla Ventures, lanzó públicamente el martes un modelo de IA comprimido que cabe en un iPhone 15 o más reciente.
• La startup afirma que redujo el modelo Qwen de código abierto de Alibaba de aproximadamente 54 GB a menos de 4 GB, una reducción de más de 13 veces en tamaño.
• Apple está en conversaciones iniciales con PrismML para evaluar la tecnología para usar en sus dispositivos, según le dijo el CEO de PrismML, Babak Hassibi, a CNBC.
• PrismML recaudó una ronda inicial de $16,25 millones en marzo de 2025.
• Los modelos comprimidos utilizan de 10 a 15 veces menos memoria y generan respuestas de 6 a 8 veces más rápido que las versiones estándar, según la empresa.

Una startup del Silicon Valley afirma haber descubierto cómo comprimir un modelo de IA poderoso, el tipo de software que impulsa chatbots como ChatGPT, a un tamaño lo suficientemente pequeño para ejecutarse completamente en un iPhone. Y aparentemente Apple está interesada.

PrismML, una empresa derivada del Instituto de Tecnología de California, lanzó públicamente versiones comprimidas del modelo Qwen de código abierto de Alibaba el martes. Normalmente, Qwen ocupa aproximadamente 54 gigabytes de almacenamiento. PrismML afirma que lo redujo a menos de 4 gigabytes, mientras mantenía intactos todos sus 27 mil millones de puntos de datos internos, llamados parámetros.

El CEO Babak Hassibi le dijo a CNBC que Apple y otras empresas sin identificar están probando activamente los modelos de la startup, midiendo velocidad, consumo de energía y rendimiento general en dispositivos reales. Llamó a las conversaciones con Apple muy iniciales pero dijo que "las cosas avanzan bien".

El lanzamiento se produjo un día después de que Apple abriera la versión beta pública de iOS 27, que brinda a los propietarios de iPhone su primera visión completa de la revisión largamente esperada por Apple de Siri.

¿Por qué importa si la IA se ejecuta en tu teléfono?

Ejecutar IA directamente en un dispositivo, en lugar de enviar tu solicitud a un servidor distante y esperar a que la respuesta regrese, es más rápido y mantiene tus datos en tu teléfono. Eso importa más cuando la información es personal: registros de salud, horarios de medicamentos, fotos. También significa que ciertas funciones funcionan sin conexión a internet.

Apple ya maneja algunas tareas localmente, incluida traducción y resumen básico. Las solicitudes más exigentes van a la nube. La empresa quiere invertir ese equilibrio.

El truco de PrismML es simplificar drásticamente cómo se almacenan los valores dentro de un modelo. Un modelo estándar almacena cada valor usando 16 estados posibles, como una escala de medición muy precisa. PrismML comprime cada valor a solo uno o tres estados posibles. Piensa en ello como cambiar de una regla finamente graduada a un simple interruptor de encendido-apagado. Eso reduce el uso de memoria significativamente.

La empresa afirma que el compromiso es una pequeña caída en la precisión. El recuerdo de hechos se debilita primero. Habilidades como el razonamiento y las matemáticas se mantienen mejor.

Los analistas acogieron el concepto pero instaron a la cautela. Tarun Pathak de Counterpoint Research dijo que el rendimiento en millones de consultas del mundo real, en miles de combinaciones de dispositivos diferentes, es la verdadera prueba. Phil Solis de IDC señaló la duración de la batería como la pregunta abierta más importante: un modelo usado continuamente en segundo plano podría agotar un teléfono incluso si necesita menos memoria.

Para los usuarios normales de iPhone, nada cambia por ahora. Se trata de una negociación comercial, no de una actualización de software. Pero si Apple y PrismML llegan a un acuerdo, las futuras mejoras de Siri podrían llegar más rápido, funcionar sin conexión y manejar información más sensible sin que jamás salga de tu bolsillo.

PrismML está lanzando dos versiones de modelos comprimidos de forma gratuita, compatibles con iPhones, MacBooks y PC con Windows impulsados por Nvidia. El modelo Gemma de Google es el siguiente en el plan de la empresa.