Apple discute avec la startup qui compresse l'IA géante sur un iPhone

Points clés

• PrismML, une spin-off du Caltech soutenue par Khosla Ventures, a publié mardi un modèle d'IA compressé qui s'adapte à l'iPhone 15 ou plus récent.
• La startup affirme avoir réduit le modèle Qwen open-source d'Alibaba d'environ 54 Go à moins de 4 Go, soit une réduction de plus de 13 fois.
• Apple est en pourparlers précoces avec PrismML pour évaluer la technologie en vue de son utilisation sur ses appareils, selon Babak Hassibi, PDG de PrismML, qui l'a confié à CNBC.
• PrismML a levé 16,25 millions de dollars lors d'une ronde d'amorçage en mars 2025.
• Les modèles compressés utilisent 10 à 15 fois moins de mémoire et génèrent les réponses 6 à 8 fois plus rapidement que les versions standard, selon la société.

Une startup de la Silicon Valley affirme avoir trouvé comment compresser un puissant modèle d'IA, le type de logiciel qui alimente des chatbots comme ChatGPT, jusqu'à une taille suffisamment petite pour fonctionner entièrement sur un iPhone. Et Apple s'y intéresse apparemment.

PrismML, une entreprise issue du California Institute of Technology, a publié mardi des versions compressées du modèle Qwen open-source d'Alibaba. Qwen occupe normalement environ 54 gigaoctets de stockage. PrismML affirme l'avoir réduit à moins de 4 gigaoctets, tout en conservant intacts tous ses 27 milliards de points de données internes, appelés paramètres.

Le PDG Babak Hassibi a confié à CNBC qu'Apple et d'autres sociétés non nommées testent activement les modèles de la startup, en mesurant la vitesse, la consommation d'énergie et les performances globales sur de vrais appareils. Il a qualifié les discussions avec Apple de très précoces, mais a déclaré que « les choses progressaient bien ».

La publication intervient un jour après qu'Apple a ouvert la version bêta publique de son iOS 27, qui donne aux propriétaires d'iPhone un premier aperçu complet de la refonte longtemps attendue de Siri.

Pourquoi est-il important que l'IA s'exécute sur votre téléphone ?

Exécuter l'IA directement sur un appareil, plutôt que d'envoyer votre demande à un serveur distant et d'attendre le retour de la réponse, est plus rapide et garde vos données sur votre téléphone. C'est particulièrement important lorsque les informations sont personnelles : dossiers médicaux, calendriers de médicaments, photos. Cela signifie aussi que certaines fonctionnalités fonctionnent sans aucune connexion Internet.

Apple gère déjà certaines tâches localement, notamment la traduction et le résumé basique. Les demandes plus exigeantes vont vers le cloud. L'entreprise souhaite inverser cet équilibre.

L'astuce de PrismML est de simplifier radicalement la façon dont les valeurs sont stockées dans un modèle. Un modèle standard stocke chaque valeur en utilisant 16 états possibles, comme une échelle de mesure très précise. PrismML compresse chaque valeur à seulement un ou trois états possibles. Imaginez un passage d'une règle finement graduée à un simple interrupteur marche-arrêt. Cela réduit considérablement l'utilisation de la mémoire.

La société affirme que le compromis est une légère baisse de précision. La mémorisation factuelle s'affaiblit d'abord. Des compétences comme le raisonnement et les mathématiques se maintiennent mieux.

Les analystes ont salué le concept mais ont conseillé la prudence. Tarun Pathak de Counterpoint Research a déclaré que les performances sur des millions de requêtes du monde réel, sur des milliers de combinaisons d'appareils différentes, constituent le véritable test. Phil Solis d'IDC a mis en évidence l'autonomie de la batterie comme la plus grande question ouverte : un modèle utilisé en continu en arrière-plan pourrait décharger un téléphone même s'il nécessite moins de mémoire.

Pour les utilisateurs d'iPhone ordinaires, rien ne change pour le moment. C'est une négociation commerciale, pas une mise à jour logicielle. Mais si Apple et PrismML parviennent à un accord, les futures améliorations de Siri pourraient arriver plus rapidement, fonctionner hors ligne et traiter des informations plus sensibles sans jamais quitter votre poche.

PrismML publie deux versions de modèles compressés gratuitement, compatibles avec les iPhones, MacBooks et PC Windows alimentés par Nvidia. Le modèle Gemma de Google est le prochain dans le pipeline de l'entreprise.