#AI efficiency
7 stories taggedAI efficiency.
Nvidia's simple algebra trick makes AI model handoffs up to 25 times faster
Swapping between AI models mid-task is brutally expensive. Nvidia researchers found that a basic linear equation can do what previously needed a full restart, cutting costs and wait times sharply.
Quatre startups parient sur la prochaine vague d'IA basée sur quelque chose de meilleur que les transformers
L'architecture de réseau neuronal qui alimente tous les principaux chatbots atteint ses vraies limites. Un petit groupe d'entreprises pense avoir trouvé une solution.
Le raccourci IA d'Apple : comment une astuce « Brouillon et Vérification » rend les modèles de raisonnement deux fois plus rapides
Apple ML Research a développé un moyen plus intelligent d'accélérer la réflexion de l'IA, qui vérifie le sens plutôt que de compter les mots exacts. Cela pourrait réduire de moitié le coût d'exécution des IA puissantes.
LinkedIn gèle ses dépenses en centres de données IA pendant un an
Tandis que ses concurrents investissent des milliards dans de nouvelles puces et fermes de serveurs, LinkedIn affirme avoir doublé l'efficacité de son matériel existant et économisé 24 millions de dollars au passage.
Réduisez votre facture IA de 40 % sans toucher au modèle : voici comment une entreprise l'a fait
Une nouvelle étude du cabinet spécialisé en IA Writer montre que la refonte de la couche logicielle entourant un modèle de langage, et non le modèle lui-même, réduit les coûts de près de 40 % et divise par deux le temps d'exécution des tâches.
Apple discute avec la startup qui compresse l'IA géante sur un iPhone
PrismML affirme avoir réduit un modèle d'IA de 54 gigaoctets à moins de 4 gigaoctets. Apple suit attentivement la situation.
Les bébés apprennent plus vite que les IA les plus puissantes du monde. Les chercheurs veulent savoir pourquoi.
Un nouveau test oppose des modèles d'IA de pointe à la perception au niveau des tout-petits, et ce sont les tout-petits qui gagnent. Les chercheurs affirment que l'étude des cerveaux des nourrissons pourrait rendre l'IA moins chère, plus écologique et plus intelligente.