Le plus grand remaniement de l'IA de Google signale un changement de culture, pas seulement un ajustement organisationnel

Points clés

• Google a annoncé mercredi son plus grand remaniement des dirigeants de l'IA à ce jour, retirant Demis Hassabis de la gestion quotidienne de Google DeepMind.
• Jeff Dean, un vétéran de Google depuis 27 ans et l'un de ses ingénieurs les plus éminents, s'en va pour cofonder Discovery Loop, une startup d'IA axée sur la recherche scientifique.
• Trois autres chercheurs seniors en IA de Google, Sanjay Ghemawat, Quoc Le et Oriol Vinyals, rejoignent Dean dans la nouvelle entreprise.
• Plusieurs initiés ont confié à The Verge que le contrat de Google avec le ministère américain de la Défense, qui permet au Pentagone d'utiliser l'IA de Google pour « tout usage légal », aurait peut-être poussé Dean et Hassabis vers la sortie.
• Koray Kavukcuoglu, actuellement directeur technique de Google DeepMind, prendra en charge la gestion quotidienne du laboratoire.

Google a passé des années à cultiver une réputation de progrès régulier et mesuré dans le domaine de l'IA. Mercredi a fait un trou dans cette image.

Dans une seule annonce, l'entreprise a révélé que Demis Hassabis, le neuroscientifique qui a cofondé DeepMind et l'a dirigé depuis que Google l'a acquis en 2014, se retire de la gestion quotidienne du laboratoire. En même temps, Jeff Dean, le 30e employé de Google et une figure que beaucoup au sein de l'entreprise considéraient comme une boussole morale, a annoncé qu'il partait définitivement.

Qu'est-ce qui a vraiment changé ?

Hassabis ne s'en va pas. Il accède à un rôle plus large en tant que président de DeepMind et scientifique en chef d'Alphabet, avec un focus sur l'AGI (intelligence générale artificielle, c'est-à-dire les systèmes d'IA qui pourraient égaler ou dépasser le raisonnement humain dans un large éventail de tâches) et la recherche à long terme. Il continuera également de diriger Isomorphic Labs, une filiale qui utilise l'IA pour découvrir de nouveaux médicaments.

Koray Kavukcuoglu, directeur technique actuel de DeepMind, est promu pour diriger le laboratoire à sa place.

Dean, quant à lui, cofonde Discovery Loop, une startup qui prévoit d'utiliser l'IA pour mener des milliers d'expériences scientifiques et d'ingénierie dans des domaines incluant la découverte de médicaments, l'énergie propre et la conception de matériaux. Trois collègues, Sanjay Ghemawat, Quoc Le et Oriol Vinyals, le quittent avec lui.

Est-ce vraiment à propos d'un marché du Pentagone ?

Publiquement, Google affirme que les changements préparent l'entreprise pour son « prochain chapitre ». En privé, plusieurs personnes informées de la situation pointent vers quelque chose de plus spécifique.

En avril, après que la société d'IA Anthropic a refusé de laisser le ministère américain de la Défense utiliser son IA pour la surveillance de masse domestique ou les armes autonomes meurtrières (armes qui peuvent décider de tuer sans qu'un humain n'approuve chaque décision), Google a été parmi les entreprises qui ont cédé et ont accepté de laisser le Pentagone utiliser son IA pour « tout usage légal ».

Dean s'était publiquement opposé à exactement ces utilisations. En février, il a écrit que la surveillance de masse « viole le quatrième amendement et a un effet dissuasif sur la liberté d'expression ». Déjà en 2018, Dean et Hassabis ont tous deux signé un engagement public affirmant que « la décision d'ôter une vie humaine ne devrait jamais être déléguée à une machine ».

Plus tôt cette année, Dean a également signé un mémoire judiciaire soutenant le procès d'Anthropic contre la tentative du ministère de la Défense de restreindre les travaux de l'entreprise. Un ancien chercheur de Google qui a quitté en raison du contrat du Pentagone a écrit le mois dernier qu'en signant ce mémoire, Dean « s'est désolidarisé de la ligne de l'entreprise, ce qui a probablement créé de la gêne dans la haute direction ».

Tyler Johnston, fondateur du chien de garde de l'industrie de l'IA The Midas Project, a déclaré à The Verge que le contrat du ministère de la Défense avait déjà déclenché des départs de personnel et un effort de syndicalisation au sein de DeepMind, et qu'il y a « de nombreux signes suggérant que Dean et Hassabis ont peut-être personnellement ressenti une opposition ».

Qu'est-ce que cela signifie pour les personnes en dehors de Google ?

Pour les utilisateurs ordinaires des produits Google, rien ne change immédiatement. Gemini, Google Search et d'autres outils d'IA continuent comme avant.

La question à plus long terme est de savoir si Google, sous la pression de livrer les produits plus rapidement et de concurrencer OpenAI et Anthropic, conservera les mêmes garde-fous de sécurité que des chercheurs comme Dean ont prônés en interne. Un employé actuel de Google, parlant anonymement, l'a dit sans détour : « La perte de Jeff perpétue l'exode des cerveaux chez Google. La médiocrité en est le résultat probable ».

Le départ de Dean supprime le critique interne le plus visible du travail militaire d'IA de Google. Cela n'arrêtera pas les critiques de continuer à l'intérieur de l'entreprise.

Questions courantes

Cela affecte-t-il les produits Google que j'utilise aujourd'hui ?

Aucun changement immédiat n'est prévu pour les produits comme Google Search, Gemini (l'assistant IA de Google) ou Google Photos. Le remaniement concerne qui dirige le laboratoire de recherche et la direction qu'il prendra au cours des prochaines années.

Quel est le contrat d'IA du Pentagone et dois-je m'en soucier ?

Google a accepté de laisser le ministère américain de la Défense utiliser ses outils d'IA pour tout objectif légal selon la loi américaine, y compris les applications militaires. Les critiques craignent que « tout usage légal » soit une norme trop large et pourrait inclure des décisions d'armes assistées par IA ou des programmes de surveillance de masse.