Le philosophe de Google DeepMind qui se demande : qu'est-ce que l'IA, vraiment ?

Points clés

• Iason Gabriel a rejoint Google en 2017, ce qui en fait l'un des éthiciens de l'IA ayant servi le plus longtemps dans une grande entreprise technologique.
• Gabriel travaille chez Google DeepMind, la division de recherche qui construit certains des systèmes d'IA les plus avancés du monde.
• La pression commerciale et la course entre les États-Unis et la Chine pour la suprématie en matière d'IA rendent l'examen éthique plus difficile, non plus facile.
• La question centrale à laquelle son travail revient sans cesse : personne ne comprend encore pleinement ce qu'est un grand modèle de langage, la technologie qui alimente les chatbots comme ChatGPT et Gemini.

Iason Gabriel est philosophe. Il travaille au sein de l'un des plus puissants laboratoires d'IA de la planète, et son rôle, globalement, est de poser des questions inconfortables avant qu'un produit ne soit commercialisé, plutôt qu'après.

Il a rejoint Google en 2017, à l'époque où l'expression « éthique de l'IA » sonnait encore académiquement. Sept ans plus tard, les enjeux ont l'air très différents.

Gabriel occupe une position au sein de Google DeepMind, la division de recherche basée à Londres que Google a formée en 2023 en fusionnant ses deux principaux pôles de recherche en IA. DeepMind a créé AlphaFold, le système qui a percé la structure de presque toutes les protéines connues. Il travaille aussi sur Gemini, la famille de grands modèles de langage de Google, le même type d'IA qui alimente les chatbots conversationnels.

Qu'est-ce qu'un éthicien de l'IA change réellement ?

Honnêtement, c'est débattu. Le travail de Gabriel consiste à anticiper les préjudices avant qu'ils ne se produisent : réfléchir à la façon dont un système pourrait être détourné, qui il pourrait blesser, quelles valeurs il devrait incarner. Mais anticiper les préjudices et les prévenir sont deux choses différentes.

La pression est réelle. Les gouvernements des États-Unis et de Chine traitent l'IA comme un atout stratégique, investissant des milliards dans le développement et poussant à la rapidité. Les entreprises font face aux attentes des investisseurs et aux menaces concurrentielles de rivaux qui lancent de nouveaux modèles tous les quelques mois. Dans cet environnement, un philosophe qui dit « attendez, réfléchissons à cela » nage à contre-courant.

Gabriel a déclaré au Guardian qu'une question continue de surgir, peu importe jusqu'où avance la technologie. « Il y a ce mystère profond de savoir ce que, réellement, c'est cette chose ? » Personne, pas même les ingénieurs qui construisent ces systèmes, ne comprend pleinement pourquoi les grands modèles de langage se comportent comme ils le font. Ils traitent d'énormes quantités de texte, détectent des schémas et génèrent des réponses qui peuvent sembler réfléchies ou même créatives. Mais le mécanisme interne reste, à bien des égards, opaque.

Cette opacité importe pour l'éthique. Si vous ne pouvez pas expliquer pourquoi un système a pris une décision, il devient très difficile de tenir quelqu'un responsable quand quelque chose tourne mal.

Pour les gens ordinaires, l'implication pratique est simple : les outils d'IA que vous utilisez au travail, dans les soins de santé ou à l'école sont construits par des entreprises où des gens comme Gabriel se battent pour avoir une voix au chapitre. Qu'ils remportent ce débat façonne ce que ces outils vous font.

La présence de Gabriel ne garantit pas de bons résultats. Mais son absence les rendrait probablement pires. La question, sept ans plus tard, est de savoir si l'éthique fonctionne comme un vrai frein ou comme une décoration rassurante sur une machine trop rapide pour s'arrêter.