L'IA pourrait guérir le cancer ou renforcer l'autocratie. Le choix nous appartient

Points clés

• Katherine Rundell, auteure et universitaire à Oxford, avertit que l'IA transfère déjà la richesse et le pouvoir vers un petit nombre d'individus.
• Elle soutient que l'IA pourrait être utilisée pour propager la désinformation, permettre la surveillance de masse et piloter des armes qui tuent sans pilotes humains ni soldats.
• Elle énumère aussi des avantages réels : une recherche sur le cancer plus rapide, de meilleurs systèmes d'alerte aux catastrophes, un accès plus large à l'aide juridique.
• Son argument central, publié dans The Guardian, est que qui contrôle l'IA importe plus que ce que l'IA peut faire.

Deux futurs coexistent dans la même technologie. C'est l'argument inconfortable que Katherine Rundell, auteure et universitaire, présente cette semaine aux lecteurs, et il est difficile à rejeter.

D'un côté : un outil qui pourrait, selon ses termes, accélérer la guérison du cancer, aider les personnes handicapées à vivre de manière plus indépendante, et donner aux citoyens ordinaires le type de connaissances juridiques qui coûtent actuellement des centaines de livres l'heure. Les systèmes d'alerte précoce pour les inondations et les incendies de forêt pourraient devenir plus efficaces. Les scientifiques pourraient découvrir des motifs dans les écosystèmes terrestres qu'aucune équipe humaine ne pourrait repérer seule.

De l'autre côté se trouve quelque chose de plus sombre.

Qu'exactement Rundell met-elle en garde ?

Sa plus grande préoccupation est la concentration du pouvoir. L'IA, écrit-elle, permet déjà un « transfert vertigineux » de richesse de nombreux vers un infime groupe d'hommes dont l'attitude envers la vie humaine l'alarme. Elle ne les nomme pas, mais le message porte.

Au-delà de la richesse, elle signale trois dangers spécifiques. D'abord, la désinformation à une échelle qu'aucune technologie antérieure ne pourrait égaler : l'IA peut générer du texte, des images et des vidéos contrefaits sans armées de travailleurs humains derrière elle. Deuxièmement, la surveillance de masse, la capacité des gouvernements ou des entreprises à observer et enregistrer les citoyens si complètement que la dissidence devient dangereuse. Troisièmement, les armes autonomes létales, des systèmes militaires qui sélectionnent et éliminent des cibles sans qu'un humain prenne la décision finale.

Prises ensemble, elle soutient que ces capacités décrivent quelque chose qui s'apparente à une trousse d'outils prête à l'emploi pour la domination autoritaire.

Cela signifie-t-il que l'IA est mauvaise ?

Rundell dit non, mais elle pose une condition difficile. Les avantages ne se matérialisent que si les personnes contrôlant la technologie possèdent quelque chose comme de bonnes valeurs. Si l'IA se concentre entre les mains de « criminels et de despotes », les percées médicales deviennent sans pertinence.

Ce n'est pas un argument technique. C'est un argument politique.

Son focus est l'éducation : les salles de classe sont où la prochaine génération d'électeurs, d'ingénieurs et de décideurs politiques forme ses hypothèses sur ce qu'est la technologie. Elle craint que ces esprits ne soient façonnés par des outils construits pour l'engagement et l'efficacité plutôt que pour la curiosité et la pensée critique.

Qu'est-ce que cela signifie pour les gens ordinaires ?

L'implication pratique concerne moins l'application que vous utilisez et davantage la question de savoir pour qui vous votez et quelles questions vous posez aux entreprises qui construisent ces systèmes. Le texte de Rundell est une incitation, pas un manuel.

Pour les parents et les enseignants, la question plus immédiate qu'elle soulève est de savoir si la version de l'IA que les étudiants rencontrent à l'école développe leur réflexion ou la remplace tranquillement. Ce débat se déroule actuellement dans les salles des professeurs et les documents politiques, et il n'attendra pas.

Questions courantes

L'IA est-elle réellement utilisée pour la surveillance dès maintenant ?

Oui. Les gouvernements de plusieurs pays utilisent déjà la reconnaissance faciale alimentée par l'IA et l'analyse de données pour surveiller les citoyens. La technologie n'est pas hypothétique.

L'IA peut-elle vraiment aider à trouver un remède contre le cancer ?

Les outils d'IA sont déjà utilisés dans la recherche sur le cancer pour analyser les images médicales et identifier les candidats-médicaments plus rapidement que les chercheurs humains seuls. Les résultats jusqu'à présent sont prometteurs, mais les cures restent éloignées de quelques années.

Devrais-je m'inquiéter de l'IA et de l'éducation de mon enfant ?

Le débat est vivant et non résolu. La chose la plus utile qu'un parent puisse faire en ce moment est de demander à l'école de son enfant quelle est sa politique concernant les outils d'IA et si la pensée critique est toujours explicitement enseignée.