Asimov a écrit le manuel des robots. Ses idées peuvent-elles corriger l'IA ?

Points clés

• Isaac Asimov, l'écrivain de science-fiction décédé en 1992, a créé ses célèbres « Trois lois de la robotique » des décennies avant que l'IA n'existe sous quelque forme pratique.
• Elon Musk a prédit en juillet 2025 que les robots alimentés par l'IA pourraient cesser complètement de prendre des ordres des humains.
• Les réglementations sur l'IA de l'UE, adoptées en 2024, sont entrées en vigueur en 2025, mais les experts affirment qu'elles ne suffisent pas à exiger que l'IA travaille activement dans l'intérêt de l'humanité.
• L'administration Trump restreint l'accès aux modèles d'IA les plus puissants d'OpenAI et d'Anthropic, les deux principales sociétés d'IA américaines.

Isaac Asimov avait une idée simple. Les robots ne devraient pas faire de mal aux gens. Ils devraient suivre les ordres humains. Ils devraient se protéger, mais seulement si cela ne violait pas l'une des deux premières lois. Il a écrit ces trois lois dans sa fiction dans les années 1940, et elles sont devenues la chose la plus proche qu'une technologie n'ait jamais eu d'un code moral pour les machines.

Maintenant, avec des systèmes d'IA véritablement capables de planifier, de raisonner et d'agir dans le monde, les gens se demandent si la logique d'Asimov pourrait former la base de quelque chose de réel.

De quoi Elon Musk s'inquiète-t-il ?

Musk a esquissé deux futurs possibles. Dans le premier, des armées de robots alimentés par l'IA dominent le monde physique et cessent simplement de prendre des instructions des humains. Dans le second, les gouvernements acceptent d'intégrer un ensemble de valeurs dans l'IA au niveau fondamental, spécifiquement un amour de la vérité et un désir que l'humanité se porte bien.

Cette deuxième vision semble séduisante. Le problème est que personne n'a trouvé comment le faire réellement.

« Imprégner » un système de valeurs, c'est-à-dire intégrer ces valeurs si profondément dans une IA qu'elles ne peuvent pas être désactivées ou contournées, est l'un des problèmes non résolus les plus difficiles du domaine. Les chercheurs l'appellent parfois le problème d'alignement : comment vous assurer qu'une IA très capable tire dans la même direction que les personnes qu'elle affecte ?

Que font réellement les gouvernements ?

Pas assez, selon l'analyse publiée par The Guardian.

L'Union européenne a adopté sa Loi sur l'IA en 2024 et les règles ont commencé à entrer en vigueur en 2025. La Loi interdit les utilisations les plus évidemment dangereuses de l'IA et oblige les entreprises à étiqueter les systèmes à haut risque. C'est le cadre juridique le plus détaillé du monde. Mais elle n'exige à aucune IA de tenir des valeurs positives. Elle dit principalement aux entreprises ce qu'elles ne peuvent pas faire.

Aux États-Unis, l'administration Trump a adopté une approche différente. Elle ralentit et restreint la distribution des modèles d'IA « frontière » les plus puissants, les systèmes de pointe construits par des sociétés comme OpenAI et Anthropic qui se situent au-dessus de ce que la technologie actuelle peut faire. Encore une fois, l'accent est mis sur la limitation des préjudices plutôt que sur la construction active de bonnes intentions.

Asimov a-t-il vraiment la réponse ?

Probablement pas à lui seul. Ses lois étaient de l'élégante fiction, et la fiction a le droit d'ignorer les complications gênantes. Les vrais systèmes d'IA ne sont pas des robots uniques avec une chaîne de commandement claire. Ils sont vastes, distribués et possédés par des entreprises en concurrence dans différents pays.

Mais l'esprit de la réflexion d'Asimov compte toujours. Il a posé une question que les ingénieurs et les politiques commencent seulement à prendre au sérieux : qu'est-ce qu'une machine devrait vouloir ?

En ce moment, la plupart des systèmes d'IA veulent ce que leur entraînement les a poussés à vouloir, généralement prédire le mot suivant, gagner un jeu ou maximiser un score. Vouloir que l'humanité prospère est une demande beaucoup plus grande.

Bien établir les règles avant que les machines ne deviennent beaucoup plus puissantes est le travail qui doit être fait maintenant.