Votre IA devrait-elle faire tout ce que vous demandez, quoi qu'il en soit ?

Points clés

• George Hotz, fondateur de Comma AI, a soutenu publiquement que l'IA devrait être pleinement alignée sur les souhaits de chaque utilisateur, y compris en l'aidant dans des activités illégales.
• Hotz a comparé une IA alignée sur l'utilisateur à un pistolet, qui ne juge pas la façon dont il est utilisé.
• Le débat fait suite à un document politique intitulé AI 2040: Plan A, publié par l'AI Futures Institute, qui proposait de ralentir le développement de l'IA pendant 14 ans.
• La plupart des assistants IA grand public, comme ChatGPT et Claude, sont des services gérés de manière centralisée qui refusent les demandes jugées nuisibles.
• Le débat soulève une véritable question sur qui l'IA devrait finalement servir : l'utilisateur individuel ou la société dans son ensemble.

George Hotz, fondateur de Comma AI (une entreprise qui développe des logiciels d'assistance à la conduite) et figure bien connue dans la communauté du hacking, a publié un argument ce week-end qui est, c'est le moins qu'on puisse dire, un véritable sujet de conversation.

Sa position : une IA correctement alignée, c'est-à-dire une IA qui sert véritablement son utilisateur, devrait aider cet utilisateur à faire tout ce qu'il demande. Commander des produits chimiques suspects. Expliquer des processus illégaux. Aider à planifier un crime. Si l'utilisateur le souhaite, l'IA devrait l'assister.

Hotz a comparé ce type d'IA à un pistolet. Un pistolet ne pose pas de questions.

Il réagissait à un document politique intitulé AI 2040: Plan A, publié par l'AI Futures Institute. Le document propose que les chercheurs en IA du monde entier ralentissent volontairement le développement pendant 14 ans pour donner à l'humanité le temps de résoudre les questions de sécurité. Hotz pense que c'est la mauvaise approche. Il croit que la véritable solution à la sécurité de l'IA réside dans les modèles d'IA locaux, des logiciels qui s'exécutent sur votre propre appareil et ne répondent qu'à vous, plutôt que des services gérés de manière centralisée comme ChatGPT ou Claude que contrôle et restreint une entreprise.

Cette partie de son argument est véritablement intéressante. Comme l'a noté TechCrunch AI dans sa couverture, la plupart de l'IA d'aujourd'hui se trouve sur les serveurs des entreprises, est façonnée par les règles de ces entreprises, et peut être modifiée ou arrêtée à tout moment. Une véritable IA personnelle, celle qui vit sur votre téléphone et ne fonctionne que pour vous, est quelque chose d'entièrement différent. C'est plus un outil privé qu'un service par abonnement.

Mais Hotz va au-delà de ce point raisonnable en entrant dans un territoire plus épineux. Son cadre est essentiellement : la liberté signifie pas de limites, un point c'est tout.

Le problème pratique est que la liberté n'a jamais fonctionné tout à fait de cette façon, pour personne. Les routes, les règles de sécurité alimentaire, le droit des contrats, tout cela représente des contraintes qui font fonctionner le réseau plus large de la société. Les produits utilisés par des millions de personnes se situent à l'intérieur de ce réseau, que leurs créateurs l'aiment ou non.

Voici la version simple : si une IA aide une personne à planifier quelque chose qui cause du tort à une autre personne, la victime n'a pas consenti à cet arrangement. La liberté du premier utilisateur s'arrête quelque part près du bien-être du second.

Pour les utilisateurs ordinaires, rien de tout cela ne change ce que les outils d'IA peuvent faire aujourd'hui. ChatGPT, Claude et les assistants similaires continueront de refuser les demandes qui dépassent des limites claires légales ou éthiques. Les modèles d'IA locaux existent et deviennent meilleurs, mais les vraiment puissants nécessitent toujours une configuration technique que la plupart des gens trouveraient frustrante.

Suivez cette évolution, cependant. À mesure que les modèles plus petits deviennent plus puissants, la question de qui contrôle votre IA et quelles règles elle suit aura de plus en plus d'importance pour la vie quotidienne.