Inside Shippy : Comment un agent IA de surveillance océanique a été créé pour être fiable, pas seulement intelligent

Points clés

• Shippy est un agent IA, un logiciel capable d'accomplir des tâches en plusieurs étapes de manière autonome, conçu pour aider les analystes maritimes à suivre la pêche illégale et l'activité navale en temps réel.
• Shippy fonctionne actuellement sur Claude Opus 4.6, un grand modèle de langage créé par Anthropic, la technologie derrière de nombreux assistants IA avancés.
• Chaque utilisateur dispose de sa propre session isolée : les données d'un agent des pêches aux Philippines ne sont jamais mélangées aux données appartenant à une autre agence gouvernementale.
• L'équipe a construit un outil de ligne de commande personnalisé, une interface textuelle simple, pour empêcher l'IA de commettre des erreurs subtiles lors de l'extraction de données en direct provenant de satellites et de signaux de navires.
• Skylight sert des centaines d'agences gouvernementales et d'ONG dans plus de 70 pays.

Si un navire de patrouille est envoyé dans la mauvaise direction parce qu'une IA a donné une mauvaise réponse, des personnes exerçant des métiers dangereux en supportent le coût. Ce seul fait a façonné chaque décision de conception de Shippy, l'assistant IA intégré à Skylight, une plateforme de suivi des navires en mer.

L'équipe a publié une analyse détaillée de leur approche sur Hugging Face. Ce qu'ils décrivent est moins l'histoire d'une IA astucieuse et plus l'histoire de la construction de garde-fous autour d'une IA.

Qu'est-ce qui empêche réellement un agent IA de se tromper ?

La réponse, ont découvert les ingénieurs de Skylight, c'est les couches. Pas un modèle plus intelligent, mais une série d'étapes prévisibles et testables qui limitent ce que l'IA peut mésinterpréter à chaque étape.

Shippy est construit autour de trois concepts que l'équipe appelle l'essence, les compétences et la configuration. L'essence est un ensemble d'instructions écrites intégrées au système indiquant à Shippy ce qu'il est et ce qu'il ne fera pas. Il ne décidera pas si un navire enfreint la loi. Il ne devinera pas au-delà de ce que les données montrent. Ces limites sont explicitement énoncées, ce qui signifie qu'un humain peut les lire et les modifier.

Les compétences sont des fichiers d'instructions distincts qui gèrent des tâches spécifiques : localiser un navire, trouver la limite de la zone économique exclusive d'un pays (la zone maritime où une nation contrôle la pêche et les ressources), ou générer un lien de carte pour qu'un analyste puisse vérifier la réponse lui-même.

La configuration couvre les paramètres pratiques : quel modèle IA utiliser, quel cadre logiciel l'exécuter. Passer à un modèle différent est une modification d'une seule ligne, pas une reconstruction.

La partie la plus délicate était les données. L'API de Skylight, le point de connexion entre Shippy et les données satellites en direct, gère des dizaines de types d'entrée, des filtres complexes et la pagination, ce qui signifie qu'elle livre les résultats par morceaux plutôt que d'un seul coup. Les premières versions de Shippy construisaient elles-mêmes leurs demandes de données à partir de zéro. Les résultats semblaient corrects mais étaient discrètement faux : enregistrements manquants, données de localisation altérées, filtres mal interprétés.

La solution était un outil de ligne de commande personnalisé que l'équipe appelle la CLI Skylight. Au lieu de construire une requête brute, Shippy émet une commande simple et la CLI gère toute la complexité en dessous. Chaque couche du système peut être testée indépendamment. Si quelque chose se casse, les ingénieurs savent exactement où regarder.

L'isolement était tout aussi critique. Quand un agent des pêches se connecte et pose une question à Shippy, ses données et l'historique de la conversation ne doivent jamais être visibles par un autre utilisateur. L'équipe a construit un système d'hébergement appelé Mothership qui configure un environnement frais et contenu pour chaque session utilisateur. Quand la conversation se termine, cet environnement disparaît.

Pour les gens ordinaires, le bénéfice pratique est le suivant : les choix de conception qui rendent Shippy digne de confiance dans un contexte gouvernemental à enjeux élevés sont les mêmes qui importent chaque fois que l'IA touche à des décisions sensibles. Les limites explicites, les étapes testables et la séparation stricte des données ne sont pas des suppléments optionnels.