Inside Shippy: Wie ein KI-Agent zur Ozeanüberwachung gebaut wurde, um vertraut zu werden, nicht nur intelligent zu sein
Das Team hinter Skylights maritimer KI erklärt, warum Zuverlässigkeit, nicht rohe Intelligenz, das schwierigste Ingenieursproblem war, dem sie sich gegenübersahen.
Wichtige Punkte
- Shippy ist ein KI-Agent, eine Software, die mehrstufige Aufgaben eigenständig ausführen kann und entwickelt wurde, um Meeresfachleute dabei zu helfen, illegale Fischerei und Schiffsaktivitäten in Echtzeit zu verfolgen.
- Shippy läuft derzeit auf Claude Opus 4.6, einem großen Sprachmodell von Anthropic, der Technologie hinter vielen fortschrittlichen KI-Chatbots.
- Jeder Benutzer erhält eine eigene isolierte Sitzung: Daten eines Fischereibeamten in den Philippinen kommen niemals mit Daten einer anderen Regierungsbehörde in Kontakt.
- Das Team entwickelte ein benutzerdefiniertes Befehlszeilentool, eine einfache textbasierte Schnittstelle, um zu verhindern, dass die KI subtile Fehler macht, wenn Echtzeitdaten von Satelliten und Schiffssignalen abgerufen werden.
- Skylight bedient Hunderte von Regierungsbehörden und NGOs in mehr als 70 Ländern.
Wenn ein Patrouillenboot in die falsche Richtung geschickt wird, weil eine KI eine schlechte Antwort gab, tragen echte Menschen in gefährlichen Jobs die Kosten. Diese eine Tatsache prägte jede Designentscheidung hinter Shippy, dem KI-Assistenten, der in Skylight eingebaut ist, einer Plattform zur Verfolgung von Schiffen auf dem Meer.
Das Team veröffentlichte eine detaillierte Aufschlüsselung ihres Ansatzes auf Hugging Face. Was sie beschreiben, ist weniger eine Geschichte über eine clevere KI und mehr eine Geschichte über den Aufbau von Schutzvorrichtungen um eine herum.
Was hindert eine KI-Agent tatsächlich daran, Fehler zu machen?
Die Antwort, wie die Skylight-Ingenieure feststellten, sind Ebenen. Nicht ein intelligenteres Modell, sondern eine Reihe vorhersehbarer, testbarer Schritte, die einengen, was die KI in jeder Phase falsch machen kann.
Shippy ist um drei Konzepte herum gebaut, die das Team als Seele, Fähigkeiten und Konfiguration bezeichnet. Die Seele ist eine Reihe schriftlicher Anweisungen, die in das System eingebacken sind und Shippy sagen, was es ist und was es nicht tun wird. Es wird nicht entscheiden, ob ein Schiff gegen das Gesetz verstößt. Es wird nicht über das hinausgehen, was die Daten zeigen. Diese Grenzen sind explizit festgehalten, was bedeutet, dass ein Mensch sie lesen und ändern kann.
Fähigkeiten sind separate Anweisungsdateien, die spezifische Aufgaben bewältigen: Nachschlagen der Position eines Schiffes, Ermittlung der Grenze der Ausschließlichen Wirtschaftszone eines Landes (das Meeresgebiet, in dem eine Nation Fischerei und Ressourcen kontrolliert) oder Erstellen eines Kartenverweis, damit ein Analyst die Antwort selbst überprüfen kann.
Konfiguration umfasst praktische Einstellungen: welches KI-Modell verwendet werden soll, welches Softwareframework ausgeführt werden soll. Ein Wechsel zu einem anderen Modell ist eine einzeilige Änderung, keine Neuentwicklung.
Der kniffligste Teil waren die Daten. Skylights API, der Verbindungspunkt zwischen Shippy und Live-Satellitendaten, verarbeitet Dutzende von Eingabetypen, komplexe Filter und Paginierung, was bedeutet, dass Ergebnisse in Blöcken statt auf einmal geliefert werden. Frühe Versionen von Shippy erstellten ihre eigenen Datenanfragen von Grund auf. Die Ergebnisse sahen richtig aus, waren aber leise falsch: fehlende Datensätze, verfälschte Standortdaten, falsch gelesene Filter.
Die Lösung war ein benutzerdefiniertes Befehlszeilentool, das das Team Skylight CLI nennt. Anstatt eine rohe Anfrage zu erstellen, gibt Shippy einen einfachen Befehl aus und die CLI verwaltet die ganze Komplexität darunter. Jede Ebene des Systems kann isoliert getestet werden. Wenn etwas kaputtgeht, wissen Ingenieure genau, wo sie nachschauen müssen.
Isolierung war ebenso entscheidend. Wenn sich ein Fischereibeamter anmeldet und Shippy eine Frage stellt, dürfen seine Daten und sein Gesprächsverlauf für keinen anderen Benutzer sichtbar sein. Das Team entwickelte ein Hostingsystem namens Mothership, das für jede einzelne Benutzersitzung eine neue, isolierte Umgebung hochfährt. Wenn das Gespräch endet, verschwindet diese Umgebung.
Für gewöhnliche Menschen ist die praktische Erkenntnis folgende: Die Designentscheidungen, die Shippy in einer hochriskanten Regierungsumgebung vertrauenswürdig machen, sind dieselben, die zählen, wenn KI sensible Entscheidungen beeinflusst. Explizite Grenzen, testbare Schritte und strikte Datentrennung sind nicht optional.
