Внутри Shippy: Как был создан надежный AI-агент для мониторинга океана

Ключевые моменты

• Shippy — это AI-агент, программное обеспечение, которое может самостоятельно выполнять многоэтапные задачи, созданный для помощи морским аналитикам в отслеживании незаконного рыболовства и активности судов в реальном времени.
• Shippy в настоящее время работает на Claude Opus 4.6, большой языковой модели Anthropic, технологии, лежащей в основе многих передовых AI-чатботов.
• Каждый пользователь получает свой изолированный сеанс: данные офицера рыболовства на Филиппинах никогда не смешиваются с данными другого государственного учреждения.
• Команда построила пользовательский инструмент командной строки — простой текстовый интерфейс — чтобы предотвратить ошибки AI при извлечении прямых данных со спутников и сигналов судов.
• Skylight обслуживает сотни государственных учреждений и НПО более чем в 70 странах.

Если патрульный корабль отправят в неправильном направлении из-за неверного ответа AI, реальные люди, работающие на опасной работе, платят цену. Этот единственный факт определил каждое решение по дизайну Shippy, AI-помощника, встроенного в Skylight — платформу для отслеживания судов в море.

Команда опубликовала детальный разбор своего подхода на Hugging Face. То, что они описывают — это не столько история об умном AI, сколько история о создании ограничений вокруг него.

Что на самом деле препятствует AI-агенту ошибаться?

Инженеры Skylight обнаружили, что ответ — это слои. Не более умная модель, а серия предсказуемых, проверяемых шагов, которые сужают то, что AI может испортить на каждом этапе.

Shippy построен вокруг трех концепций, которые команда называет soul, skills и config. Soul — это набор письменных инструкций, встроенных в систему, которые говорят Shippy, что это такое и что он не будет делать. Он не будет решать, нарушает ли судно закон. Он не будет предполагать выходы за рамки того, что показывают данные. Эти ограничения написаны явно, что означает, что человек может их прочитать и изменить.

Skills — это отдельные файлы инструкций, которые обрабатывают конкретные задачи: поиск позиции судна, определение границы Исключительной экономической зоны страны (морской район, где нация контролирует рыболовство и ресурсы) или создание ссылки на карту, чтобы аналитик мог сам проверить ответ.

Config охватывает практические параметры: какую модель AI использовать, какую платформу программного обеспечения запускать. Переключение на другую модель — это однострочное изменение, а не перестройка.

Самой сложной частью были данные. API Skylight, точка подключения между Shippy и прямыми спутниковыми данными, обрабатывает десятки типов входных данных, сложные фильтры и разбиение на страницы, что означает, что она доставляет результаты порциями, а не все сразу. Ранние версии Shippy создавали свои собственные запросы данных с нуля. Результаты выглядели правильно, но были скрыто неправильными: отсутствующие записи, искаженные данные о местоположении, неправильно прочитанные фильтры.

Решением был пользовательский инструмент командной строки, который команда называет Skylight CLI. Вместо создания необработанного запроса Shippy выдает одну простую команду, и CLI обрабатывает всю сложность под ней. Каждый уровень системы может быть протестирован самостоятельно. Если что-то сломается, инженеры точно знают, где искать.

Изоляция была одинаково критична. Когда офицер рыболовства входит в систему и задает Shippy вопрос, его данные и история разговора никогда не должны быть видны другому пользователю. Команда построила хостинг-систему под названием Mothership, которая запускает свежую, изолированную среду для каждого сеанса пользователя. Когда разговор заканчивается, эта среда исчезает.

Для обычных людей практический вывод таков: решения по дизайну, которые делают Shippy надежным в высокорисковой государственной обстановке, — это те же самые, которые имеют значение всякий раз, когда AI касается чувствительных решений. Явные ограничения, проверяемые шаги и строгое разделение данных не являются необязательными дополнениями.