За лаштунками Shippy: як була створена система штучного інтелекту для моніторингу океану, щоб їй можна було довіряти, а не просто вона була розумною
Команда, яка працює над морським AI компанії Skylight, розповідає, чому надійність, а не сира інтелектуальність, виявилася найскладнішою інженерною проблемою, з якою вони зіткнулися.
Ключові моменти
- Shippy — це система штучного інтелекту, програмне забезпечення, яке може самостійно виконувати багатоступеневі завдання, створене для допомоги морським аналітикам відстежувати нелегальний промисел та діяльність суден у режимі реального часу.
- Shippy наразі працює на Claude Opus 4.6, великій мовній моделі, створеній Anthropic — технології, яка лежить в основі багатьох передових чат-ботів штучного інтелекту.
- Кожен користувач отримує власну ізольовану сесію: дані офіцера рибного господарства з Філіппін ніколи не торкаються даних іншого державного органу.
- Команда створила спеціальний інструмент командного рядка, простий текстовий інтерфейс, щоб запобігти штучному інтелекту робити тонкі помилки при отриманні живих даних із супутників та сигналів суден.
- Skylight обслуговує сотні державних органів та неурядових організацій у більш ніж 70 країнах.
Якщо патрульний корабель відправлено в неправильному напрямку через неправильну відповідь штучного інтелекту, вартість несуть реальні люди на небезпечній роботі. Цей один факт визначив кожне конструктивне рішення, прийняте при створенні Shippy, асистента штучного інтелекту, вбудованого в Skylight — платформу для відстежування суден у морі.
Команда опублікувала детальний розбір свого підходу на Hugging Face. Описане ними — це не стільки історія про розумний штучний інтелект, скільки історія про побудову захисних бар'єрів навколо нього.
Що насправді запобігає помилкам системи штучного інтелекту?
Відповідь, яку знайшли інженери Skylight, — це багаторівневість. Не розумніша модель, а серія передбачуваних, перевірених кроків, які звужують те, що штучний інтелект може порушити на кожному етапі.
Shippy побудована навколо трьох концепцій, які команда називає soul, skills та config. Soul — це набір написаних інструкцій, вбудованих у систему, які розповідають Shippy, що це таке і чого він не буде робити. Він не буде вирішувати, порушує судно закон. Він не буде вгадувати те, що виходить за межі даних. Ці обмеження написані явно, що означає, що людина може їх прочитати та змінити.
Skills — це окремі файли інструкцій, які обробляють конкретні завдання: пошук позиції судна, визначення меж виключної економічної зони країни (морської територіальної області, де нація контролює промисел та ресурси), або генерування посилання на карту, щоб аналітик міг самостійно перевірити відповідь.
Config охоплює практичні налаштування: яку модель штучного інтелекту використовувати, яку програмну платформу для неї запускати. Перехід на іншу модель — це зміна однієї строки, а не перебудова.
Найскладніша частина стосувалася даних. API Skylight, точка з'єднання між Shippy та живими супутниковими даними, обробляє десятки типів вхідних даних, складні фільтри та розбиття на сторінки, тобто надає результати частинами, а не за один раз. Ранні версії Shippy самостійно формували запити даних. Результати виглядали правильно, але були тихо помилковими: відсутні записи, спотворені дані місцеположення, неправильно прочитані фільтри.
Виправленням став спеціальний інструмент командного рядка, який команда називає Skylight CLI. Замість того, щоб формувати необроблений запит, Shippy видає одну просту команду, а CLI обробляє всю складність під капотом. Кожний рівень системи можна тестувати окремо. Якщо щось зломається, інженери точно знають, де шукати.
Ізоляція була однаково критичною. Коли офіцер рибного господарства входить у систему та ставить запитання Shippy, його дані та історія розмови ніколи не повинні бути видимі для жодного іншого користувача. Команда побудувала систему хостингу під назвою Mothership, яка розгортає свіже, ізольоване середовище для кожної окремої сесії користувача. Коли розмова закінчується, це середовище зникає.
Для звичайних людей практичний висновок полягає в наступному: вибір дизайну, який робить Shippy надійною в середовищі високоризикових державних рішень, такий самий, як той, який має значення кожного разу, коли штучний інтелект дотикається до чутливих рішень. Явні обмеження, перевірені кроки та сувора розділення даних не є опціональними додатками.
