ИИ может принять мёртвые камни за инопланетную жизнь, предупреждают учёные

Ключевые моменты

• Исследователи из Мичиганского государственного университета заставили ИИ уверенно неправильно классифицировать неживую материю как живую, внеся примерно 15 небольших изменений в тестовую последовательность — каждый раз.
• Команда провела свой эксперимент на 1000 параллельных компьютерах в течение трёх месяцев, используя программу Avida, которая моделирует цифровые организмы, конкурирующие и эволюционирующие.
• Основная проблема называется «данные вне распределения»: ИИ, обученный на земной жизни, не имеет надёжной системы отсчёта для инопланетной биологии, которая может выглядеть совершенно иначе.
• НАСА планирует запустить Обсерваторию обитаемых миров в 2040-х годах для поиска признаков жизни на планетах вне нашей Солнечной системы — миссия, которая, вероятно, будет в значительной степени опираться на анализ с помощью ИИ.
• Адами и Гупта представят свои результаты на Конференции по искусственной жизни 2026 года в Ватерлу, Канада, в августе.

ИИ, который уверенно определяет жизнь там, где её нет, звучит как незначительный сбой. На будущей марсианской миссии это может быть разницей между научным прорывом и позорной ошибкой, известной всему миру.

Кристоф Адами, вычислительный биолог из Мичиганского государственного университета, и его студент Анкит Гупта провели три месяца на тесте, который должен беспокоить всех, кто взволнован исследованием космоса с помощью ИИ. Их инструментом был Avida, компьютерная программа, созданная Адами в 1993 году, которая запускает крошечные цифровые организмы: фрагменты кода, которые копируют себя, конкурируют за время обработки и даже мутируют, как бактерии в чашке Петри.

Организмы в Avida дали команде большой чистый набор данных о том, что является живым (по правилам программы) и что не является. Они попросили ИИ их сортировать.

Сначала ИИ справлялся достаточно хорошо. Затем исследователи начали изменять образцы неживой материи, постепенно изменяя их молекулярные последовательности, каждый раз проверяя, сдвинулась ли уверенность ИИ. Результаты, согласно сообщению Space.com, были разительными.

«Примерно с 15-ю изменениями мы можем заставить ИИ быть совершенно уверенным в классификации как жизнь, когда на самом деле ни одного раза, когда он был на 100% уверен, это не была жизнь», — сказал Адами.

Независимо от того, с какой неживой последовательности они начинали, ИИ был обманут. Каждый раз.

Основная причина — это то, что исследователи называют проблемой «данных вне распределения». Представьте это так: если вы обучите ИИ распознавать яблоки, а затем покажете ему банан, он испытывает сложности. Банан имеет незнакомую форму, и ИИ не имеет хорошей ментальной модели для него. Инопланетные микробы, если они существуют, могут быть столь же чужды ИИ, обученному исключительно на земной биологии.

Это имеет огромное значение для реальных миссий. Марсоход, находящий под микроскопом что-то, что выглядит явно как микроб, — это одно. Но большинство попыток обнаружения жизни будут намного более косвенными, используя масс-спектрометрию, метод, который определяет молекулы, измеряя их вес, для просеивания атмосферных данных Венеры, образцов океана из луны Юпитера Европы или световых сигнатур планет в десятках световых лет.

Передайте эти неоднозначные данные ИИ, обученному только на земной жизни, и вы можете получить уверенный ответ, который просто неправилен.

«Вы не можете это гарантировать для внеземной жизни», — прямо сказал Адами.

Что это означает для будущих космических миссий?

Это означает, что ИИ должен быть первоначальным инструментом, а не последним словом. Адами не призывает полностью отказаться от ИИ в астробиологии. Он считает, что он имеет реальную ценность при сортировке огромных объёмов данных датчиков, которые ни одна команда людей не смогла бы прочитать достаточно быстро. Предупреждение более конкретно: знайте, на чём был обучен ваш ИИ, и будьте честны в отношении того, что он не может знать.

Далее команда планирует выйти за пределы цифровых организмов и провести те же тесты на реальных химических данных — более сложная и более информативная задача.