ШІ може помилити мертві скелі за позаземне життя, попереджає нове дослідження

Ключові моменти

• Дослідники з Університету штату Мічиган змусили ШІ з упевненістю помилково визначити не-життя як життя приблизно з 15 невеликими змінами тестової послідовності щоразу.
• Команда провела експеримент на 1000 паралельних комп'ютерах протягом трьох місяців, використовуючи програму Avida, яка моделює цифрові організми, що конкурують і еволюціонують.
• Основна проблема називається «out-of-distribution» дані: ШІ, навчений на земному житті, не має надійної точки відліку для позаземної біології, яка може виглядати зовсім інакше.
• НАСА планує запустити обсерваторію «Habitable Worlds Observatory» у 2040-х роках для пошуку ознак життя на планетах поза нашою сонячною системою, місія, яка, ймовірно, буде значною мірою покладатися на аналіз ШІ.
• Адамі та Гупта представлять свої результати на конференції 2026 Conference on Artificial Life у Ватерлу, Канада, у серпні.

Штучний інтелект, який впевнено визначає життя там, де його немає, звучить як незначна помилка. На майбутній місії на Марс це могло б бути різницею між науковим прориву та посоромливою помилковою тривогою, про яку дізналась би вся світ.

Крістоф Адамі, обчислювальний біолог з Університету штату Мічиган, та його студент Анкіт Гупта провели три місяці на тестуванні, яке повинно стривожити всіх, хто захоплюється дослідженням космосу з використанням ШІ. Їхнім інструментом була Avida, комп'ютерна програма, яку Адамі розробив у 1993 році, що керує крихітними цифровими організмами: фрагменти коду, які копіюють себе, конкурують за час обробки та навіть мутують, як бактерії в чашці Петрі.

Організми в Avida надали команді великий, чистий набір даних речей, які живі (за правилами програми), та речей, які живі не є. Вони попросили ШІ розсортувати їх.

Спочатку ШІ справлявся розумно добре. Потім дослідники почали корегувати зразки не-життя, модифікуючи їхні молекулярні послідовності крок за кроком, щоразу перевіряючи, чи змінилася впевненість ШІ. Результати, за повідомленням Space.com, були разючими.

«Приблизно за 15 змін чи так ми можемо змусити ШІ бути абсолютно впевненим у класифікації як життя, коли насправді жоден раз, коли він був на 100% впевнений, це не було насправді життям», – сказав Адамі.

Незалежно від того, з якої послідовності не-життя вони почали, ШІ був обманутий. Щоразу.

Основна причина – це те, що дослідники називають проблемою «out-of-distribution». Подумайте про це так: якщо ви навчаєте ШІ розпізнавати яблука, а потім показуєте йому банан, він з труднощами справляється. Банан – незнайома форма, і ШІ не має хорошої розумової моделі для цього. Позаземні мікроби, якщо вони існують, можуть бути так само чужими для ШІ, навченого виключно земною біологією.

Це має величезне значення для реальних місій. Марсохід, що знайде щось, що явно виглядає як мікроб під мікроскопом, – це одне. Але більшість спроб виявлення життя будуть набагато більш непрямими, використовуючи мас-спектрометрію, техніку, яка визначає молекули, вимірюючи їхню вагу, щоб відфільтрувати дані атмосфери Венери, зразки океану з Європи, супутника Юпітера, або сигнали світла з планет, що знаходяться десятки світлових років від нас.

Передайте ці неоднозначні дані ШІ, навченому лише земному життю, і ви можете отримати впевнену відповідь, яка просто неправильна.

«Ви не можете гарантувати це для позаземного життя», – прямо сказав Адамі.

Що це означає для майбутніх космічних місій?

Це означає, що ШІ повинен бути першопрохідним інструментом, а не остаточним словом. Адамі не закликає вилучати ШІ з астробіології повністю. Він вважає, що він має справжню цінність у сортуванні величезної кількості даних датчиків, які жодна людська команда не могла б прочитати досить швидко. Попередження є більш конкретним: знайте, на чому був навчений ваш ШІ, та будьте чесні щодо того, чого він не може знати.

Далі команда планує вийти за межі цифрових організмів та провести ті ж тести на реальних хімічних даних, складнішу та більш показову задачу.