Кто-то использовал фен для подделки показаний погоды. ИИ может сделать это намного опаснее.
Подделанный термометр в парижском аэропорту принес 20 000 долларов игроку. Эксперты предупреждают, что по мере того как ИИ берёт на себя прогнозирование погоды, такой подлог данных становится всё труднее выявить и намного более опасным.
Ключевые моменты
- Метеостанция в аэропорту Париж Шарль де Голль зафиксировала подозрительные скачки температуры 6 и 15 апреля 2026 года, предположительно вызванные портативным феном или зажигалкой.
- Один человек выиграл 20 000 долларов на платформе онлайн-прогнозирования, где обычные люди делают ставки на реальные события, используя поддельные показания.
- Французская климатическая организация обнаружила манипуляцию случайно; автоматизированная система её не выявила.
- Модели ИИ для прогнозирования погоды, которые учатся на исторических данных датчиков, а не используют физические уравнения как проверку, более уязвимы к фальсифицированным входным данным, чем традиционные методы прогнозирования.
- Четыре учёных, включая исследователей из Европейского центра среднесрочных прогнозов погоды и Европейской комиссии, требуют улучшенной защиты станций, лучшего выявления аномалий и большей прозрачности по всей цепочке прогнозирования.
В мягкое апрельское утро в Париже кто-то, очевидно, поднёс источник тепла близко к термометру в аэропорту Шарль де Голль. Датчик показал скачок. Люди, которые делали онлайн-ставки на то, что температура достигнет 22 градусов Цельсия в этот день, получили свои выигрыши. Один человек ушёл с суммой в 20 000 долларов.
Фактическая температура была около 18 градусов Цельсия.
Члены французской климатической организации заметили странные показания и подали тревогу. Ни одна система автоматического контроля качества не перехватила это вовремя. Это почти упущенное предупреждение стало началом публикации, подготовленной для MIT Technology Review четырьмя исследователями с прямым опытом работы в оперативном прогнозировании погоды и климатических данных.
Почему это важно помимо действий одного мошенника?
Сейчас одну подделанную станцию можно выявить. Но исследователи описывают шкалу рисков, которая быстро становится тревожной.
С одной стороны: одиночный игрок с феном, как в аэропорту Шарль де Голль. Следующий уровень: группа трейдеров, тихо изменяющих показания на нескольких станциях для влияния на оптовые цены электроэнергии. На противоположном конце: государственный субъект, отключающий датчик раннего предупреждения во время шторма или запускающий ложное предупреждение об экстренной ситуации. Каждый уровень труднее выявить и приносит более серьёзные последствия.
То, что делает ИИ особенно значимым в этом контексте — это то, как работают эти новые системы прогнозирования. Традиционные модели, такие как работающая в Европейском центре среднесрочных прогнозов погоды (ECMWF), перепроверяют каждое входящее показание датчика с учётом того, что должно происходить согласно физике, и сравнивают с соседними станциями. Это автоматический фильтр здравого смысла, называемый усвоением данных.
Новые системы прогнозирования на основе ИИ, называемые «моделями, управляемыми данными», потому что они учатся непосредственно из исторических наблюдений, а не из физических законов, пропускают или сокращают этот этап. Введите в них поррежённые данные, и у них будет меньше встроенных причин им не доверять. Исследователи в ECMWF уже изучают системы, которые строят прогнозы прямо из необработанных показаний датчиков, что может улучшить скорость и точность, но убирает ключевой уровень защиты.
Некоторые системы идут ещё дальше, комбинируя данные датчиков с большими языковыми моделями, технологией, стоящей за чат-ботами вроде ChatGPT, чтобы принимать решения в реальном времени во время стихийных бедствий без участия человека. Если входные данные неправильны, то и решения неправильны.
Исследователи предлагают три решения. Во-первых: физическая защита метеостанций, добавление постоянного мониторинга и сохранение возможности человеку отмечать подозрительные показания. Во-вторых: создание защиты по всей цепочке ИИ, используя инструменты, которые могут объяснить, что делает модель, и обнаружить попытки её обмана. В-третьих: убедиться, что каждая организация, работающая с данными, от техника удалённой станции до прогностического центра, выпускающего предупреждение, ясно сообщает об аномалиях, а не предполагает, что их кто-то другой выявит.
Для большинства людей прогноз погоды кажется мелочью. Для фермеров, выбирающих, что сажать, операторов электросети, устанавливающих цены на электричество, и служб спасения, решающих, когда эвакуировать город, это вовсе не так. Получение правильных данных — это не технический нюанс.
