Хтось використав фен для підробки показань погоди. Штучний інтелект може зробити це набагато гірше.

Ключові моменти

• Метеостанція у паризькому аеропорту Шарль де Голь зафіксувала підозрілі стрибки температури 6 і 15 квітня 2026 року, імовірно спричинені портативним феном або запальничкою.
• Одна людина виграла 20 000 доларів на онлайн-платформі прогнозів, де звичайні люди робили ставки на реальні події, скориставшись підробленими показаннями.
• Французька організація, що займається питаннями клімату, виявила маніпуляцію випадково; жодна автоматична система не виявила це першою.
• Моделі прогнозування погоди на основі штучного інтелекту, які вивчають закономірності безпосередньо з історичних даних датчиків, а не використовують фізичні рівняння як контроль, більш уразливі до підроблених вхідних даних, ніж традиційні методи прогнозування.
• Чотири вчені, включаючи дослідників із Європейського центру прогнозів середнього діапазону та Європейської комісії, закликають до посилення безпеки станцій, кращого виявлення аномалій та чіткої відповідальності в усьому ланцюгу прогнозування.

В м'який квітневий ранок у Парижі хтось, мабуть, поднесе джерело тепла близько до термометра у аеропорту Шарль де Голь. Датчик підстрибнув. Люди, які робили ставки в онлайні на те, що температура досягне 22 градусів Цельсія того дня, отримали свої виграші. Одна людина поїхала багатша на 20 000 доларів.

Фактична температура була близько 18 градусів Цельсія.

Члени французької організації, що займається питаннями клімату, помітили дивні показання й подали сигнал тривоги. Жодна автоматична система контролю якості не виявила це вчасно. Це майже упущення служить відправною точкою для попередження, опубліковано через MIT Technology Review, написаного чотирма дослідниками, які мають прямий досвід у оперативному прогнозуванні погоди та роботі з даними про клімат.

Чому це важливо поза межами одного шахрая?

Прямо зараз одну підроблену станцію можна виявити. Але дослідники описують градацію ризику, яка швидко стає незручною.

На одному кінці: одинокий гравець з феном, як у аеропорту Шарль де Голь. На один крок вище: група трейдерів, які непомітно коригують показання на кількох станціях, щоб змінити оптові ціни на електроенергію. На далекому кінці: державний актор, який заглушає датчик раннього попередження під час шторму або спричиняє хибний сигнал тривоги. Кожен крок складніше виявити й несе вищі наслідки.

Те, що робить штучний інтелект особливо релевантним тут, — це те, як працюють ці нові системи прогнозування. Традиційні моделі, як от та, якою керує Європейський центр прогнозів середнього діапазону (ECMWF), перевіряють кожен вхідний сенсорний сигнал на відповідність тому, що каже фізика, й порівнюють із сусідніми станціями. Це автоматичний фільтр логічності, звана асиміляція даних.

Новіші системи прогнозування на основі штучного інтелекту, описані як «керовані даними моделі», тому що вони вивчають безпосередньо з історичних спостережень, а не з фізичних правил, пропускають або скорочують цей крок. Якщо вас там залишить пошкоджені дані, у них буде менше вбудованих причин їм не довіряти. Дослідники з ECMWF вже досліджують системи, які витягують прогнози безпосередньо з необроблених датчикових сигналів, що може поліпшити швидкість та точність, але усуває ключовий захист.

Деякі системи йдуть ще далі, поєднуючи дані датчиків із великими мовними моделями, технологією, що стоїть за чат-ботами на кшталт ChatGPT, для прийняття рішень у реальному часі під час катастроф без людини в контурі. Якщо вхідні дані погані, рішення погані.

Дослідники пропонують три виправлення. По-перше: фізично захистити метеостанції, додати постійний моніторинг та дати змогу людям позначати підозрілі показання. По-друге: побудувати захисту в усьому конвеєрі штучного інтелекту, використовуючи інструменти, які можуть пояснити, що робить модель, та виявити, коли хтось намагається її обманути. По-третє: переконатися, що кожна організація, що торкається даних, від техніка, який керує віддаленою станцією, до центру прогнозування, що видає сигнал тривоги, чітко повідомляє про аномалії, а не припускає, що хтось інший їх виявить.

Для більшості людей прогноз погоди здається тривіальним. Для фермерів, що обирають, що сіяти, операторів мереж, які встановлюють ціни на електроенергію, та служб екстреного реагування, які вирішують, коли евакуювати місто, це абсолютно не так. Отримання правильних даних — це не технічна деталь.