ШІ може розробляти біологічну зброю. Чи може він їй запобігти?
Той самий штучний інтелект, який прискорює виявлення захворювань, може допомогти зловмисникам створювати смертельні патогени. Експерти у сфері громадського здоров'я кажуть, що гонка між наступом та обороною вже розпочалася.
Ключові положення
- ШІ може скоротити час між першими випадками спалаху та виявленням його органами громадського здоров'я, потенційно запобігаючи пандемії.
- Ті самі інструменти ШІ, які допомагають науковцям розробляти нові біологічні сполуки, теоретично можуть допомогти зловмисникам створювати небезпечні патогени.
- Експерти у сфері громадського здоров'я кажуть, що раннє виявлення спалаху є єдиним найважливішим фактором у запобіганні перетворенню хвороби на глобальну кризу.
- Історично саме швидкість реакції, а не тяжкість патогена, визначала, чи перетворюється спалах в епідемію.
Раніше це питання було теоретичним. Тепер воно є невідкладним.
Штучний інтелект, технологія, що лежить в основі таких інструментів як ChatGPT і здатна розуміти мову, аналізувати дані та генерувати новий контент на великій швидкості, перебудовує біологію. Він може сканувати мільйони генетичних послідовностей, виявляти закономірності в даних про хвороби по всьому світу та допомагати дослідникам розробляти нові ліки за місяці замість років. Це реальні, вимірювані переваги.
Але ці ж можливості діють в протилежному напрямку.
Яка насправді загроза?
За словами дослідників у сфері біобезпеки, зловмисник з доступом до інструментів ШІ міг би значно легше отримати детальні інструкції щодо розробки небезпечних патогенів. Це іноді називають «темною біологією»: використання ШІ для розробки або модифікації організмів, які викликають захворювання, поза будь-яким офіційним наглядом.
У своій статті в The Guardian авторка Енні Якобсен розуміє момент просто: це гонка між наступом та обороною, і обидві сторони прискорюються одночасно.
Ця занепокоєність не є науковою фантастикою. Кілька дослідників біобезпеки вже продемонстрували, що існуючі системи ШІ можуть знизити технічний бар'єр для того, хто намагається неправомірно використовувати біологічні знання. Інструменти не мають бути досконалими, щоб бути небезпечними. Їм просто потрібно бути достатньо хорошими.
Як ШІ допомагає в оборові?
Він допомагає найбільше завдяки своїй швидкості. Кожен спалах починається невеликим: кілька хворих людей в одному місці.
Громадське здоров'я перемагає, виявляючи ці випадки рано, до того як лікарні переповняться і локалізація стане неможливою. Історично цей процес виявлення був повільним. Дані залишаються в місцевих клініках. Звіти йдуть по бюрократичних каналах. До того часу, як оповіщення дійде до потрібних людей, минають тижні.
ШІ змінює цю шкалу часу. Системи, навчені на даних про госпіталізацію, постах у соцмережах, продажах ліків та закономірностях подорожей, можуть виявляти незвичайні скупчення захворювань практично в реальному часі, надаючи органам охорони здоров'я додаткові дні або тижні попередження. Дні мають величезне значення, коли показники передачі подвоюються.
Ось приблизна картина того, як виглядає ця різниця в практиці:
| Сценарій | Типова затримка виявлення | Результат спалаху |
|---|---|---|
| Традиційний нагляд | 2–4 тижні | Часто регіональне поширення до початку реагування |
| Нагляд з допомогою ШІ | 3–7 днів | Локалізація більш імовірна |
| Без системи нагляду | 4–8 тижнів | Висока ризик епідемії |
Ці цифри є оцінками, отриманими з аналізу історичних спалахів, а не гарантіями. Кожен спалах є унікальним.
Чи повинні звичайні люди хвилюватися?
Хвилюватися достатньо, щоб зважати, але не до паніки.
Ризик є реальним і дослідники, які його піднімають, є авторитетними. Але оборона в цьому рівнянні також рухається швидко. Уряди, університети та компанії інвестують в інструменти нагляду на основі ШІ саме тому, що ця загроза визнана.
Те, що можуть робити звичайні люди, є простим: бути в курсі щодо щеплень, звертати увагу на офіційні рекомендації органів охорони здоров'я під час спалахів та ставитися скептично до сенсаційних заяв про штучно створені хвороби, доки вони не будуть підтверджені органами охорони здоров'я.
Чесний висновок тут полягає в наступному: та сама технологія, яка робить загрозу більшою, також робить наші системи раннього попередження гостріше. Яка сторона вийде вперед, залежить переважно від того, скільки коштів уряди вкладають в інфраструктуру громадського здоров'я прямо зараз, а не після того, як почнеться наступна криза.
