Искусственный интеллект может проектировать биооружие. Может ли он их остановить?
Тот же искусственный интеллект, который ускоряет выявление заболеваний, может помочь преступникам создавать смертельные патогены. Эксперты в области общественного здравоохранения говорят, что гонка между наступлением и защитой уже началась.
Ключевые моменты
- ИИ может сократить время между первыми случаями вспышки и обнаружением органами общественного здравоохранения, потенциально предотвращая пандемию.
- Те же инструменты ИИ, которые помогают учёным разрабатывать новые биологические соединения, теоретически могут помочь преступникам создавать опасные патогены.
- Эксперты в области общественного здравоохранения говорят, что раннее выявление вспышки — это единственный наиболее важный фактор в предотвращении перерастания болезни в глобальный кризис.
- Исторически именно скорость реагирования, а не степень опасности патогена, определяла, превратится ли вспышка в эпидемию.
Раньше этот вопрос был теоретическим. Теперь он актуален.
Искусственный интеллект, технология, лежащая в основе таких инструментов, как ChatGPT, способная понимать язык, анализировать данные и быстро генерировать новый контент, перестраивает биологию. Он может сканировать миллионы генетических последовательностей, выявлять закономерности в данных о заболеваниях на разных континентах и помогать исследователям разрабатывать новые лекарства за месяцы вместо лет. Это реальные, измеримые преимущества.
Но эти же возможности работают и в противоположном направлении.
В чём заключается реальная угроза?
По мнению исследователей в области биобезопасности, преступник с доступом к инструментам ИИ мог бы создавать подробные инструкции по конструированию опасных патогенов намного легче, чем раньше. Это иногда называют «чёрной биологией»: использование ИИ для проектирования или модификации организмов, вызывающих заболевания, вне какого-либо официального контроля.
Автор Энни Якобсен в The Guardian ясно формулирует момент: это гонка между наступлением и защитой, и обе стороны ускоряются одновременно.
Эта озабоченность — не научная фантастика. Несколько исследователей в области биобезопасности уже продемонстрировали, что существующие системы ИИ могут снижать технические барьеры для несанкционированного использования биологических знаний. Инструменты не должны быть идеальными, чтобы быть опасными. Они должны быть просто достаточно хорошими.
Как ИИ помогает на стороне защиты?
Главное — он работает быстро. Каждая вспышка начинается с малого: несколько больных людей в одном месте.
Общественное здравоохранение побеждает, выявляя эти случаи рано, до переполнения больниц и до момента, когда изоляция становится невозможной. Исторически этот процесс выявления был медленным. Данные хранятся в местных клинических записях. Отчёты поднимаются по бюрократической цепочке. К тому времени, когда оповещение достигает нужных людей, проходят недели.
ИИ меняет эту хронологию. Системы, обученные на данных госпитализаций, постах в социальных сетях, продажах лекарств и характерах путешествий, могут выявлять необычные скопления заболеваний практически в реальном времени, давая органам здравоохранения дополнительные дни или недели предупреждения. Дни имеют огромное значение, когда показатели передачи удваиваются.
Вот грубое представление о том, как на практике выглядит эта разница:
| Сценарий | Типичная задержка выявления | Исход вспышки |
|---|---|---|
| Традиционный надзор | 2–4 недели | Часто региональное распространение до принятия мер |
| Надзор с использованием ИИ | 3–7 дней | Изоляция более вероятна |
| Отсутствие системы надзора | 4–8 недель | Высокий риск эпидемии |
Эти цифры — оценки, полученные на основе анализа исторических вспышек, а не гарантии. Каждая вспышка уникальна.
Должны ли обычные люди беспокоиться?
Достаточно, чтобы обратить внимание, но недостаточно, чтобы паниковать.
Риск реален, и исследователи, которые его поднимают, — авторитетны. Но сторона защиты в этом уравнении тоже развивается быстро. Правительства, университеты и компании инвестируют в инструменты надзора на базе ИИ именно потому, что угроза признана.
То, что могут делать обычные люди, просто: оставаться в курсе прививок, следить официальным рекомендациям органов общественного здравоохранения во время вспышек и относиться скептически к сенсационным заявлениям об искусственно созданных заболеваниях до их подтверждения органами здравоохранения.
Честный вывод здесь следующий: та же технология, которая делает угрозу больше, делает и наши системы раннего предупреждения острее. Какая сторона выйдет вперёд, во многом зависит от того, сколько средств правительства инвестируют в инфраструктуру общественного здравоохранения прямо сейчас, а не после начала следующего кризиса.
