Глава Google DeepMind требует создания глобального органа надзора за ИИ, пока технология не вышла из-под контроля

Ключевые моменты

• Генеральный директор Google DeepMind Демис Хассабис опубликовал в 2025 году пост в блоге, призывающий создать новый международный орган для надзора за наиболее мощными системами ИИ до их выпуска для публики.
• Хассабис утверждает, что Соединённые Штаты должны возглавить это предприятие, ссылаясь на своё экономическое и техническое положение как естественный центр установления глобальных стандартов ИИ.
• Предлагаемый орган надзора обладал бы реальной властью: он мог бы оценивать передовые модели ИИ перед запуском и координировать замедление деятельности всей отрасли, если модель будет признана слишком опасной для выпуска.
• Хассабис, соавтор Нобелевской премии по химии 2024 года, потратил месяцы на информирование администрации Трампа, конкурирующих компаний ИИ и европейских официальных лиц о плане.
• В Соединённых Штатах не существует всеобъемлющего национального закона об ИИ, и не существует также никакой обязывающей глобальной базы.

Демис Хассабис руководит Google DeepMind, подразделением по исследованиям ИИ, стоящим за некоторыми из наиболее продвинутых систем искусственного интеллекта в мире. Он также только что поделился тем, что может быть его наиболее амбициозным предложением на сегодняшний день: мощным независимым органом надзора, который мог бы затормозить разработку ИИ, если ситуация начнёт выглядеть опасной.

В посте в блоге под названием «A Framework for Frontier AI and the Dawning of a New Age» Хассабис утверждал, что регулирование ИИ становится срочным, а не факультативным. Передовые модели, то есть наиболее способные и передовые системы ИИ, которые раздвигают границы того, на что способна технология, развиваются быстро. Слишком быстро, по его мнению, для того чтобы мир оставался пассивным.

Его предлагаемый орган работал бы в некоторой степени как FINRA, Управление по регулированию финансовой отрасли, которое контролирует финансовые фирмы в Соединённых Штатах. Он был бы укомплектован независимыми экспертами и представителями сообществ открытого кода ИИ (группы, которые создают и свободно распространяют инструменты ИИ). Самое главное — у него была бы реальная власть: возможность проверять наиболее мощные модели ИИ перед их выпуском компаниями и останавливать деятельность всей отрасли, если модель выглядит слишком рискованной для выпуска в мир.

Впервые об этом сообщила The Verge AI, ссылаясь на Axios. Хассабис потратил месяцы на тихое наращивание поддержки за кулисами. Он проинформировал администрацию Трампа, конкурирующие лаборатории и европейских чиновников. По его оценке Вашингтона? «Сигналы, которые я слышу, очень позитивны», — сказал он Axios. Он хочет, чтобы организация начала работать до конца 2025 года.

Почему такая спешка? Хассабис выразил это ясно в посте. Искусственный общий интеллект, или AGI, то есть система ИИ, способная соответствовать или превосходить человека в большинстве интеллектуальных задач, находится на расстоянии «вероятно, всего лишь нескольких короток лет».

Он не одинок в своих опасениях. Сооснователь Anthropic Джек Кларк и бывший генеральный директор Google Эрик Шмидт недавно присоединились к экономистам, призывающим мировых лидеров гораздо серьёзнее отнестись к экономическим сбоям, которые может вызвать ИИ.

Для обычных людей практический вывод прост. В настоящее время нет никаких обязывающих глобальных норм ИИ и нет всеобъемлющего национального закона в Соединённых Штатах. Хассабис пытается изменить это до того, как технология опередит обсуждение.

Должны ли мы беспокоиться о пробеле в правилах ИИ?

Не паниковать, но уделять внимание. Отсутствие согласованной базы означает, что компании в настоящее время устанавливают многие собственные ограничения. Независимый орган надзора с реальной властью переместил бы этот баланс в сторону общественной подотчётности, что является значительным изменением, на которое стоит обратить внимание.