Глава Google DeepMind призывает к созданию государственного органа контроля над ИИ перед его выпуском

Ключевые моменты

• Генеральный директор Google DeepMind Демис Хассабис опубликовал во вторник предложение о создании возглавляемого США и находящегося под федеральным надзором органа для проверки моделей ИИ перед их публичным выпуском.
• Хассабис предупредил, что передовые модели ИИ, самые мощные системы, доступные на сегодняшний день, уже создают киберугрозы и вскоре могут открыть путь к ядерным или биологическим угрозам.
• Предложенный орган потребует от компаний ИИ представить новые модели на рассмотрение за 30 дней до запуска, начиная с добровольной основы, а затем переходя на обязательную.
• Генеральный директор Anthropic Дарио Амодей и генеральный директор OpenAI Сэм Альтман в последние недели высказывали схожие призывы к созданию органа контроля над ИИ.
• Финансирование надзорного органа будет "вероятно" поступать из самой индустрии ИИ, сказал Хассабис.

Демис Хассабис, генеральный директор Google DeepMind и лауреат Нобелевской премии по химии в 2024 году, опубликовал на этой неделе подробное предложение о создании нового американского учреждения: органа по стандартизации, фактически надзорного агентства, которое будет тестировать и одобрять мощные модели ИИ перед их поступлением в открытый доступ.

Думайте об этом как о Управлении по контролю за продуктами и лекарствами, но для программного обеспечения ИИ.

Хассабис сказал, что орган должен быть смоделирован по аналогии с FINRA, Финансовой ассоциацией регулирования промышленности, которая лицензирует и следит за деятельностью брокеров и брокерских фирм в Соединённых Штатах. FINRA находится под федеральным надзором, но работает как государственно-частное партнерство, что означает, что правительство и промышленность делят ответственность.

Причина, по которой Хассабис хочет этого сейчас: он считает, что риски растут стремительно. "Мы уже видели проблемы, которые создают передовые модели для кибербезопасности, и другие угрозы, включая ядерные и биологические риски, могут вскоре возникнуть", — написал он.

Его предложение гласит, что компании ИИ добровольно представляют новые модели органу на рассмотрение за 30 дней до запуска. Как только орган докажет, что это работает, такое представление станет обязательным для любой модели, продаваемой на рынке США.

Тестирование будет проверять, может ли модель быть обманута обходом своих собственных правил безопасности, проявляет ли она признаки обмана и можно ли отследить её результаты до источника ИИ. Последний пункт важен для обычных пользователей: это то, как ваш банк, кабинет врача или ваш работодатель смогут когда-нибудь проверить, был ли документ написан человеком или сгенерирован программным обеспечением.

Финансирование — очевидный вопрос. Хассабис сказал, что органу потребуется "значительное" финансирование для найма лучших технических специалистов и создания вычислительной инфраструктуры, необходимой для крупномасштабного тестирования. Он ожидает, что большая часть средств поступит из индустрии ИИ.

Это не голос в пустыне. Как впервые сообщила CNBC Tech, Хассабис и генеральный директор Anthropic Дарио Амодей подняли эту идею на встречу G7 с участием президента Дональда Трампа в прошлом месяце. Генеральный директор OpenAI Сэм Альтман опубликовал аналогичный аргумент в Financial Times в начале этого месяца.

Но политический путь неровный. Администрация Трампа недавно ввела временные экспортные ограничения на продвинутую модель Anthropic, а затем попросила OpenAI замедлить развертывание новой модели. Хассабис, по сути, просит то же правительство, которое уже ограничивает ИИ, создать вокруг него формальное, финансируемое и укомплектованное учреждение.

Что это означает для людей, которые используют ИИ на работе?

Если этот орган когда-нибудь будет создан, модели, которые вы используете через рабочее программное обеспечение или потребительские приложения, должны будут пройти проверку безопасности перед запуском. Это может означать немного более медленные графики выпуска, но это также означает, что независимый набор экспертов проверил, может ли инструмент быть манипулирован для получения опасного результата. Для большинства пользователей практический эффект был бы незаметен, если бы он не предотвратил тихо следующий крупный инцидент безопасности, связанный с продуктом ИИ.

Измерение США-Китай добавляет давление. Китайские модели ИИ от компаний, таких как DeepSeek, завоёвывают клиентов среди американских компаний, частично благодаря стоимости. Законодатели США сейчас рассматривают ограничения на их внедрение. Органа по стандартизации внутри страны, вероятно, также применялась бы к иностранным моделям, продаваемым на рынке США.

Честная оценка: Органа контроля над ИИ нет в законодательстве, и это предложение встречает реальные политические препятствия. Следите за тем, подхватит ли его Конгресс, а не за тем, продолжают ли его одобрять технологические руководители.