Генеральный директор Google DeepMind предлагает создать «надзорный орган» в стиле FINRA для самых мощных моделей ИИ
Демис Хассабис предложил создать независимый органом по стандартизации, который будет проверять передовые модели ИИ перед их выпуском на рынок. Вот что он предлагает и почему это важно.
Ключевые моменты
- Генеральный директор Google DeepMind Демис Хассабис опубликовал предложение 14 июля 2026 года с призывом создать независимый орган для проверки самых мощных моделей ИИ перед их выпуском.
- Предложенный орган моделируется по образцу FINRA, Регуляторного органа финансовой отрасли, независимого органа, финансируемого самоходно и контролирующего деятельность брокеров без включения в государственную структуру.
- По плану лаборатории ИИ добровольно будут делиться новыми моделями с органом за 30 дней до запуска, с возможным обязательным соответствием после того, как процесс будет доказан.
- Ранние проверки правительством США моделей Anthropic Mythos и OpenAI Sol подверглись критике за отсутствие технической экспертизы и четких правил принятия решений.
- Советник Белого дома по ИИ Сриран Кришнан заявил в 2026 году, что администрация не создаст «FDA для ИИ», что делает саморегулирующуюся структуру более политически жизнеспособным путем.
Демис Хассабис, генеральный директор Google DeepMind, опубликовал во вторник подробное предложение о создании новой организации, которая будет выступать в роли охранника самых мощных систем ИИ в мире. Он называет их «передовыми моделями», имея в виду передовые системы ИИ, которые раздвигают границы того, что может сделать эта технология в настоящее время.
Идея достаточно проста. Перед тем как передовая модель выходит в общий доступ, её разработчики передают её независимому органу по стандартизации для проведения проверок безопасности в течение 30 дней. Если проверка пройдена — выпускаем продукт. Если нет — сначала устраняем проблемы.
Хассабис хочет структурировать этот орган по образцу FINRA, Регуляторного органа финансовой отрасли. FINRA — это не государственное учреждение. Он финансируется самой финансовой отраслью и работает независимо, устанавливая и обеспечивая соблюдение правил поведения для брокеров. Версия для ИИ будет работать так же: финансируемая деньгами крупных лабораторий ИИ, укомплектованная техническими экспертами и разработчиками с открытым исходным кодом, и имеющая возможность нанимать специализированные организации для проведения независимых оценок безопасности ИИ.
Предложение заполняет брешь, которая стала очевидной. Правительство США уже проводило тактические проверки безопасности двух известных моделей: Mythos от Anthropic и Sol от OpenAI, большой языковой модели и мультимодальной системы ИИ соответственно. Обе входят в число самых способных инструментов ИИ, созданных на сегодняшний день. Эти проверки подверглись широкой критике, о чём впервые сообщила TechCrunch AI, за недостаточную техническую экспертизу и нечёткие правила относительно того, что действительно может привести к блокировке выпуска.
Постоянный орган со штатом специалистов на полную ставку решил бы обе проблемы.
Политический аспект сложен. Администрация Трампа мало заинтересована в создании новых регуляторов ИИ. Сриран Кришнан, советник Белого дома по ИИ и партнёр венчурной фирмы Andreessen Horowitz, прямо заявил, что не будет «FDA для ИИ». Саморегулирующаяся модель Хассабиса — это прямой ответ на это возражение: никаких новых государственных агентств, никакой новой бюрократии, просто отрасль, контролирующая себя сама при поддержке государства.
Должны ли об этом беспокоиться обычные пользователи?
Да, в практическом смысле. В настоящее время самые мощные инструменты ИИ выходят на рынок без каких-либо постоянных проверок безопасности. Орган по стандартизации означал бы, что следующее поколение продуктов ИИ, которые вы используете, будь то для письма, здравоохранения или финансовых рекомендаций, прошёл бы хотя бы одну независимую техническую проверку перед выходом на ваш телефон или в браузер.
Хассабис представляет систему как спроектированную для развития вместе с технологией, ужесточая её требования, если риски становятся более серьёзными. Это разумная структура. Наиболее важным деталем будет то, кто на самом деле входит в состав органа и принимают ли лаборатории его выводы, когда эти выводы неудобны.
