Керівник Google DeepMind хоче створити глобальний орган нагляду за ШІ, поки технологія не вийшла з-під контролю

Ключові моменти

• Генеральний директор Google DeepMind Деміс Хассабіс опублікував у 2025 році блог-пост, у якому закликав створити новий міжнародний орган для нагляду за найпотужнішими системами ШІ перед їх випуском для громадськості.
• Хассабіс стверджує, що Сполучені Штати повинні очолити ці зусилля, посилаючись на їхній економічний та технічний потенціал як природне місце для встановлення глобальних стандартів ШІ.
• Запропонований орган нагляду матиме реальну владу: він зможе оцінювати передові моделі ШІ перед запуском та координувати уповільнення розвитку в галузі, якщо модель буде визнана надто небезпечною для випуску.
• Хассабіс, лауреат Нобелівської премії з хімії 2024 року, провів місяці, інформуючи адміністрацію Трампа, конкуруючі компанії ШІ та європейських чиновників про цей план.
• У Сполучених Штатах не існує комплексного національного закону про ШІ, і не існує також жодної обов'язкової глобальної бази.

Деміс Хассабіс керує Google DeepMind, дослідницьким підрозділом ШІ, який розробляє одні з найбільш передових систем штучного інтелекту у світі. Крім того, він щойно поділився тим, що може бути його найамбітнішою пропозицією: потужним, незалежним органом нагляду, який міг би гальмувати розвиток ШІ, якщо ситуація почне виглядати небезпечною.

У блог-пості під назвою "A Framework for Frontier AI and the Dawning of a New Age" Хассабіс стверджував, що регулювання ШІ стає невідкладною необхідністю, а не опціональним питанням. Frontier-моделі, тобто найпотужніші та найпередовіші системи ШІ, які розширюють можливості технології, розвиваються швидко. Занадто швидко, як він вважає, щоб світ залишався пасивним спостерігачем.

Його запропонований орган працював би приблизно як FINRA, Регуляторна комісія фінансової промисловості, яка контролює фінансові фірми у Сполучених Штатах. Він складатиметься з незалежних експертів та представників спільнот open-source ШІ (груп, які розробляють та вільно поширюють інструменти ШІ). Найголовніше, він матиме реальну владу: право розглядати найпотужніші моделі ШІ перед випуском компаніями та можливість зупинити всю галузь, якщо модель виглядає занадто ризикованою для випуску у світ.

Вперше про це повідомив The Verge AI, посилаючись на Axios. Хассабіс протягом місяців тихо будує підтримку за лаштунками. Він інформував адміністрацію Трампа, конкуруючі лабораторії та європейських чиновників. Як він оцінює обстановку у Вашингтоні? "Звуки, які я чую, дуже позитивні," – розповів він Axios. Він хоче, щоб організація почала працювати до кінця 2025 року.

Чому така поспіх? Хассабіс ясно висловив це у блог-пості. Загальний штучний інтелект, або AGI, тобто система ШІ, здатна зрівнятися або перевищити людські можливості в більшості інтелектуальних завдань, перебуває "ймовірно лише за кілька коротких років".

Він не один у цьому сигналі тривоги. Співзасновник Anthropic Джек Кларк та колишній генеральний директор Google Ерік Шмідт нещодавно приєдналися до економістів, які закликають світових лідерів набагато серйозніше ставитися до економічних збурень, які може спричинити ШІ.

Для звичайних людей практичний висновок простий. У світі не існує жодних обов'язкових глобальних правил щодо ШІ, а у Сполучених Штатах немає комплексного національного закону. Хассабіс намагається змінити це, поки технологія не обігнала дискусію.

Чи повинні ми хвилюватися про недостатність правил у сфері ШІ?

Не панікуйте, але будьте уважні. Відсутність узгодженої системи означає, що компанії самостійно встановлюють багато своїх обмежень. Незалежний орган з реальною владою зміщував би цей баланс у напрямку публічної відповідальності, що є значною змліною, гідною уваги.