Голова Google DeepMind закликає до створення державної організації США для перевірки штучного інтелекту перед випуском

Ключові моменти

• Генеральний директор Google DeepMind Деміс Хассабіс опублікував у вівторок пропозицію щодо створення органу під керівництвом США з федеральним наглядом для перевірки моделей штучного інтелекту перед публічним випуском.
• Хассабіс попередив, що передові моделі штучного інтелекту, найпотужніші системи, доступні сьогодні, вже становлять ризик для кібербезпеки та незабаром можуть дозволити ядерні та біологічні загрози.
• Запропонована організація вимагатиме від компаній штучного інтелекту подавати нові моделі на перевірку за 30 днів до запуску, спочатку добровільно, потім обов'язково.
• Генеральний директор Anthropic Даріо Амодеї та генеральний директор OpenAI Сем Альтман недавно висунули подібні пропозиції щодо органу нагляду за штучним інтелектом.
• Фінансування органу нагляду «найімовірніше» надійде від самої індустрії штучного інтелекту, сказав Хассабіс.

Деміс Хассабіс, генеральний директор Google DeepMind і лауреат Нобелівської премії з хімії 2024 року, цього тижня опублікував детальну пропозицію для нової американської установи: органу встановлення стандартів, по суті органу нагляду, який би тестував і затверджував потужні моделі штучного інтелекту перед їхнім випуском для публіки.

Уявіть собі це як Управління з контролю за продуктами та ліками, але для програмного забезпечення штучного інтелекту.

Хассабіс сказав, що цей орган має бути змодельований за Управлінням регулювання фінансової індустрії (FINRA), організацією, яка видає ліцензії та здійснює нагляд за біржовими брокерами та брокерськими фірмами у США. FINRA знаходиться під федеральним наглядом, але управляється як державно-приватне партнерство, що означає, що уряд і індустрія діляться столом переговорів.

Чому Хассабіс хоче цього зараз: він вважає, що ставки швидко зростають. «Ми вже побачили виклики, які створюють передові моделі для кібербезпеки, і інші загрози, включаючи ядерні та біологічні ризики, можуть незабаром з'явитися», — написав він.

Його пропозиція передбачає, що компанії штучного інтелекту добровільно подаватимуть нові моделі в цей орган на перевірку за 30 днів до запуску. Як тільки цей орган докаже, що він працює, подання моделей стане обов'язковим для будь-якої моделі, яка продається на ринку США.

Тестування перевірятиме, чи можна обдурити модель на обхід її власних правил безпеки, чи проявляє вона ознаки обману та чи можна простежити її результати до джерела штучного інтелекту. Остання точка важлива для звичайних користувачів: саме так ваш банк, кабінет лікаря чи ваш роботодавець у майбутньому зможуть перевірити, чи написав документ людина або він був створений програмним забезпеченням.

Фінансування — очевидне питання. Хассабіс сказав, що цей орган потребуватиме «значних» коштів для найму висококваліфікованого технічного персоналу та запуску обчислювальної інфраструктури, необхідної для масштабного тестування. Він очікує, що індустрія штучного інтелекту оплатить більшу його частину.

Це не самітний голос. Як повідомила CNBC Tech, Хассабіс і генеральний директор Anthropic Даріо Амодеї висунули цю ідею на зустрічі G7, яка включала президента Дональда Трампа минулого місяця. Генеральний директор OpenAI Сем Альтман опублікував подібний аргумент у Financial Times на початку цього місяця.

Проте політичний шлях складний. Адміністрація Трампа нещодавно запровадила тимчасові обмеження на експорт передової моделі Anthropic, а потім попросила OpenAI сповільнити випуск нової. Хассабіс по суті просить того ж самого уряду, який уже обмежує штучний інтелект, створити навколо нього тепер офіційну, фінансовану, укомплектовану установу.

Що це означає для людей, які використовують штучний інтелект на роботі?

Якщо цей орган коли-небудь буде створений, моделі, які ви використовуєте через робоче програмне забезпечення або програми для споживачів, повинні пройти перевірку безпеки перед запуском. Це може означати дещо повільніші графіки випусків, але це також означає, що незалежний набір очей перевірив, чи можна маніпулювати інструментом, щоб він виробляв небезпечні результати. Для більшості користувачів практичний ефект буде непомітним, якщо він тихо запобіжить наступному великому інциденту безпеки, що включає продукт штучного інтелекту.

Вимір США-Китай посилює тиск. Китайські моделі штучного інтелекту від компаній типу DeepSeek завойовують клієнтів серед американських бізнесів, частково через вартість. Законодавці США тепер розглядають обмеження на їхнє впровадження. Національний орган встановлення стандартів цілком впевнено застосовуватиметься і до іноземних моделей, які продаються на ринку США.

Чесна оцінка: Орган нагляду за штучним інтелектом ще не є законом, і ця пропозиція стикається з реальними політичними перепонами. Стежте за тим, чи підхопить це Конгрес, а не за тим, чи продовжують генеральні директори технологічних компаній її схвалювати.