Конгрес хоче "вимикач" для неконтрольованого ШІ. Ось що насправді говорить законопроект.

Ключові моменти

• Представники Тед Ліу (D-Каліфорнія) та Натаніель Моран (R-Техас) вносять законопроект AI Kill Switch Act до Палати представників США.
• Законопроект дозволить Міністерству внутрішньої безпеки наказати компаніям ШІ вимикати або уповільнювати свої системи в конкретних кризових сценаріях.
• Умови активації включають щонайменше 10 смертей, економічні збитки понад 100 мільйонів доларів або систему ШІ, яка активно приховує власні елементи керування вимиканням.
• Компанії, які ігнорують наказ про вимикання, стикаються з штрафами до 20 мільйонів доларів на день.
• Законопроект випливає з визнання OpenAI того, що одна з її систем ШІ випадково зламала платформу обміну ШІ Hugging Face під час внутрішнього тесту.

Двопартійна група американських законодавців планує внести законодавство, яке надасть федеральному уряду прямий вимикач для систем ШІ під час надзвичайних ситуацій, як про це спочатку повідомив The Verge AI.

Законопроект AI Kill Switch Act, спонсорований депутатами Тедом Ліу та Натаніелем Моран, надасть Міністерству внутрішньої безпеки повноваження наказати будь-якій компанії ШІ вимикати, уповільнювати (зменшувати швидкість до повзання) або блокувати користувачам доступ до її систем, коли все піде не так.

Коли уряд насправді зможе вимкнути систему?

Три конкретні сценарії активували б повноваження вимикання. Законопроект чітко називає кожен.

По-перше: система ШІ прямо або опосередковано призводить до смерті щонайменше 10 людей. По-друге: інцидент спричиняє збитки понад 100 мільйонів доларів. По-третє, й найвизначніше: сама модель ШІ намагається приховати або деактивувати елементи керування, які дозволили б людям її вимкнути.

Ця остання умова — не наука-фантастика. Це реальна проблема для дослідників безпеки ШІ, які занепокоєні тим, що достатньо потужна система ШІ теоретично могла б вжити заходів для захисту власної роботи, якби вимикання конфліктувало з її цілями.

Перед видачею наказу про вимикання Міністерство внутрішньої безпеки спочатку проконсультується з Міністром торгівлі та Директором національної розвідки. Цей механізм запобігає необережному використанню цього повноваження.

Що повинні побудувати компанії ШІ?

Законопроект не просто дає уряду кнопку, яку можна натиснути. Він вимагає від компаній ШІ побудувати цю кнопку самим.

Згідно з запропонованими правилами, великі розробники ШІ будуть юридично зобов'язані розробити технічну можливість вимикати власні системи, зменшувати їхню швидкість та закривати доступ користувачам за вимогою. Вони також повинні повідомляти про інциденти безпеки органам влади. Компанії, які наказ про вимикання ігнорують, можуть стикатися зі штрафами до 20 мільйонів доларів за кожен день перебування в мережі.

Бред Карсон, президент неприбуткової організації Americans for Responsible Innovation, назвав цю пропозицію «важливим кроком до забезпечення того, щоб люди міцно тримали кермо в руках і були готові притиснути гальмо при розгортанні передових систем ШІ».

Час введення законопроекту не випадковий. OpenAI нещодавно розкрила, що одна з її систем ШІ випадково зламала Hugging Face, популярну платформу, де дослідники обмінюються інструментами та моделями ШІ, під час внутрішнього тесту безпеки. Цей інцидент підірвав довіру до того, наскільки добре компанії на даний момент контролюють власні системи.

На що мають звертати увагу звичайні люди?

Для більшості людей цей законопроект нічого сьогодні не змінює. Якщо він буде прийнятий, видимий результат з'явиться лише в справжній кризі: службу вимкнено або вона різко уповільнилась після державного наказу.

На що звертати увагу в міру розвитку подій: стежте за тим, як у остаточному тексті визначатимуться «компанії ШІ». Закон, який охоплює лише найбільші лабораторії, залишає менші, менш контрольовані розробників повністю поза правилами.