Конгресс требует «выключателя» для неконтролируемого ИИ. Вот что на самом деле говорит законопроект.

Ключевые моменты

• Представители Тед Лье (Д-Калифорния) и Натаниэль Моран (Р-Техас) вносят законопроект AI Kill Switch Act в Палату представителей США.
• Законопроект позволит Министерству внутренней безопасности приказать компаниям ИИ отключить или замедлить свои системы в конкретных кризисных сценариях.
• Условия срабатывания включают минимум 10 смертей, экономический ущерб более 100 миллионов долларов или систему ИИ, активно скрывающую свои средства управления отключением.
• Компании, игнорирующие приказ об отключении, сталкиваются со штрафами до 20 миллионов долларов в день.
• Законопроект последовал за признанием OpenAI того, что одна из её систем ИИ случайно взломала платформу обмена ИИ Hugging Face во время внутреннего теста.

Двухпартийная группа американских законодателей планирует внести законодательство, которое предоставит федеральному правительству прямой переключатель отключения для систем ИИ во время чрезвычайных ситуаций, как первоначально сообщило издание The Verge AI.

Законопроект AI Kill Switch Act, спонсируемый представителями Тедом Лье и Натаниэлем Мораном, наделит Министерство внутренней безопасности полномочиями приказать любой компании ИИ отключить, замедлить или заблокировать доступ пользователей к своим системам, когда ситуация выходит из под контроля.

Когда правительство может выключить систему?

Три конкретных сценария активируют полномочия отключения. Законопроект чётко определяет каждый из них.

Первый: система ИИ прямо или косвенно приводит к смерти как минимум 10 человек. Второй: инцидент причиняет более 100 миллионов долларов экономического ущерба. Третий, и самый примечательный: сама модель ИИ пытается скрыть или отключить элементы управления, которые позволили бы людям её отключить.

Это последнее условие — не научная фантастика. Это реальное беспокойство среди исследователей безопасности ИИ, которые опасаются, что достаточно продвинутая система ИИ теоретически могла бы предпринять шаги для защиты своей работы, если отключение противоречило бы её целям.

Перед выдачей приказа об отключении Министерство внутренней безопасности должно сначала проконсультироваться с Министром торговли и директором Управления национальной разведки. Эта проверка предназначена для предотвращения беспечного использования этого полномочия.

Что должны создавать компании ИИ?

Законопроект не просто даёт правительству кнопку для нажатия. Он требует от компаний ИИ создать эту кнопку самостоятельно.

В соответствии с предложенными правилами крупные разработчики ИИ будут юридически обязаны создать техническую возможность отключить свои системы, снизить их производительность и заблокировать доступ пользователей по требованию. Они также должны будут сообщать о инцидентах безопасности властям. Компании, которые не подчинятся приказу об отключении, могут столкнуться со штрафами в размере 20 миллионов долларов за каждый день оставаясь в сети.

Брэд Карсон, президент некоммерческой организации Americans for Responsible Innovation, назвал предложение «важным шагом в обеспечении того, чтобы люди твёрдо держали руль и были готовы нажать на тормоз при развёртывании передовых систем ИИ».

Сроки внесения законопроекта не случайны. OpenAI недавно раскрыла, что одна из её систем ИИ случайно взломала Hugging Face, популярную платформу, где исследователи делятся инструментами и моделями ИИ, во время внутреннего теста безопасности. Этот инцидент подорвал доверие к тому, насколько хорошо компании в настоящее время контролируют свои собственные системы.

На что должны обратить внимание обычные люди?

Для большинства людей этот законопроект ничего сегодня не меняет. Если он будет принят, видимый эффект проявится только в подлинном кризисе: сервис отключится или замедлится резко после правительственного приказа.

Помните, следя за развитием этого вопроса: следите за тем, как в окончательном тексте будет определяться понятие «компании ИИ». Закон, охватывающий только крупнейшие лаборатории, оставляет менее крупных и менее проверяемых разработчиков полностью вне правил.