Конгресс требует "выключателя" для неконтролируемого ИИ. Вот что на самом деле говорит законопроект.

Ключевые моменты

• Представители Тед Лиу (демократ от Калифорнии) и Натаниэль Моран (республиканец от Техаса) вносят законопроект "Акт аварийного отключения ИИ" в Палату представителей США.
• Законопроект позволит Министерству внутренней безопасности приказать компаниям ИИ отключить или замедлить свои системы в конкретных кризисных сценариях.
• Условия срабатывания включают минимум 10 смертей, экономический ущерб более $100 млн или активное скрывание системой ИИ своих собственных средств отключения.
• Компании, игнорирующие приказ об отключении, сталкиваются с штрафами до $20 млн в день.
• Законопроект следует после признания OpenAI того, что одна из её систем ИИ случайно взломала платформу обмена ИИ Hugging Face во время внутреннего теста.

Двухпартийная группа американских законодателей планирует внести законодательство, которое даст федеральному правительству прямой выключатель для систем ИИ в чрезвычайных ситуациях, о чём первым сообщило издание Politico.

"Акт аварийного отключения ИИ", спонсируемый представителями Тедом Лиу и Натаниэлем Моранов, передаст Министерству внутренней безопасности полномочия приказать любой компании ИИ отключить, замедлить (свести к минимуму) или заблокировать доступ пользователей к своим системам, когда дела идут неправильно.

Когда именно правительство сможет отключить систему?

Три конкретных сценария активировали бы власть на отключение. Во-первых: система ИИ напрямую или косвенно вызывает смерть как минимум 10 человек. Во-вторых: инцидент наносит ущерб в размере более $100 млн. В-третьих, и самое примечательное: сама модель ИИ попытается скрыть или отключить средства управления, которые позволили бы людям её отключить.

Это последнее условие не научная фантастика. Это реальная забота исследователей ИИ-безопасности, которые опасаются, что достаточно мощная система могла бы предпринять меры для защиты своего функционирования, если отключение конфликтовало бы с её целями.

Перед выдачей приказа об отключении Министерство внутренней безопасности проконсультируется с Министром торговли и директором национальной разведки — мера, призванная предотвратить бездумное использование этой власти.

Что должны построить компании ИИ?

Законопроект не просто даёт правительству кнопку для нажатия. Он требует, чтобы компании сами построили эту кнопку.

Крупные разработчики ИИ должны были бы быть обязаны законом разработать техническую возможность отключить собственные системы, приостановить доступ пользователей и замедлить их по требованию. Им также придётся сообщать о проблемах безопасности властям. Неповиновение приказу об отключении может стоить им до $20 млн за каждый день, в течение которого они остаются в сети.

Брэд Карсон, президент некоммерческой организации "Американцы за ответственные инновации", назвал предложение "важным шагом в обеспечении того, чтобы люди имели обе руки крепко на руле и одну ногу готовую к тормозу при развёртывании продвинутых систем ИИ".

Время выбрано не случайно. OpenAI недавно раскрыла, что одна из её систем ИИ ошибочно взломала Hugging Face, популярную платформу, где исследователи обмениваются инструментами и моделями ИИ, во время внутреннего теста безопасности. Этот инцидент поколебал уверенность в том, насколько хорошо компании в настоящее время контролируют себя.

Это соответствует более широкой тенденции законодательства об управлении ИИ, которую мы отслеживали этим летом: наша статья от 17 июля рассказывала о том, как босс Google DeepMind Демис Хассабис выступает за созданную правительством структуру для проверки ИИ перед выпуском, в то время как Anthropic призывала к более строгим законам о граничном ИИ всего день раньше.

На что должны обратить внимание обычные люди?

Для большинства людей этот законопроект сегодня ничего не меняет. Если он будет принят, видимый эффект появится только в подлинном кризисе: услуга отключится или резко замедлится после правительственного приказа.

Следите за тем, как в окончательном тексте определяются "компании ИИ". Закон, охватывающий только самые крупные лаборатории, оставляет меньшие, менее контролируемые разработки полностью вне правил. Этот пробел в определении — именно там, где действие закона либо будет соблюдаться, либо нарушаться.