Более 1300 исследователей ИИ говорят, что гонка индустрии по созданию более мощных систем подвергает риску человечество

Ключевые моменты

• Письмо, подписанное 1367 исследователями и инженерами ИИ, в основном из OpenAI, Anthropic и Google DeepMind, предупреждает, что нынешний темп развития ИИ несет серьезные риски для человечества.
• Подписавшие работают над передовым ИИ, то есть над самыми мощными и продвинутыми системами ИИ, создаваемыми сегодня, что делает это одним из самых прямых предупреждений инсайдеров на данный момент.
• Письмо противоречит распространенному утверждению, что только посторонние люди и критики волнуются о катастрофе ИИ.
• Письмо не содержит конкретных требований или предложений политики, но его существование свидетельствует о растущем беспокойстве внутри самих лабораторий.

Годами в технологических кругах циркулировала утешительная идея: люди, которые на самом деле создают ИИ, не боятся, поэтому и вам не стоит. По этой логике, любой, кто поднимает тревогу, либо наивен, либо не понимает технологию.

Опубликованное открытое письмо пробивает большую брешь в этом аргументе.

Кто его подписал и почему это важно?

Письмо содержит 1367 подписей исследователей и инженеров, работающих в лабораториях передовых ИИ — в группе организаций, которые конкурируют в создании самых мощных систем ИИ в мире. Большинство подписавших представляют три хорошо известных организации: OpenAI, Anthropic и Google DeepMind.

Это не внешние критики. Они пишут код, обучают модели и проводят эксперименты. Их профессиональная жизнь посвящена повышению возможностей ИИ. И они встревожены.

The Guardian первой сообщила о письме и его последствиях в статье исследователя ИИ Стюарта Рассела.

О чем они действительно беспокоятся?

Письмо указывает на катастрофический риск — возможность того, что продвинутые системы ИИ могут причинить крупномасштабный и трудно обратимый вред. Подписавшие описывают нынешний момент как опасный.

Это прямой вызов модели, которая стала распространена в публичных дебатах. Критиков озабоченности безопасностью ИИ часто отзывают как «апокалиптиков» или «луддитов», продвигающих «маргинальное» мнение, основанное на научной фантастике. Авторы письма говорят ясно: эта характеристика неправильна.

Сам факт, что столько инсайдеров готовы подписать публичное заявление, имеет большое значение. Исследователи в крупных лабораториях ИИ редко высказываются публично так, чтобы это могло смутить их работодателей.

Что это значит для обычных людей?

Это означает, что разговор о рисках ИИ не является маргинальным. Когда более тысячи людей, создающих эту технологию, говорят, что они встревожены, это стоит принять во внимание.

Это не значит, что ИИ определенно вызовет катастрофу. Это означает, что люди с лучшим представлением о том, что происходит внутри этих систем, считают риски реальными и серьезными настолько, чтобы публично об этом говорить.

От общественности не требуется никаких конкретных действий прямо сейчас. Но если вам сказали не волноваться, потому что «эксперты» не волнуются, это письмо — доказательство того, что эта картина никогда не была точной.

Что будет дальше?

Письмо не включает список требований или предложенное политическое решение, что ограничивает его немедленное влияние. Оно функционирует скорее как сигнал, трещина в публичном фасаде уверенности, который крупные лаборатории в целом демонстрировали.

Давление в пользу государственного надзора над развитием ИИ растет в Соединенных Штатах, Соединенном Королевстве и Европейском союзе. Письма подобного рода, как правило, добавляют вес этим призывам, даже без точного указания того, что должны делать регуляторы.