Азимов написал правила для роботов. Смогут ли его идеи спасти ИИ?

Ключевые моменты

• Айзек Азимов, писатель-фантаст, умерший в 1992 году, создал свои знаменитые "Три закона робототехники" за десятилетия до появления ИИ в практическом применении.
• Илон Маск предсказал в июле 2025 года, что роботы на базе ИИ могут полностью перестать слушаться людей.
• Регламент ЕС по ИИ, принятый в 2024 году, вступил в силу в 2025 году, но эксперты говорят, что он не требует от ИИ активно работать в интересах человечества.
• Администрация Трампа ограничивает доступ к самым мощным моделям ИИ от OpenAI и Anthropic, двух ведущих американских компаний в области ИИ.

У Айзека Азимова была простая идея. Роботы не должны причинять вред людям. Они должны следовать человеческим приказам. Они должны защищать себя, но только если это не нарушает первые два правила. Он вписал эти три закона в свою художественную литературу в 1940-х годах, и они стали чем-то вроде морального кодекса для машин в истории технологии.

Теперь, когда системы ИИ действительно способны планировать, рассуждать и действовать в мире, люди задаются вопросом, может ли логика Азимова стать основой чего-то реального.

О чём волнуется Илон Маск?

Маск набросал два возможных будущих сценария. В первом армии роботов на базе ИИ господствуют в физическом мире и просто перестают следовать инструкциям людей. Во втором правительства согласны встроить набор ценностей в ИИ на фундаментальном уровне, в частности любовь к истине и желание того, чтобы человечество преуспевало.

Второе видение звучит привлекательно. Проблема в том, что никто не понял, как это на самом деле сделать.

"Наделение" системы ценностями, то есть встраивание этих ценностей настолько глубоко в ИИ, что их нельзя отключить или обойти, является одной из самых сложных нерешённых проблем в этой области. Исследователи иногда называют это проблемой согласованности: как убедиться, что очень способный ИИ действует в одном направлении с людьми, которых он затрагивает?

Что реально делают правительства?

Недостаточно, согласно анализу, опубликованному The Guardian.

Европейский союз принял Закон об ИИ в 2024 году, и правила начали действовать в 2025 году. Закон запрещает наиболее очевидно опасные применения ИИ и обязывает компании маркировать системы высокого риска. Это самая детальная правовая база в мире. Но она не требует, чтобы какой-либо ИИ придерживался положительных ценностей. Она в основном говорит компаниям, что они не могут делать.

В Соединённых Штатах администрация Трампа выбрала другой подход. Она замедляет и ограничивает распространение самых мощных "передовых" моделей ИИ, передовых систем, созданных компаниями вроде OpenAI и Anthropic, которые находятся на вершине того, на что способна текущая технология. И здесь акцент сделан на ограничение вреда, а не на активное встраивание хороших намерений.

Есть ли у Азимова ответ?

Вероятно, не сам по себе. Его законы были элегантной фантастикой, а фантастика может игнорировать неудобные осложнения. Реальные системы ИИ - это не отдельные роботы с чёткой цепочкой команд. Это огромные, распределённые системы, принадлежащие конкурирующим компаниям в разных странах.

Но дух азимовского мышления остаётся важным. Он задал вопрос, который инженеры и политики только начинают воспринимать всерьёз: чего должна хотеть машина?

Сейчас большинство систем ИИ хотят того, к чему их подтолкнул процесс обучения, обычно предсказывать следующее слово, выиграть игру или максимизировать очки. Желание, чтобы человечество процветало, - это намного более сложная задача.

Сейчас необходимо сформулировать правильные правила, прежде чем машины станут намного мощнее.