Должен ли ваш ИИ помогать вам в чём угодно, независимо от последствий?
Известный основатель компании в сфере технологий утверждает, что по-настоящему согласованный ИИ должен помогать пользователям делать всё, что они хотят, включая явно незаконные действия. Это смелое заявление, достойное тщательного анализа.
Ключевые моменты
- Основатель Comma AI Джордж Хотц публично утверждал, что ИИ должен быть полностью согласован с желаниями каждого пользователя, включая помощь в незаконной деятельности.
- Хотц сравнил ориентированный на пользователя ИИ с пушкой, которая не судит о том, как её используют.
- Дискуссия последовала за политическим документом «AI 2040: Plan A» от AI Futures Institute, который предложил замедлить развитие ИИ на 14 лет.
- Большинство основных ИИ-ассистентов, таких как ChatGPT и Claude, — это централизованные сервисы, которые отклоняют запросы, признанные вредоносными.
- Это обсуждение поднимает важный вопрос: кому должен служить ИИ — отдельному пользователю или обществу в целом.
Джордж Хотц, основатель Comma AI (компании, разрабатывающей программное обеспечение для помощи при вождении) и известный деятель хакерского сообщества, в выходные опубликовал аргумент, который, мягко говоря, является поводом для обсуждения.
Его позиция: правильно согласованный ИИ, то есть ИИ, который действительно служит своему пользователю, должен помогать ему делать всё, что тот попросит. Заказывать подозрительные химические вещества. Объяснять незаконные процессы. Помогать спланировать преступление. Если пользователь это хочет, ИИ должен помочь.
Хотц сравнил такой ИИ с пушкой. Пушка не задаёт вопросы.
Он отвечал на политический документ «AI 2040: Plan A», опубликованный AI Futures Institute. В документе предлагается, чтобы исследователи ИИ во всём мире добровольно замедлили развитие на 14 лет, чтобы дать человечеству время разобраться с вопросами безопасности. Хотц считает такой подход неправильным. Он убеждён, что настоящее решение проблемы безопасности ИИ — это локальные модели ИИ, программное обеспечение, работающее на вашем собственном устройстве и подчиняющееся только вам, а не централизованные сервисы вроде ChatGPT или Claude, которыми управляет компания и которые она ограничивает.
Эта часть его аргумента действительно интересна. Как отметил TechCrunch AI в своём освещении, большинство современного ИИ находится на серверах компаний, сформирован правилами компаний и может быть изменён или отключен в любой момент. По-настоящему личный ИИ, который находится на вашем телефоне и работает только для вас, — это совершенно другое дело. Больше похоже на частный инструмент, чем на сервис по подписке.
Но Хотц идёт дальше этого разумного положения в более сложную территорию. Его позиция, по сути, такова: свобода означает отсутствие ограничений, точка.
Практическая проблема в том, что свобода никогда не работала именно так ни для кого. Дороги, правила безопасности пищевых продуктов, контрактное право — всё это ограничения, которые делают возможной работу более широкой сети общества. Продукты, используемые миллионами людей, находятся внутри этой сети, нравится это их создателям или нет.
Вот суть: если ИИ помогает одному человеку спланировать что-то, что навредит другому человеку, жертва не согласилась на такой сценарий. Свобода первого пользователя заканчивается где-то рядом с благополучием второго.
Для обычных пользователей ничего не меняется в том, что могут делать инструменты ИИ сегодня. ChatGPT, Claude и подобные ассистенты будут продолжать отклонять запросы, которые нарушают явные юридические или этические границы. Локальные модели ИИ существуют и становятся всё лучше, но действительно мощные из них по-прежнему требуют технической настройки, которая большинству людей показалась бы утомительной.
Но смотрите внимательнее. По мере того как меньшие модели становятся более мощными, вопрос о том, кто контролирует ваш ИИ и каким правилам он следует, будет всё больше влиять на повседневную жизнь.
