Что такое ИОИ и насколько мы близки к её созданию?

ИОИ, или Искусственный Общий Интеллект, — это система ИИ, которая может обучаться, рассуждать и выполнять практически любую когнитивную задачу, которую может выполнить человек, без необходимости специально тренироваться для каждой задачи. Современные инструменты ИИ узкоспециализированы: они блестящи в одной работе, но беспомощны в другой. ИОИ переключался бы между задачами так же, как это делает человек. Никто её ещё не создал.

Чем ИОИ отличается от используемого сегодня ИИ?

Современный ИИ — это узкий ИИ: он выполняет одну категорию задач очень хорошо, но терпит крах вне этой категории. ChatGPT пишет эссе и код, но не может управлять вашим автомобилем. Система автономного вождения безопасно управляет машиной, но не может написать ваше письмо.

ИОИ справлялся бы с обоими и со всем остальным между ними, передавая знания из одной области в другую так же, как человек, изучивший шахматную стратегию, может применить ту же логику паттернов к деловым решениям. Эта передача знаний — самая сложная часть, которой всё ещё не хватает современным системам.

Что на самом деле мог бы делать настоящий ИОИ?

Думайте о нём как о полностью автономном коллеге, а не о специализированном инструменте. Он мог бы прочитать научную статью, разработать эксперимент для проверки её выводов, написать программное обеспечение для проведения этого эксперимента, интерпретировать результаты, а затем объяснить результаты неспециалисту — всё это без подсказок.

OpenAI описывает цель как «высокоавтономные системы, которые превосходят людей в большинстве экономически ценных работ». Это определение намеренно избегает вопроса о сознании или эмоциях: ИОИ — это о способностях, а не о внутреннем миру.

Как исследователи определяют и измеряют ИОИ?

Единого согласованного теста нет. Классический тест Тьюринга (обман человеческого судьи в беседе) широко считается слишком простым и слишком узким, чтобы считаться достаточным. Google DeepMind предложила более структурированную схему, которая оценивает ИОИ по пяти уровням, от «Зарождающегося» до «Сверхчеловеческого», по показателям производительности и универсальности.

Уровень	Название	Что это означает
0	Без ИИ	Программное обеспечение на основе правил
1	Зарождающийся	Равен неквалифицированному взрослому в некоторых задачах
2	Компетентный	Лучше, чем 50% квалифицированных специалистов
3	Эксперт	Лучше, чем 10% квалифицированных специалистов
4	Виртуоз	Лучше, чем 1% квалифицированных специалистов
5	Сверхчеловеческий	Превосходит каждого человека

Исследователи DeepMind считают, что современные крупные языковые модели находятся на уровне 1 этой шкалы, компетентны в узких областях, но ещё не универсальны.

Итак, насколько мы близки к ИОИ?

Честно говоря, никто не знает, и эксперты резко расходятся во мнениях. Некоторые исследователи из OpenAI считают, что ИОИ может появиться в течение нескольких лет. Другие, включая многих учёных, утверждают, что это ещё десятилетия, или потребуются прорывы в областях, которые мы ещё даже не определили.

Разногласие отчасти связано с определениями. Если ИОИ означает «проходит большинство экзаменов на уровне аспирантуры», современные модели уже рядом. Если это означает «действительно рассуждает и планирует как учёный», мы ещё далеко. Рамки управления рисками ИИ NIST намеренно избегают фиксированной временной шкалы для ИОИ, потому что в этой области нет консенсуса.

Реальный пример: в 2024 году модели ИИ начали сдавать экзамены на адвокатуру и медицинские лицензионные тесты с результатами на уровне среднего или выше среднего человеческого уровня. Впечатляет для узких задач, но эти же системы по-прежнему делают элементарные логические ошибки, которые любой квалифицированный адвокат или врач сразу заметит.

Какие основные технические препятствия остаются?

Четыре проблемы постоянно повторяются в исследованиях: надёжное рассуждение (а не просто поиск паттернов), память, которая сохраняется и обновляется между сеансами, планирование на дальние горизонты без участия человека, и способность учиться на немногих примерах так, как это делают дети.

Внутренние исследования Anthropic подчёркивают «согласованность», то есть обеспечение того, чтобы система надёжно делала то, что намеревается человек, как нерешённую проблему, которую необходимо решить до того, как будет безопасно развёрнут любой ИОИ. Создание мощного универсального логика без решения проблемы согласованности сначала — это сценарий, который держит учёных в области безопасности в большом напряжении.

Должен ли я волноваться или радоваться?

Обе реакции разумны, и обе воспринимаются серьёзно серьёзными людьми. Подлинный ИОИ мог бы сжать десятилетия прогресса в медицине, климатологии и науке о материалах в годы. Та же способность, если её плохо контролировать, могла бы нанести серьёзный вред в масштабе.

Честная позиция — осторожный интерес: следите за тестами, следите за исследованиями безопасности и относитесь с недоверием к любому заголовку, заявляющему об «достижении ИОИ», до тех пор, пока независимые исследователи не подтвердят это.

Часто задаваемые вопросы

ChatGPT — это ИОИ?

Нет. ChatGPT — это крупная языковая модель, обученная на текстовых данных; она превосходит в языковых задачах, но не может надёжно перенести эти навыки на физические задачи, долгосрочное планирование или действительно новые проблемы так, как это делал бы ИОИ.

Заменит ли ИОИ все человеческие работы?

Большинство исследователей ожидают, что ИОИ трансформирует много профессий, а не полностью их искоренит, хотя экономическое воздействие действительно неопределённо и сильно зависит от того, как быстро появятся мощные системы и как общества к ним адаптируются.

ИОИ — это то же самое, что суперинтеллект?

Не совсем. ИОИ соответствует общей способности на уровне человека; суперинтеллект, термин, придуманный философом Ником Бостромом, относится к системе, которая превосходит лучшие человеческие умы во всех областях. Суперинтеллект — это следующий шаг после ИОИ, а не его синоним.