Що таке AGI, і наскільки ми близькі до нього?
AGI — це машина, яка може навчатися та виконувати майже будь-яке інтелектуальне завдання, яке можуть виконувати люди. Поки що ніхто не створив такої системи, але дискусія про те, наскільки ми близькі до неї, активно тривається.
AGI, скорочення від Artificial General Intelligence, — це система штучного інтелекту, яка може навчатися, міркувати та виконувати практично будь-яке пізнавальне завдання, яке може виконувати людина, без необхідності спеціального навчання для кожного конкретного завдання. Сучасні інструменти AI є вузькими: вони блискуче справляються з однією роботою, але беззахисні перед іншою. AGI переходив би між завданнями так, як це робить людина. Поки що ніхто його не створив.
Чим AGI відрізняється від AI, яким ми користуємось сьогодні?
Сучасний AI — це вузький AI: він дуже добре справляється з однією категорією завдань, але повністю не діє поза цією категорією. ChatGPT пише есе та код, але не може керувати вашим автомобілем. Система автоматичного керування безпечно керує, але не може написати ваші листи.
AGI справлявся б з обома завданнями та всім, що між ними, переносячи знання з однієї галузі в іншу так, як людина, яка вивчила шахову стратегію, може застосувати той же принцип мислення через закономірності до бізнес-рішень. Такий перенос навичок — це складна частина, якої поки що не вистачає сучасним системам.
Що насправді могла б робити справжня AGI?
Уявіть її як повністю автономного колегу, а не спеціалізований інструмент. Вона могла б прочитати наукову статтю, розробити експеримент для перевірки її висновків, написати програмне забезпечення для запуску цього експерименту, інтерпретувати результати, а потім пояснити висновки людині без спеціальної підготовки, все без підказок.
OpenAI описує мету як "висококвалітні автономні системи, які перевищують людей у більшості економічно цінної роботи". Це визначення свідомо обходить стороною свідомість чи емоції: AGI — це про здатність, а не про внутрішнє життя.
Як дослідники визначають та вимірюють AGI?
Єдиного узгодженого тесту немає. Старий тест Тьюрінга (введення в оману людського судді в розмові) широко розглядається як занадто простий і занадто вузький, щоб на нього можна було розраховувати. Google DeepMind запропонувала більш структурований фреймворк, який оцінює AGI на п'яти рівнях, від «Emerging» до «Superhuman», за обома показниками продуктивності та загальності.
| Рівень | Мітка | Що це означає |
|---|---|---|
| 0 | No AI | Програмне забезпечення на основі правил |
| 1 | Emerging | Дорівнює невпевненій дорослій людині в деяких завданнях |
| 2 | Competent | Топ 50% кваліфікованих дорослих |
| 3 | Expert | Топ 10% кваліфікованих дорослих |
| 4 | Virtuoso | Топ 1% кваліфікованих дорослих |
| 5 | Superhuman | Перевищує кожну людину |
Дослідники DeepMind розташовують сучасні великі мовні моделі на рівні 1 за цією шкалою, компетентні у вузьких галузях, але поки не загальні.
Отже, наскільки ми близькі до AGI?
Чесно кажучи, ніхто не знає, і експерти мають гостру незгоду. Деякі дослідники OpenAI вважають, що AGI може з'явитися протягом кількох років. Інші, включаючи багатьох академіків, стверджують, що це на десятиліття, або може потребувати прориву в областях, які ми ще не визначили.
Незгода частково походить з визначень. Якщо AGI означає "складіть більшість вступних екзаменів", сучасні моделі вже біля дверей. Якщо це означає "справді міркує та планує як науковець", ми далеко від цього. NIST AI Risk Management Framework свідомо уникає фіксованої графіка AGI, оскільки галузь не має консенсусу.
Реальний приклад: у 2024 році моделі AI почали складати адвокатські іспити та ліцензійні тести з медичної практики з результатами на рівні середньолюдської або вище середньолюдської оцінки. Вражаючим для вузьких завдань, але ті ж самі системи все ще допускають елементарні логічні помилки, які будь-який кваліфікований адвокат чи лікар негайно виявив би.
Які основні технічні перешкоди залишаються?
Чотири проблеми повторюються в дослідженнях: надійне міркування (не просто розпізнавання закономірностей), пам'ять, яка зберігається та оновлюється протягом сесій, планування на довгу дистанцію без людської допомоги та здатність навчатися з дуже кількох прикладів так, як навчаються діти.
Внутрішні дослідження Anthropic висвітлюють "вирівнювання", що означає забезпечення того, що система надійно робить те, що мають на увазі люди, як невирішену проблему, яку необхідно вирішити перед розгортанням будь-якої AGI. Побудова потужного загального спеціаліста з міркування без попереднього вирішення проблеми вирівнювання — це сценарій, з якого втрачають сон більшість дослідників безпеки.
Чи мені варто бути в захваті або турбуватися?
Обидві реакції розумні, і обидві розглядаються серйозно серйозними людьми. Справжня AGI могла б стиснути десятиліття прогресу в медицині, кліматичній науці та матеріалознавстві в роки. Та сама здатність, якщо її погано контролювати, може спричинити серйозну шкоду у великих масштабах.
Чесна позиція — обережна цікавість: стежте за контрольними показниками, спостерігайте за дослідженнями безпеки та з недовірою сприймайте будь-який заголовок, який стверджує "AGI досягнуто", поки незалежні дослідники це не підтвердять.
Часті запитання
Чи ChatGPT є AGI?
Ні. ChatGPT — це велика мовна модель, навчена на текстах; вона чудово справляється з мовними завданнями, але не може надійно перенести цю навичку на фізичні завдання, довгострокове планування або справді нові проблеми так, як це робила б AGI.
Чи AGI замінить усі людські роботи?
Більшість дослідників очікують, що AGI трансформує багато робіт, а не повністю їх усуває, хоча економічний вплив дійсно невизначений та залежить від того, наскільки швидко з'являтимуться здатні системи та як суспільства адаптуватимуться.
Чи AGI — це те саме, що суперінтелект?
Не зовсім. AGI відповідає людській-рівневій загальній здатності; суперінтелект, термін, введений філософом Ніком Бостромом, стосується системи, яка перевищує найкращі людські розуми у кожній галузі. Суперінтелект — це наступний крок за AGI, а не його синонім.
