Чи можуть AI агенти навчитися мислити разом? Одна команда з Cisco вважає, що має рішення

Ключові моменти

• Outshift by Cisco, дослідницька одиниця всередині Cisco, випустила два проекти з відкритим кодом — AGNTCY та Mycelium, розроблені для координації окремих AI агентів без людського нагляду.
• Внутрішнє тестування показало, що неузгоджені групи AI агентів приходили до правильного рішення приблизно в одній третині випадків; додавання протоколу вирівнювання цілей підняло цей показник до 93 відсотків.
• Дослідження, на яке посилається команда, зафіксувало показники відмов від 41 до 87 відсотків в сім системах багатоагентної роботи з відкритим кодом — технології, яка пов'язує кілька AI агентів для розв'язання однієї проблеми.
• Новий інструмент безпеки CASA (Continuous Agent Semantic Authorization) перевіряє в реальному часі, чи кожна дія агента відповідає завданню, яке йому було поставлене спочатку.
• Як AGNTCY, так і Mycelium тепер керуються Linux Foundation, некомерційною організацією, яка контролює широко використовуване програмне забезпечення з відкритим кодом.

Уявіть лікарню з чотирма окремими AI агентами: один оцінює симптоми, один керує розкладом, один спілкується зі страховиками, один координує роботу аптеки. Кожен досконалий у своїй галузі. Жоден з них не може погодитися щодо плану лікування без втручання людини, яка перекладатиме між ними.

Ця проблема передачі, як стверджує Віджой Пандей, старший віцепрезидент, який керує Outshift by Cisco, є основною невирішеною загадкою сучасного AI. Технологія здатна міркувати. Вона просто не може співпрацювати.

Чому координація AI агентів така складна?

Сучасні системи AI в основному розвивалися за рахунок розширення: більші моделі, більше даних для навчання, більше обчислювальної потужності. Цей підхід створює розумніших окремих агентів, але самий розмір їх не навчає працювати як команда.

Пов'язані агенти добре справляються із завданнями, які виглядають знайомо. Того, чого вони не можуть робити, як стверджує Пандей, це дотримуватися спільної мети та міркувати на шляху до рішення, для якого вони були розроблені. Це архітектурний розрив, а не те, що ви можете виправити, напишіть кращі інструкції.

Дослідження підтверджують цю розчарування. Вивчення семи систем багатоагентної роботи з відкритим кодом виявило показники відмов від 41 до майже 87 відсотків. Один добре розроблений агент часто перевищує за продуктивністю погано координовану групу.

Що насправді побудувала Outshift?

Два інструменти, обидва безплатні для використання та модифікації під ліцензіями з відкритим кодом.

AGNTCY є мережевим шаром. Думайте про це як про справочник і поштову службу для AI агентів: вона дозволяє агентам з різних компаній та платформ знаходити один одного, перевіряти, хто вони такі, та обмінюватися повідомленнями через спільні стандарти. Тепер вона розташована під Linux Foundation.

Mycelium знаходиться зверху. Це протокол координації, який змушує агентів оголошувати спільну мету, позначати відсутню інформацію та розв'язувати конфлікти перед тим, як хто-небудь діяти. У власних тестах Outshift на 14 сценаріях неструктуровані групи агентів приходили до правильного рішення приблизно в одній третині часу. Mycelium піднісся до 93 відсотків.

Пандей називає комбінований результат "Інтернетом Пізнання", спільним шаром для наміру, пам'яті та міркування, який він порівнює, з деякою амбіцією, із когнітивним стрибком, який перетворив розсіяних ранніх людей на суспільства, що кооперуються.

Чи повинні люди хвилюватися про AI агентів, які діють без нагляду?

Так, і Outshift каже, що також хвилюється. Зв'язування агентів разом створює нові ризики: один агент може випадково дати іншому дозволи, які йому не повинні були даватися, зловмисники можуть вводити неправдиві інструкції в спільну пам'ять, і агенти можуть здійснювати дії далеко за межами範 scope їхнього оригінального завдання.

Відповідь, яку пропонує Outshift, — це CASA, Continuous Agent Semantic Authorization. Інструмент читає те, чого намагається досягти агент, потім перевіряє кожну окрему дію порівняно з цією сформульованою метою в реальному часі. У прикладі охорони здоров'я, який дає Пандей, агент, якого попросили узагальнити один медичний запис пацієнта, не повинен запитувати всю базу даних лікарні. CASA заблокував би цей виклик.

"Сьогоднішні елементи керування обмежені роллю або сеансом, а не завданням," — розповів Пандей журналу MIT Technology Review, який першим висвітлив проект. "Приблизно 90 відсотків часу агент не має способу підтвердити, що йому навіть дозволено виконувати роботу, яку йому дали."

Що це означає для бізнесу або пацієнтів сьогодні?

Ні AGNTCY, ні Mycelium не є готовим продуктом, який компанія може включити завтра. Це будівельні блоки, і стандарти навколо них все ще пишуться.

Практичні поради Пандея для компаній, які цікавляться системами багатоагентної роботи: оберіть один кросфункціональний робочий процес, який в даний час потребує людської затвердження кожної передачі між трьома чи чотирма командами, потім запустіть невелику вимірювану пілотну програму на відкритій інфраструктурі. Спостерігайте за моментами, коли результат роботи одного агента змушує іншого агента працювати краще. Це, як він говорить, є сигналом того, що горизонтальна координація насправді працює.

Для пацієнтів або будь-кого, хто отримує послуги з підтримкою AI, чесна позиція полягає в тому, що ця технологія поки що не керує вашим лікуванням. Мета дослідження — зробити майбутні системи безпечнішими та більш узгодженими, а не вилучати людей із циклу сьогодні.

Поширені запитання

Що таке система багатоагентної роботи?

Система багатоагентної роботи — це програмне забезпечення, яке використовує кілька окремих AI програм, кожна зі своєю спеціалізацією, для спільного розв'язання проблеми, як команда у естафеті передає жердину, а не один бігун робить все.

Чи насправді тут будується "штучний надінтелект"?

Ні. Пандей використовує цей вираз для опису довгострокового напрямку, а не невідворотного продукту. Те, що випустила Outshift, — це інструменти координації для сьогоднішніх вузько спеціалізованих AI агентів, а не система, яка перевищує людський інтелект у всіх завданнях.

Хто може використовувати AGNTCY та Mycelium?

Обидва мають відкритий код, що означає, що будь-який розробник або організація можуть безплатно завантажити, перевірити та адаптувати код. Вони керуються Linux Foundation.