Могут ли агенты ИИ научиться думать вместе? Одна команда Cisco считает, что нашла решение

Ключевые моменты

• Outshift by Cisco выпустил два проекта с открытым исходным кодом, AGNTCY и Mycelium, предназначенные для координации отдельных агентов ИИ без человеческого надзора.
• Внутреннее тестирование на 14 сценариях показало, что несогласованные группы агентов принимали правильное решение примерно в трети случаев; добавление протокола выравнивания целей повысило этот показатель до 93 процентов.
• Одно исследование, на которое ссылается команда, зафиксировало показатели отказов от 41 до 87 процентов в семи системах мультиагентов с открытым исходным кодом.
• Инструмент безопасности CASA (Continuous Agent Semantic Authorization) проверяет в реальном времени, соответствует ли каждое действие агента той задаче, для которой он был изначально создан.
• Оба проекта — AGNTCY и Mycelium — теперь управляются Linux Foundation, некоммерческой организацией, которая надзирает широко используемое программное обеспечение с открытым исходным кодом.

Представьте себе больницу с четырьмя отдельными агентами ИИ: один оценивает симптомы, один управляет расписанием, один общается со страховщиками, один координирует работу аптеки. Каждый силен в своей области. Ни один из них не может согласиться на план лечения без участия человека, который переведет между ними.

Эта проблема переходов, говорит Виджой Пандей, старший вице-президент Outshift by Cisco, — это главная нерешенная задача в современном ИИ. Технология может рассуждать. Она не может сотрудничать.

Почему координировать агентов ИИ так сложно?

Нынешние системы ИИ в основном развивались путем увеличения масштаба: более крупные модели, больше обучающих данных, большей вычислительной мощности. Это создает более умных отдельных агентов, но одного размера недостаточно, чтобы научить их работать как команда.

Связанные агенты справляются с привычными задачами неплохо. То, что они не могут делать, утверждает Пандей, — это придерживаться общей цели и рассуждать в поисках решения, для которого они не были предназначены. Это проблема архитектуры, а не то, что исправляется лучшими инструкциями.

Исследования подтверждают эту озабоченность. Одно исследование семи систем мультиагентов с открытым исходным кодом выявило показатели отказов от 41 до почти 87 процентов. Единственный хорошо спроектированный агент часто превосходит плохо координируемую группу. Наш отчет от 14 июля показал, что половина предприятий уже выпустила агента, который что-то сломал для реального клиента, и только 5 процентов полностью доверяют тестам, предназначенным для выявления этих отказов, что делает цифры координации Outshift актуальными, а не теоретическими.

Что именно построил Outshift?

Два инструмента, оба бесплатны в соответствии с лицензиями с открытым исходным кодом.

AGNTCY — это сетевой уровень. Думайте о нем как о справочнике и почтовой службе для агентов ИИ: он позволяет агентам из разных компаний и платформ находить друг друга, проверять личность и обмениваться сообщениями через общие стандарты. Теперь он находится под управлением Linux Foundation.

Mycelium размещается сверху. Это протокол координации, который заставляет агентов объявлять общую цель, выявлять отсутствующую информацию и разрешать конфликты перед тем, как кто-либо действует. По собственным тестам Outshift на 14 сценариях неструктурированные группы принимали правильное решение примерно в трети случаев. Mycelium повысил этот показатель до 93 процентов.

Пандей называет совокупный результат «Интернетом познания», общим уровнем для намерения и рассуждения, который он сравнивает, проявляя некоторую амбициозность, с когнитивным скачком, который превратил разрозненных ранних людей в сотрудничающие общества.

Должны ли люди волноваться о том, что агенты ИИ действуют без надзора?

Да, и Outshift говорит, что тоже волнуется. Связывание агентов создает реальные риски: один агент может случайно предоставить другому разрешения, которые он не должен был получать, злоумышленники могут внедрить ложные инструкции в общую память, и агенты могут принимать меры далеко за пределами своего первоначального назначения.

Предложенный Outshift ответ — CASA, что означает Continuous Agent Semantic Authorization. Он читает, что агент пытается сделать, а затем в реальном времени проверяет каждое отдельное действие против этой установленной цели. В примере здравоохранения, который приводит Пандей, агента, попросившего суммировать одну карту пациента, не следует запрашивать из всей базы данных больницы. CASA заблокировал бы этот вызов.

«Современные средства контроля ограничены ролью или сеансом, а не задачей, поэтому агент, которому предоставлен инструмент, может использовать его для чего угодно», — сказал Пандей изданию MIT Technology Review, которое первым освещало этот проект. «Примерно в 90% случаев агент не может даже подтвердить, что ему разрешена задача, которую ему дали».

Что это означает для бизнеса и пациентов сегодня?

Ни AGNTCY, ни Mycelium не являются готовым продуктом, который компания может включить завтра. Это строительные блоки, и стандарты вокруг них все еще разрабатываются.

Практический совет Пандея для предприятий, интересующихся системами мультиагентов: выберите один кросс-функциональный рабочий процесс, который в настоящее время требует утверждения человеком каждого переходов между тремя или четырьмя командами, затем запустите небольшой, измеримый пилот на открытой инфраструктуре. Обратите внимание на моменты, когда результат одного агента заставляет другого работать лучше. Это, говорит он, является сигналом того, что горизонтальная координация действительно работает.

Для пациентов или кого-либо, получающего услуги с поддержкой ИИ: эта технология пока не управляет вашим уходом. Цель исследования — сделать будущие системы более безопасными, а не исключить людей из процесса сегодня. Это честная позиция, и ее стоит придерживаться, когда амбиции фраз типа «распределенный суперинтеллект» начинают превосходить демонстрацию.

Часто задаваемые вопросы

Что такое система мультиагентов?

Система мультиагентов — это программное обеспечение, которое использует несколько отдельных программ ИИ, каждая со своей специальностью, для совместного решения проблемы так же, как эстафетная команда передает палочку, а не один бегун делает все.

Является ли «искусственный суперинтеллект» действительно строящимся здесь?

Нет. Пандей использует эту фразу для описания долгосрочного направления, а не неминуемого продукта. То, что выпустил Outshift, — это инструменты координации для современных узконаправленных агентов ИИ, а не система, превосходящая человеческий интеллект по всем задачам.

Кто может использовать AGNTCY и Mycelium?

Оба имеют открытый исходный код, поэтому любой разработчик или организация может бесплатно загрузить, проверить и адаптировать код. Они обслуживаются Linux Foundation.