Могут ли AI-агенты научиться думать вместе? Одна команда Cisco считает, что нашла решение

Ключевые моменты

• Outshift by Cisco, исследовательское подразделение компании Cisco, выпустило два проекта с открытым исходным кодом — AGNTCY и Mycelium, предназначенные для координации отдельных AI-агентов без контроля человека.
• Внутренние тесты показали, что неорганизованные группы AI-агентов приходили к правильному решению примерно в трети случаев; добавление протокола согласования целей повысило этот показатель до 93 процентов.
• Исследование, на которое ссылается команда, зафиксировало показатели отказов от 41 до 87 процентов в семи системах мультиагентного взаимодействия с открытым исходным кодом — технологии, которая объединяет несколько AI-агентов для решения одной задачи.
• Новый инструмент безопасности CASA (Continuous Agent Semantic Authorization) в режиме реального времени проверяет, соответствует ли каждое действие агента первоначально поставленной задаче.
• Оба проекта — AGNTCY и Mycelium — теперь управляются Linux Foundation, некоммерческой организацией, которая курирует широко используемое программное обеспечение с открытым исходным кодом.

Представьте больницу с четырьмя отдельными AI-агентами: один оценивает симптомы, один занимается расписанием, один взаимодействует со страховщиками, один координирует работу аптеки. Каждый отлично справляется в своей области. Ни один из них не может согласиться на план лечения без участия человека, который переводит между ними.

По словам Виджоя Пандея, старшего вице-президента, возглавляющего Outshift by Cisco, эта проблема координации — это ключевая нерешённая задача в современном AI. Технология может рассуждать. Она просто не может сотрудничать.

Почему координация AI-агентов так сложна?

Современные AI-системы развиваются в основном за счёт увеличения: более крупные модели, больше данных для обучения, больше вычислительной мощности. Такой подход делает отдельные агенты умнее, но сам по себе размер не учит их работать как команда.

Связанные агенты хорошо справляются с задачами, которые выглядят знакомо. То, что они не могут делать, по мнению Пандея, — это удерживать общую цель и рассуждать в направлении решения, для которого они не были спроектированы. Это архитектурный разрыв, а не проблема, которую можно решить, написав лучшие инструкции.

Исследования подтверждают эту проблему. В одном исследовании семи систем мультиагентного взаимодействия с открытым исходным кодом показатели отказов колебались от 41 до 87 процентов. Один хорошо спроектированный агент часто превосходит плохо координируемую группу.

Что именно построила Outshift?

Два инструмента, оба бесплатные и изменяемые в соответствии с лицензией открытого исходного кода.

AGNTCY — это сетевой уровень. Думайте о нём как о справочнике и почтовой службе для AI-агентов: он позволяет агентам из разных компаний и платформ находить друг друга, проверять личность и обмениваться сообщениями через общие стандарты. Теперь он находится под управлением Linux Foundation.

Mycelium находится сверху. Это протокол координации, который заставляет агентов объявлять общую цель, отмечать недостающую информацию и разрешать конфликты, прежде чем кто-либо действует. Во внутренних тестах Outshift на 14 сценариях неструктурированные группы агентов приходили к правильному решению примерно в трети случаев. Mycelium поднял этот показатель до 93 процентов.

Пандей называет объединённый результат «Интернетом Познания» — общий уровень намерения, памяти и рассуждений, который он сравнивает, с известной долей амбиций, с когнитивным скачком, который превратил рассеянных ранних людей в сотрудничающие общества.

Должны ли люди беспокоиться о том, что AI-агенты действуют без надзора?

Да, и Outshift говорит, что они также обеспокоены. Связывание агентов вместе создаёт новые риски: один агент может случайно предоставить другому разрешения, которые он не должен иметь, злоумышленники могут внедрять ложные инструкции в общую память, и агенты могут выполнять действия далеко за пределами области применения их первоначальной задачи.

Решение, которое предлагает Outshift, — это CASA (Continuous Agent Semantic Authorization). Инструмент считывает, что пытается выполнить агент, а затем в режиме реального времени проверяет каждое отдельное действие на соответствие этой заявленной цели. В примере здравоохранения, который приводит Пандей, агент, попросивший резюмировать одну медицинскую карту пациента, не должен запрашивать всю базу данных больницы. CASA заблокировал бы такой запрос.

«Современные элементы управления охватывают роль или сеанс, а не задачу, — сказал Пандей MIT Technology Review, которая первой освещала проект. — Примерно в 90 процентах случаев у агента нет способа даже подтвердить, что он имеет права на выполняемую работу».

Что это означает для бизнеса или пациентов сегодня?

Ни AGNTCY, ни Mycelium — это не готовый продукт, который компания может включить завтра. Это строительные блоки, и стандарты вокруг них всё ещё разрабатываются.

Практический совет Пандея для компаний, интересующихся системами мультиагентного взаимодействия: выберите один кроссфункциональный рабочий процесс, который в настоящее время требует одобрения человеком каждого перехода между тремя или четырьмя командами, затем запустите небольшой, измеримый пилот на открытой инфраструктуре. Следите за моментами, когда результат работы одного агента делает другого агента более эффективным. Это, по его словам, признак того, что горизонтальная координация действительно работает.

Для пациентов или кого-либо, кто получает услуги с поддержкой AI, честная позиция заключается в том, что эта технология пока не управляет вашим здравоохранением. Цель исследования — сделать будущие системы безопаснее и более согласованными, а не убирать людей из процесса сегодня.

Часто задаваемые вопросы

Что такое система мультиагентного взаимодействия?

Система мультиагентного взаимодействия — это программное обеспечение, которое использует несколько отдельных AI-программ, каждая со своей специализацией, для совместного решения проблемы, так же как эстафетная команда передаёт палочку, а не один бегун делает всё.

Строится ли здесь «искусственный суперинтеллект»?

Нет. Пандей использует эту фразу для описания долгосрочного направления, а не неминуемого продукта. То, что выпустила Outshift, — это инструменты координации для нынешних узконаправленных AI-агентов, а не система, которая превосходит человеческий интеллект во всех задачах.

Кто может использовать AGNTCY и Mycelium?

Оба — это открытый исходный код, то есть любой разработчик или организация может бесплатно загрузить, изучить и адаптировать код. Они поддерживаются Linux Foundation.