Conseguem os Agentes de IA Aprender a Pensar em Conjunto? Uma Equipa da Cisco Pensa que Tem a Solução

Pontos-chave

• A Outshift by Cisco lançou dois projetos de código aberto, AGNTCY e Mycelium, concebidos para permitir que agentes de IA separados se coordenem sem supervisão humana.
• Testes internos em 14 cenários mostraram que grupos de agentes desorganizados alcançaram uma decisão correta cerca de um terço das vezes; adicionar um protocolo de alinhamento de objetivos aumentou isso para 93 por cento.
• Um estudo citado pela equipa registou taxas de falha entre 41 e 87 por cento em sete sistemas multi-agente de código aberto.
• Uma ferramenta de segurança chamada CASA (Continuous Agent Semantic Authorization) verifica em tempo real se cada ação que um agente realiza ainda corresponde à tarefa que lhe foi originalmente atribuída.
• Tanto AGNTCY como Mycelium são agora geridos sob a Linux Foundation, a organização sem fins lucrativos que supervisiona software de código aberto amplamente utilizado.

Imagine um hospital com quatro agentes de IA separados: um avalia sintomas, outro gere o agendamento, outro comunica com seguradoras, outro coordena a farmácia. Cada um é talentoso na sua área. Nenhum consegue concordar num plano de tratamento a menos que um humano intervenha para traduzir entre eles.

Esse problema de transição, segundo Vijoy Pandey, vice-presidente sénior que dirige a Outshift by Cisco, é o puzzle central ainda não resolvido na IA moderna. A tecnologia consegue raciocinar. Não consegue colaborar.

Porque é que coordenar agentes de IA é tão difícil?

Os sistemas de IA atuais cresceram principalmente tornando-se maiores: modelos maiores, mais dados de treino, mais potência computacional. Isso produz agentes individuais mais inteligentes, mas o tamanho sozinho não lhes ensina a trabalhar como equipa.

Agentes conectados lidam bem o suficiente com tarefas familiares. O que não conseguem fazer, argumenta Pandey, é manter um objetivo partilhado e raciocinar para uma solução para a qual nenhum deles foi concebido. Trata-se de uma lacuna arquitetónica, não algo que se resolva escrevendo melhores instruções.

A investigação respalda a frustração. Um estudo de sete sistemas multi-agente de código aberto encontrou taxas de falha variando de 41 para cerca de 87 por cento. Um único agente bem concebido frequentemente tem melhor desempenho que um grupo mal coordenado. O nosso relatório de 14 de julho descobriu que metade das empresas já tinha implementado um agente que prejudicou algo para um cliente real, com apenas 5 por cento a confiar totalmente nos testes destinados a detetar essas falhas, o que torna os números de coordenação da Outshift parecerem oportunos em vez de teóricos.

O que é que a Outshift realmente construiu?

Duas ferramentas, ambas livres de usar sob licenças de código aberto.

AGNTCY é a camada de rede. Pense nela como um diretório e serviço postal para agentes de IA: permite que agentes de diferentes empresas e plataformas se encontrem, verifiquem identidade e troquem mensagens através de padrões partilhados. Agora existe sob a Linux Foundation.

Mycelium fica por cima. É um protocolo de coordenação que força agentes a declararem um objetivo comum, revelarem informações em falta e resolverem conflitos antes de qualquer um agir. Nos próprios testes da Outshift em 14 cenários, grupos sem estrutura alcançaram uma decisão correta cerca de um terço das vezes. Mycelium elevou isso para 93 por cento.

Pandey chama o resultado combinado uma "Internet da Cognição", uma camada partilhada para intenção e raciocínio que ele compara, com alguma ambição, ao salto cognitivo que transformou humanos primitivos dispersos em sociedades cooperantes.

Deveriam as pessoas preocupar-se com agentes de IA a agir sem supervisão?

Sim, e a Outshift diz que também se preocupa. Ligar agentes em conjunto cria riscos reais: um agente pode acidentalmente conceder a outro permissões que não deveria ter, maus atores podem injetar instruções falsas na memória partilhada, e agentes podem realizar ações muito fora do seu escopo original.

A resposta proposta da Outshift é CASA, que significa Continuous Agent Semantic Authorization. Lê o que um agente está a tentar realizar, depois verifica cada ação individual contra esse objetivo declarado em tempo real. Num exemplo de cuidados de saúde que Pandey fornece, um agente encarregado de resumir um registo de um único paciente não deveria estar a consultar uma base de dados hospitalar inteira. CASA bloquearia essa chamada.

"Os controlos atuais têm âmbito numa função ou sessão, não na tarefa, por isso um agente que tem acesso a uma ferramenta pode usá-la para qualquer coisa," disse Pandey ao MIT Technology Review, que primeiro cobriu o projeto. "Aproximadamente 90% das vezes, um agente não tem forma de confirmar que sequer foi autorizado para o trabalho que lhe foi confiado."

O que significa isto para empresas ou pacientes hoje?

Nem AGNTCY nem Mycelium é um produto terminado que uma empresa possa ativar amanhã. São blocos de construção, e os padrões em torno deles ainda estão a ser escritos.

O conselho prático de Pandey para empresas curiosas sobre sistemas multi-agente: escolha um fluxo de trabalho multidisciplinar que atualmente precisa de um humano para aprovar cada transição entre três ou quatro equipas, depois realize um pequeno piloto mensurável em infraestrutura aberta. Procure momentos em que o resultado de um agente faz outro ter melhor desempenho. Isso, diz ele, é o sinal de que a coordenação horizontal está realmente a funcionar.

Para pacientes ou qualquer pessoa no lado recetor de serviços assistidos por IA: esta tecnologia ainda não está a gerir o seu cuidado. O objetivo da investigação é tornar os sistemas eventuais mais seguros, não remover humanos do processo hoje. Essa é a posição honesta, e vale a pena manter-se quando a ambição de frases como "inteligência distribuída superinteligente" começa a ultrapassar a demonstração.

Perguntas comuns

O que é um sistema multi-agente?

Um sistema multi-agente é software que utiliza vários programas de IA separados, cada um com a sua especialidade, para resolver um problema em conjunto, da forma como uma equipa de transmissão passa um bastão em vez de um corredor fazer tudo.

A "superinteligência artificial" está realmente a ser construída aqui?

Não. Pandey usa a frase para descrever uma direção de longo prazo, não um produto iminente. O que a Outshift lançou são ferramentas de coordenação para agentes de IA atuais de âmbito restrito, não um sistema que supera a inteligência humana em todas as tarefas.

Quem pode usar AGNTCY e Mycelium?

Ambos são de código aberto, por isso qualquer programador ou organização pode descarregar, inspecionar e adaptar o código sem custo. São mantidos sob a Linux Foundation.