Conseguem os Agentes de IA Aprender a Pensar em Conjunto? Uma Equipa da Cisco Acredita que Tem a Solução

Pontos-chave

• Outshift by Cisco, uma unidade de investigação dentro da Cisco, lançou dois projetos de código aberto, AGNTCY e Mycelium, concebidos para permitir que agentes de IA separados se coordenem sem supervisão humana.
• Os testes internos descobriram que grupos de agentes de IA não coordenados chegavam a uma decisão correta aproximadamente um terço das vezes; adicionar um protocolo de alinhamento de objetivos aumentou essa taxa para 93 por cento.
• Um estudo citado pela equipa registou taxas de falha entre 41 por cento e 87 por cento em sete sistemas multi-agente de código aberto, a tecnologia que encadeia vários agentes de IA numa único problema.
• Uma nova ferramenta de segurança chamada CASA (Continuous Agent Semantic Authorization) verifica, em tempo real, se cada ação que um agente realiza continua a corresponder à tarefa que lhe foi originalmente atribuída.
• Tanto AGNTCY como Mycelium são agora geridos pela Linux Foundation, a organização sem fins lucrativos que supervisiona software de código aberto amplamente utilizado.

Imagine um hospital com quatro agentes de IA separados: um avalia sintomas, outro gere agendamentos, outro comunica com seguradoras, e outro coordena a farmácia. Cada um é especializado no seu domínio. Nenhum deles consegue concordar num plano de tratamento sem que um humano intervenha para traduzir entre eles.

Esse problema de transferência, segundo Vijoy Pandey, vice-presidente sénior responsável pela Outshift by Cisco, é o enigma central ainda por resolver na IA moderna. A tecnologia consegue raciocinar. Apenas não consegue colaborar.

Por que é tão difícil coordenar agentes de IA?

Os sistemas de IA atuais cresceram principalmente tornando-se maiores: modelos maiores, mais dados de treino, mais poder computacional. Essa abordagem produz agentes individuais mais inteligentes, mas o tamanho sozinho não os ensina a trabalhar em equipa.

Os agentes conectados tratam bem tarefas quando a tarefa parece familiar. O que não conseguem fazer, argumenta Pandey, é manter um objetivo comum e raciocinar para encontrar uma solução para a qual nenhum deles foi concebido. Trata-se de uma lacuna arquitetónica, não algo que se resolva com instruções melhores.

A investigação corrobora essa frustração. Um estudo de sete sistemas multi-agente de código aberto descobriu taxas de falha variando entre 41 por cento e quase 87 por cento. Um único agente bem concebido frequentemente supera um grupo mal coordenado.

O que a Outshift realmente construiu?

Duas ferramentas, ambas livres de usar e modificar sob licenças de código aberto.

AGNTCY é a camada de rede. Pense nela como um diretório e serviço postal para agentes de IA: permite que agentes de diferentes empresas e plataformas se encontrem, verifiquem identidades e troquem mensagens através de normas partilhadas. Agora funciona sob a Linux Foundation.

Mycelium fica por cima. É um protocolo de coordenação que obriga agentes a declarar um objetivo comum, assinalar informações em falta e resolver conflitos antes de qualquer ação. Nos próprios testes da Outshift em 14 cenários, grupos de agentes não estruturados chegaram a uma decisão correta aproximadamente um terço das vezes. Mycelium elevou isso para 93 por cento.

Pandey chama o resultado combinado uma "Internet da Cognição", uma camada partilhada para intenção, memória e raciocínio que compara, com alguma ambição, ao salto cognitivo que transformou humanos primitivos dispersos em sociedades cooperantes.

Deveriam as pessoas preocupar-se com agentes de IA a atuarem sem supervisão?

Sim, e a Outshift diz que também se preocupa. Ligar agentes entre si cria novos riscos: um agente pode acidentalmente conceder a outro permissões que não deveria ter, atores maliciosos podem injetar instruções falsas na memória partilhada, e agentes podem executar ações muito fora do âmbito da sua tarefa original.

A resposta que a Outshift propõe é CASA, Continuous Agent Semantic Authorization. A ferramenta lê o que um agente está a tentar realizar, depois verifica cada ação individual contra esse objetivo declarado em tempo real. Num exemplo de saúde que Pandey apresenta, um agente solicitado para resumir um registo de um único doente não deveria estar a consultar uma base de dados inteira do hospital. CASA bloquearia essa chamada.

"Os controlos atuais têm escopo num papel ou numa sessão, não na tarefa," disse Pandey à MIT Technology Review, que cobriu primeiro o projeto. "Aproximadamente 90 por cento das vezes, um agente não tem forma de confirmar que está sequer autorizado para o trabalho que lhe foi atribuído."

O que isto significa para empresas ou doentes hoje?

Nem AGNTCY nem Mycelium é um produto acabado que uma empresa possa ativar amanhã. São blocos de construção, e as normas em seu redor ainda estão a ser escritas.

O conselho prático de Pandey para empresas curiosas sobre sistemas multi-agente: escolha um fluxo de trabalho interfuncional que atualmente necessita de um humano para aprovar cada transferência entre três ou quatro equipas, depois execute um piloto pequeno e mensurável numa infraestrutura aberta. Procure momentos em que o resultado de um agente torna outro agente mais eficaz. Isso, diz ele, é o sinal de que a coordenação horizontal está realmente a funcionar.

Para doentes ou qualquer pessoa a receber serviços assistidos por IA, a posição honesta é que esta tecnologia ainda não está a dirigir o seu cuidado. O objetivo da investigação é tornar eventuais sistemas mais seguros e coerentes, não remover humanos do processo hoje.

Perguntas comuns

O que é um sistema multi-agente?

Um sistema multi-agente é software que utiliza vários programas de IA separados, cada um com a sua especialidade, para resolver um problema em conjunto, da forma como uma equipa de estafeta passa o testemunho em vez de um único corredor fazer tudo.

Está a ser construída realmente "superinteligência artificial" aqui?

Não. Pandey usa a frase para descrever uma direção a longo prazo, não um produto iminente. O que a Outshift lançou são ferramentas de coordenação para agentes de IA de hoje com foco restrito, não um sistema que supera a inteligência humana em todas as tarefas.

Quem pode usar AGNTCY e Mycelium?

Ambas são código aberto, significando que qualquer programador ou organização pode descarregar, inspecionar e adaptar o código gratuitamente. São mantidas sob a Linux Foundation.