A Brex construiu um vigilante de rede para os seus agentes de IA porque assumiu que já estavam comprometidos

Pontos-chave

• A Brex lançou o OpenClaw, um agente de IA de código aberto para programação, em janeiro de 2025, depois de os modelos de codificação atingirem um novo nível de maturidade em dezembro de 2024.
• A equipa de segurança da Brex inicialmente rejeitou a implementação de agentes de IA internamente porque os agentes poderiam executar código livremente na rede corporativa.
• A Brex construiu o CrabTrap, um proxy de rede de código aberto, para monitorizar o tráfego de saída dos agentes de IA em vez de tentar restringir o que os agentes poderiam fazer.
• Apenas cerca de 2% dos pedidos de agentes enfrentam uma análise lenta baseada em IA; as ações de rotina passam através de regras pré-aprovadas instantâneas.
• O CEO da Brex, Pedro Franceschi, estimou uma probabilidade de 70% de a ferramenta ser descartada no prazo de seis meses, mas disse que a experiência adquirida justificava o investimento.

O CEO da Brex, Pedro Franceschi, tinha um problema. A sua empresa tinha construído um agente de IA, um software que consegue realizar tarefas multi-etapas independentemente, chamado OpenClaw. Queria colocá-lo a funcionar dentro da Brex. A sua equipa de segurança disse que não.

"Absolutamente não. Como poderíamos confiar num agente a fazer estas coisas?" foi assim que Franceschi descreveu a reação, falando na VB Transform 2026 e primeiro reportado pela VentureBeat. A preocupação era real: OpenClaw podia escrever e executar o seu próprio código, o que significa que, em teoria, podia fazer praticamente qualquer coisa na rede corporativa.

Porque é que restringir o que o agente faz não era a resposta

Restringir as ferramentas do agente, que é a abordagem que Franceschi disse que o NemoClaw da Nvidia segue, mata precisamente a capacidade que torna o agente útil. Se lhe tirar a capacidade de escrever e executar código, está a tirar-lhe o seu valor.

Então a Brex inverteu o problema. Em vez de vigiar o que o OpenClaw poderia fazer dentro do seu contentor (um ambiente de software auto-contido, como uma sala selada), a empresa decidiu vigiar a porta.

O que o CrabTrap realmente faz

O CrabTrap fica entre o agente e a internet. Sempre que o agente tenta enviar ou receber dados, o CrabTrap verifica o pedido.

Para ações de rotina e baixo risco, um conjunto de regras pré-aprovadas decide instantaneamente. Um agente de recrutamento a verificar um perfil no LinkedIn? Deixado passar. Sem demora.

Para ações de maior risco, como enviar um email, o pedido vai para um juiz baseado em LLM. Um LLM, ou modelo de linguagem grande, é a tecnologia de IA que alimenta chatbots como o ChatGPT. Aqui lê o pedido de rede e decide se se enquadra no propósito aprovado do agente. Porque os LLMs foram treinados com milhares de milhões de páginas web e pedidos de rede, já entendem o aspeto do tráfego normal. Franceschi disse que esta capacidade de julgamento aparece naturalmente, sem instruções pesadas.

A verificação de IA lenta afeta apenas cerca de 2% dos pedidos. Tudo o resto é quase instantâneo.

O que acontece quando o agente bate numa barreira?

Quando o juiz de LLM bloqueia uma ação, não se limita a parar silenciosamente. O CrabTrap envia uma mensagem a um gestor humano no Slack, explicando o que o agente estava a tentar fazer e sugerindo uma alteração de regra que o permitiria da próxima vez. O gestor clica sim ou não. As regras atualizam.

A Brex testou todo o sistema com um recrutador virtual chamado Jim, construído no OpenClaw. Jim identifica candidatos a emprego, classifica aplicações recebidas e envia emails. Quando Jim tenta algo fora da sua política aprovada, um humano decide se deve expandir essa política.

"Quando um funcionário bate numa barreira, escala para o seu gestor," disse Franceschi. A analogia é deliberada: ele acredita que o enquadramento de funcionário virtual, com uma presença no Slack, um endereço de email e uma cadeia humana de supervisão, é mais útil do que a palavra "agente".

A Brex é uma empresa fintech e não tinha nenhuma ferramenta comercial que satisfizesse a sua equipa de segurança, então construiu o CrabTrap ela mesma. Franceschi foi honesto ao dizer que um produto comercial provavelmente o tornará redundante. O objetivo, disse ele, era os meses de experiência real na implementação segura de agentes, não a ferramenta em si.

Fique atento a isto: Se a sua empresa está a avaliar agentes de IA, pergunte especificamente aos fornecedores como é monitorizada a atividade de rede de saída. As restrições de ferramentas sozinhas podem não satisfazer a sua equipa de segurança, e esse é um instinto razoável que vale a pena levar a sério.