Brex ha costruito un guardiano di rete per i suoi agenti AI assumendo che fossero già compromessi

Punti chiave

• Brex ha rilasciato OpenClaw, un agente di codifica AI open-source, a gennaio 2025, dopo che i modelli di codifica hanno raggiunto un nuovo livello di maturità a dicembre 2024.
• Il team di sicurezza di Brex ha inizialmente rifiutato di implementare agenti AI internamente perché gli agenti potevano eseguire codice liberamente sulla rete aziendale.
• Brex ha creato CrabTrap, un proxy di rete open-source, per monitorare il traffico in uscita dagli agenti AI piuttosto che cercare di limitare quello che gli agenti potevano fare.
• Solo circa il 2% delle richieste degli agenti affronta una lenta revisione basata su AI; le azioni di routine passano attraverso regole pre-approvate istantanee.
• Il CEO di Brex Pedro Franceschi ha stimato una probabilità del 70% che lo strumento venisse buttato via entro sei mesi, ma ha affermato che l'esperienza acquisita valeva l'investimento.

Il CEO di Brex Pedro Franceschi aveva un problema. La sua azienda aveva costruito un agente AI, un software in grado di eseguire attività multi-fase in autonomia, chiamato OpenClaw. Voleva metterlo al lavoro dentro Brex. Il suo team di sicurezza ha detto di no.

"Assolutamente no. Come potremmo fidarci di un agente che facesse queste cose?" è così che Franceschi ha descritto la reazione, parlando a VB Transform 2026 e riportato per la prima volta da VentureBeat. La preoccupazione era fondata: OpenClaw poteva scrivere ed eseguire il proprio codice, il che significava, in teoria, che poteva fare quasi qualsiasi cosa sulla rete aziendale.

Perché limitare quello che l'agente fa non era la risposta

Limitare gli strumenti dell'agente, che è l'approccio che Franceschi ha detto che NemoClaw di Nvidia utilizza, elimina proprio la capacità che rende utile l'agente. Se gli togli la capacità di scrivere ed eseguire codice, togli il suo valore.

Così Brex ha capovolto il problema. Invece di controllare quello che OpenClaw poteva fare dentro il suo container (un ambiente software autonomo, come una stanza sigillata), l'azienda ha deciso di controllare la porta.

Quello che CrabTrap fa effettivamente

CrabTrap si posiziona tra l'agente e internet. Ogni volta che l'agente cerca di inviare o ricevere dati, CrabTrap controlla la richiesta.

Per azioni di routine a basso rischio, un insieme di regole pre-approvate decide istantaneamente. Un agente di reclutamento che controlla un profilo LinkedIn? Lasciato passare. Nessun ritardo.

Per azioni ad alto rischio, come l'invio di un'email, la richiesta va a un giudice LLM. Un LLM, o modello linguistico di grandi dimensioni, è la tecnologia AI che alimenta chatbot come ChatGPT. Qui legge la richiesta di rete e decide se rientra nello scopo approvato dell'agente. Poiché gli LLM sono stati addestrati su miliardi di pagine web e richieste di rete, comprendono già quale sia il traffico che ha un aspetto normale. Franceschi ha detto che questa capacità di giudizio appare naturalmente, senza pesanti istruzioni.

Il controllo AI lento riguarda solo circa il 2% delle richieste. Tutto il resto è quasi istantaneo.

Cosa accade quando l'agente incontra un ostacolo?

Quando il giudice LLM blocca un'azione, non si ferma semplicemente in silenzio. CrabTrap invia un messaggio a un gestore umano su Slack, spiegando cosa l'agente stava cercando di fare e suggerendo un cambio di regola che lo permetterebbe la prossima volta. Il gestore clicca sì o no. Le regole si aggiornano.

Brex ha testato l'intero sistema con un reclutatore virtuale chiamato Jim, costruito su OpenClaw. Jim trova candidati per posizioni di lavoro, valuta le domande in arrivo e invia email. Quando Jim cerca di fare qualcosa al di fuori della sua politica approvata, un umano decide se espandere tale politica.

"Quando un dipendente incontra un ostacolo, lo escalation al loro manager," ha detto Franceschi. L'analogia è deliberata: crede che il framing dei dipendenti virtuali, con una presenza su Slack, un indirizzo email e una catena umana di supervisione, sia più utile rispetto alla parola "agente".

Brex è un'azienda fintech e non aveva alcuno strumento commerciale che soddisfacesse il suo team di sicurezza, quindi ha costruito CrabTrap da sé. Franceschi è stato candido nel dire che un prodotto commerciale probabilmente lo renderà ridondante. Il punto, ha detto, era i mesi di vera esperienza implementando agenti in modo sicuro, non lo strumento stesso.

Tieni d'occhio questo: Se la tua azienda sta valutando agenti AI, chiedi specificamente ai fornitori come viene monitorato l'attività di rete in uscita. Le restrizioni sugli strumenti da sole potrebbero non soddisfare il tuo team di sicurezza, ed è un istinto ragionevole da prendere sul serio.