Brex a construit un système de surveillance réseau pour ses agents IA en supposant qu'ils étaient déjà compromis

Points clés

• Brex a publié OpenClaw, un agent de codage IA open-source, en janvier 2025, après que les modèles de codage aient atteint un nouveau niveau de maturité en décembre 2024.
• L'équipe de sécurité de Brex a initialement rejeté le déploiement d'agents IA en interne car les agents pouvaient exécuter du code librement sur le réseau d'entreprise.
• Brex a créé CrabTrap, un proxy réseau open-source, pour surveiller le trafic sortant des agents IA plutôt que de tenter de restreindre ce que les agents pouvaient faire.
• Seulement environ 2% des demandes d'agents font l'objet d'un examen lent basé sur l'IA ; les actions courantes passent par des règles pré-approuvées instantanément.
• Le PDG de Brex, Pedro Franceschi, a estimé à 70% la probabilité que l'outil soit abandonnée dans les six mois, mais a déclaré que l'expérience acquise valait l'investissement.

Le PDG de Brex, Pedro Franceschi, avait un problème. Son entreprise avait créé un agent IA, un logiciel capable d'exécuter des tâches à plusieurs étapes de manière autonome, appelé OpenClaw. Il voulait le mettre en service chez Brex. Son équipe de sécurité a dit non.

« Certainement pas. Comment pourrions-nous faire confiance à un agent faisant ces choses ? » C'est ainsi que Franceschi a décrit la réaction, en s'exprimant à VB Transform 2026 et d'abord rapporté par VentureBeat. La préoccupation était réelle : OpenClaw pouvait écrire et exécuter son propre code, ce qui signifiait théoriquement qu'il pouvait faire presque n'importe quoi sur le réseau de l'entreprise.

Pourquoi restreindre ce que l'agent fait n'était pas la solution

Restreindre les outils de l'agent, approche que Franceschi a dit que NemoClaw de Nvidia adopte, détruit précisément la capacité qui rend l'agent utile. Si vous lui enlevez la capacité d'écrire et d'exécuter du code, vous enlevez sa valeur.

Brex a donc inversé le problème. Au lieu de surveiller ce qu'OpenClaw pouvait faire à l'intérieur de son conteneur (un environnement logiciel autonome, comme une pièce scellée), l'entreprise a décidé de surveiller la porte.

Ce que CrabTrap fait réellement

CrabTrap s'installe entre l'agent et Internet. Chaque fois que l'agent tente d'envoyer ou de recevoir des données, CrabTrap vérifie la demande.

Pour les actions courantes et à faible risque, un ensemble de règles pré-approuvées décide instantanément. Un agent de recrutement qui consulte un profil LinkedIn ? Laissé passer. Aucun délai.

Pour les actions à risque plus élevé, comme l'envoi d'un e-mail, la demande est adressée à un juge IA. Un LLM, ou modèle de langage de grande taille, est la technologie IA qui alimente des chatbots comme ChatGPT. Il lit ici la demande réseau et décide si elle correspond au but approuvé de l'agent. Parce que les LLM ont été entraînés sur des milliards de pages web et de demandes réseau, ils comprennent déjà à quoi ressemble le trafic normal. Franceschi a déclaré que cette capacité de jugement apparaît naturellement, sans instructions lourdes.

La vérification lente par IA ne touche qu'environ 2% des demandes. Tout le reste est quasi instantané.

Que se passe-t-il quand l'agent se heurte à un obstacle ?

Lorsque le juge IA bloque une action, il ne s'arrête pas simplement silencieusement. CrabTrap envoie un message à un responsable humain sur Slack, expliquant ce que l'agent tentait de faire et suggérant une modification de règle qui le permettrait la prochaine fois. Le responsable clique oui ou non. Les règles se mettent à jour.

Brex a testé l'ensemble du système avec un recruteur virtuel nommé Jim, créé sur la base d'OpenClaw. Jim recrute des candidats, note les candidatures entrantes et envoie des e-mails. Quand Jim essaie quelque chose hors de sa politique approuvée, un humain décide d'élargir cette politique.

« Quand un employé se heurte à un obstacle, il escalade auprès de son responsable », a déclaré Franceschi. L'analogie est délibérée : il croit que le cadre d'employé virtuel, avec une présence Slack, une adresse e-mail et une chaîne de surveillance humaine, est plus utile que le mot « agent ».

Brex est une entreprise fintech et n'avait pas d'outil commercial qui satisfaisait son équipe de sécurité, elle a donc créé CrabTrap elle-même. Franceschi a été franc en disant qu'un produit commercial rendra probablement cela redondant. Le point, a-t-il dit, était les mois d'expérience réelle du déploiement sécurisé d'agents, pas l'outil lui-même.

À surveiller : Si votre entreprise évalue des agents IA, demandez spécifiquement aux vendeurs comment l'activité réseau sortante est surveillée. Les restrictions d'outils seules peuvent ne pas satisfaire votre équipe de sécurité, et c'est un instinct raisonnable qui mérite d'être pris au sérieux.