Une Conversation IA Parfaite Peut Encore Signifier un Produit Défaillant, Avertissent les Leaders du Secteur

Points clés

• Harrison Chase, PDG de LangChain, a déclaré lors de VB Transform 2026 que de nombreuses équipes souffrent d'une « paralysie d'évaluation » et ne lancent jamais de produit car elles recherchent une suite de tests parfaite avant le lancement.
• Hui Zhang, CTO de Conviva, a démontré comment une seule conversation IA peut obtenir un bon score de manière isolée tout en cachant un problème à l'échelle d'une catégorie, visible uniquement en comparant des milliers d'utilisateurs à une base de référence.
• LangChain a affiné son propre petit modèle IA pour détecter les erreurs perçues par les utilisateurs à un coût 10 à 100 fois inférieur à celui de l'utilisation de Claude Sonnet d'Anthropic, un modèle IA commercial de premier plan.
• Les trois dirigeants ont convenu qu'une approbation humaine reste essentielle dans les domaines réglementés tels que le droit, la finance et la santé, même si les vérifications automatisées se développent à grande échelle.

Imaginez un client demandant à un assistant d'achat IA des chaussures de running avant un semi-marathon. L'assistant pose quelques questions, le client achète une paire, et la conversation se termine. Évaluez cette interaction de manière isolée : elle semble correcte.

Maintenant, regardez le tableau d'ensemble. À travers des milliers de conversations similaires, cet assistant a posé des questions de clarification trois fois plus souvent que la normale pour cette catégorie de chaussures. Les clients ont finalisé leurs achats en dehors du chat à cinq fois le taux habituel. Quelque chose ne va clairement pas. Mais vous ne le verriez jamais en vérifiant une conversation à la fois.

C'était l'argument central présenté lors de VB Transform 2026, d'abord rapporté par VentureBeat, où les responsables de trois entreprises d'infrastructure IA ont décrit comment les équipes d'entreprise évaluent mal les agents.

Les équipes mesurent-elles les bonnes choses ?

La plupart ne le font pas. Hui Zhang, CTO de Conviva, une entreprise d'analyse de streaming, appelle la meilleure approche « analyse contrastive » : comparer un groupe d'utilisateurs à une base de référence historique plutôt que de noter des journaux de chat individuels. Les scores individuels semblent corrects. Les modèles de population révèlent le véritable bogue.

Harrison Chase, PDG de LangChain, l'entreprise derrière un cadre populaire pour construire des agents IA (logiciels qui peuvent exécuter des tâches multi-étapes de manière autonome), a ajouté un second piège. Les équipes construisent des suites de tests exhaustives avant le lancement, puis ne sortent jamais le produit.

« Nous voyons parfois des équipes qui souffrent d'une sorte de paralysie d'évaluation », a déclaré Chase. « Les meilleures équipes se lancent puis itèrent. »

Son cadre : traiter les critères d'évaluation comme une spécification de produit vivante qui se met à jour au fur et à mesure que des problèmes réels surgissent, et non comme une liste de contrôle que vous terminez une fois.

Emmanuel Turlay, directeur de l'ingénierie chez CoreWeave, un fournisseur de cloud GPU (GPU désigne les puces spécialisées qui effectuent les calculs intensifs dont l'IA a besoin), a rencontré le même mur du côté ingénierie. Il a poursuivi 100 % de couverture de test et a quand même lancé des bogues. Sa solution : mettre en place une large surveillance toujours active en premier, laisser les véritables défaillances vous enseigner quels tests écrire ensuite.

Une fois qu'une catégorie de problème émerge, vous avez également une question de coût. La règle de Turlay est de commencer par le modèle IA le plus performant pour prouver qu'quelque chose est réalisable, puis de passer à des modèles plus petits et moins chers pour les vérifications de routine. LangChain a fait exactement cela. Il a affiné un modèle Qwen (une famille de modèles open-source d'Alibaba) pour détecter les moments où les utilisateurs sentaient que l'agent avait commis une erreur. Le résultat correspondait à la précision de Claude Sonnet à une fraction du prix. Chase a noté que certaines garde-fous n'ont même pas besoin d'un modèle : le simple code de correspondance de motifs, appelé regex, gère de nombreuses vérifications à un coût quasi nul.

La question humaine sous-tend tout cela. Turlay s'est appuyé sur son travail antérieur dans une entreprise de voitures autonomes : même après avoir comprimé le cycle de test à deux semaines, une personne devait toujours approuver le modèle avant qu'il n'entre dans le véhicule. La même logique s'applique aux agents IA gérant des conseils médicaux, des décisions financières ou des documents juridiques.

Chase est allé plus loin, arguant que la vérification humaine n'est pas seulement un filet de sécurité. C'est ainsi que le système apprend. Sans rétroaction humaine dans la boucle, l'agent n'a rien pour s'améliorer.