Les agents IA se voient confier plus de décisions que les entreprises ne peuvent réellement vérifier

Points clés

• Dans une enquête de juin 2026 auprès de 157 équipes d'entreprises, 50 % ont signalé avoir déployé un agent IA ou une fonctionnalité IA qui a réussi les tests internes et a ensuite causé une défaillance visible pour les clients.
• Un quart de ces entreprises a connu ce type de défaillance plus d'une fois.
• 66 % des entreprises interrogées permettent déjà un déploiement d'IA sans examen humain, ou prévoient de le faire dans les 12 mois.
• Seulement 5 % des répondants ont déclaré faire entièrement confiance aux systèmes de test automatisés qui décident si une IA est prête à être déployée.
• Les grandes entreprises comptant 2 500 employés ou plus se dirigent le plus rapidement vers une surveillance zéro, et elles signalent également plus de défaillances clients que les petites entreprises.

Imaginez un inspecteur qualité qui avoue, discrètement, que la liste de contrôle est largement erronée. C'est à peu près la situation qu'une enquête publiée par VentureBeat décrit dans une large tranche d'équipes IA d'entreprises en ce moment.

L'enquête VB Pulse de juin 2026 a interrogé 157 personnes dans des entreprises comptant 100 employés ou plus sur la façon dont elles testent et déploient les agents IA, des programmes logiciels qui peuvent accomplir des tâches multi-étapes de manière autonome, comme traiter un remboursement client, mettre à jour un enregistrement de base de données ou rédiger et envoyer un message sans qu'un humain appuie sur envoyer. L'échantillon était auto-sélectionné plutôt que choisi de manière aléatoire, les chiffres doivent donc être traités comme un signal, non comme un recensement.

Le signal est inconfortable. La moitié des entreprises interrogées avait déjà déployé un agent qui avait réussi tous les tests internes et qui a ensuite nui à l'expérience client. Un quart l'avait fait plus d'une fois.

Pourquoi un test réussi ne garantit-il pas un agent qui fonctionne ?

Parce que les tests logiciels traditionnels vérifient si une entrée fixe produit une sortie attendue, et les agents IA ne fonctionnent pas de cette façon. Un agent choisit sa propre séquence d'étapes, appelle des outils externes, extrait des données en direct et peut se comporter différemment chaque fois qu'il s'exécute, même pour la même tâche.

Un agent peut réussir cinq étapes exactement et ensuite divulguer des informations sensibles à la sixième. Il peut rédiger un remboursement valide et l'envoyer sans attendre l'approbation. Chaque décision individuelle semble correcte. Le résultat final est un problème.

L'Institut national américain des normes et de la technologie a fait une observation similaire dans ses conseils sur le profil IA générative : le comportement mesuré dans un environnement de test contrôlé ne se maintient souvent pas une fois que les vrais utilisateurs, les demandes imprévisibles et les données en direct entrent en jeu. Les conseils appellent à des tests de terrain et à une surveillance continue après le lancement, pas seulement un score pré-lancement.

Les répondants à l'enquête eux-mêmes semblent comprendre cela. Lorsqu'on leur a demandé pourquoi ils se méfiaient des tests automatisés, la réponse la plus courante, donnée par 29 %, était que les scores de test ne correspondent pas à ce qui se passe réellement dans le monde réel.

Et pourtant, l'autonomie continue d'augmenter. Deux tiers des entreprises interrogées fonctionnent déjà, ou construisent activement, des déploiements sans intervention humaine du tout. Seulement 5 % font entièrement confiance aux vérifications automatisées qui feraient le travail qu'un examinateur humain faisait auparavant.

Cet écart, l'autonomie croissante reposant sur une assurance fragile, est le problème fondamental.

Les conseils d'Anthropic sur l'évaluation d'agents tracent une ligne utile ici : un système qui réussit une fois n'est pas la même chose qu'un système qui réussit de manière fiable. Pour tout ce qui touche les clients, l'argent ou les données, la fiabilité est la seule norme qui importe.

Que devraient faire les entreprises ? Exécuter chaque scénario plusieurs fois. Varier le libellé et le contexte. Simuler les défaillances d'outils. Quand un incident réel se produit en production, transformez-le en cas de test permanent afin que la même défaillance ne puisse pas se reproduire silencieusement. Et élargissez la surveillance zéro-humain seulement où les conséquences d'une erreur sont véritablement faibles ; rédiger un résumé interne n'est pas la même chose qu'approuver une transaction financière.

Retirer un humain d'un processus ne supprime pas le risque. Cela supprime simplement la personne qui aurait pu le détecter.