Tesseract SA

« L’IA prépare, une personne valide » : où placer la validation

Valider 100 % des sorties de l’IA recrée le goulot que l’on voulait supprimer. Voici où placer la validation humaine, avec une grille par niveau de risque et les cas où s’en passer.

Illustration 3D mate : des cubes blancs avancent sur un rail gris et franchissent une unique arche rouge, le point où une personne valide avant la suite.

Où placer la validation humaine dans un processus automatisé ?

Réponse directe : juste avant la première action qu’on ne peut plus défaire ou qui sort de l’entreprise (un envoi au client, un paiement, une écriture comptable définitive), et nulle part ailleurs par défaut. L’IA prépare, une personne valide le petit nombre de décisions qui engagent. Tout ce qui est réversible, interne et répétitif s’exécute seul, avec un contrôle par échantillon.

Dire « l’IA prépare, une personne valide » ne suffit pas à concevoir un processus. La vraie question est de savoir à quel endroit précis la personne intervient, sur quoi, et ce qu’elle voit à ce moment-là. Mal placée, la validation coûte du temps sans protéger de rien. Cet article donne un critère de placement, une grille par niveau de risque et les cas où il vaut mieux se passer de validation.

Pourquoi valider 100 % des sorties est une mauvaise idée

Le réflexe de prudence consiste à faire relire chaque résultat. C’est le moyen le plus sûr de recréer le goulot d’étranglement que l’automatisation devait supprimer : la tâche n’est plus faite à la main, mais elle reste faite en file d’attente par une personne. Tensoria, un prestataire d’automatisation, décrit le même effet chez des PME auditées : des nœuds d’approbation cochés en quelques secondes, sans ouvrir la pièce jointe.

Une validation cochée sans lecture est pire qu’aucune validation, car elle donne l’impression d’un contrôle qui n’existe pas. Flowable, éditeur d’outils de processus, parle de biais d’automatisation : plus un système se montre fiable, moins les personnes le vérifient, et les rares erreurs passent d’autant mieux. La conclusion pratique est contre-intuitive : moins de points de contrôle, mais mieux choisis et réellement lus.

Le critère de placement : avant la première action irréversible

Plusieurs sources spécialisées convergent sur le même principe : la porte de validation se place immédiatement avant la première action qui entre en territoire critique, pas à la fin de la chaîne. Une relecture finale arrive trop tard. À ce stade, l’IA a déjà lu, calculé, rédigé et parfois envoyé ; la personne approuve une chose faite, avec peu de contexte pour juger les étapes qui l’ont produite.

Un exemple concret pour une relance de facture impayée : l’IA repère la facture en retard, retrouve l’historique du client, calcule le solde et rédige le message. Rien de cela n’exige de validation. Le point de contrôle se place juste avant l’envoi, parce qu’un e-mail parti ne se rappelle pas. Si le solde est faux, la personne le voit avant, pas après.

Trois questions suffisent pour situer une étape :

  • Est-ce réversible ? Un brouillon, une catégorie comptable modifiable, un champ de CRM se corrigent. Un virement, un envoi externe, une suppression, non.
  • Cela sort-il de l’entreprise ? Tout ce qu’un client, un fournisseur ou une autorité peut lire engage votre réputation.
  • Y a-t-il un engagement juridique ou un montant significatif ? Un contrat, un devis, une écriture de clôture ne se traitent pas comme un tri de messages.

La grille : quel niveau de contrôle pour quelle étape

Le tableau reprend une logique en trois niveaux, que l’on retrouve chez plusieurs auteurs, et l’adapte aux processus de PME que nous mettons en place. Les exemples sont des repères, pas une règle valable pour toutes les entreprises.

NiveauCaractéristiquesExemples en PMEContrôle recommandé
Sans risqueInterne, réversible, sans engagementRésumer un appel, trier une boîte de réception, proposer une catégorie de dépenseAucune validation, échantillon contrôlé de temps en temps
SensibleRéversible, mais visible ou parfois ambiguMise à jour d’une fiche CRM, rapprochement bancaire, extraction d’une factureValidation uniquement sous un seuil de confiance ou sur un écart détecté
CritiqueIrréversible, externe ou engageantEnvoi d’un devis, relance de paiement, clôture comptable, tout ce qui touche à une donnée client sensibleValidation obligatoire avant exécution

Le seuil de confiance : un réglage, pas une vérité

Pour le niveau sensible, on laisse l’IA agir seule quand elle est sûre d’elle et on déclenche la validation quand elle doute. Le seuil se règle selon le coût d’une erreur à cette étape. Tensoria cite des valeurs souvent comprises entre 70 et 85 %. Prenez ce chiffre comme un point de départ à tester, pas comme une norme : un seuil pertinent pour classer des factures ne l’est pas pour envoyer un rappel de paiement à un gros client.

L’échantillon : le contrôle des étapes sans risque

Même quand tout se passe bien, une personne relit un échantillon des sorties courantes. Le but n’est pas de corriger chaque erreur mais de repérer une dérive : un changement de format chez un fournisseur, un client nouveau qui n’entre pas dans les cas prévus. Resserrez l’échantillon au lancement, allégez-le quand la fiabilité est mesurée.

Bloquer avant, ou pouvoir annuler après ?

Deux modèles existent. Dans le premier (« human in the loop »), le processus s’arrête tant qu’une personne n’a pas décidé. Dans le second (« human on the loop »), le système agit et une personne supervise, avec la possibilité d’intervenir. Le premier convient aux actions irréversibles ou à fort enjeu. Le second convient aux actions fréquentes, peu risquées et que l’on peut annuler.

Notre règle : bloquer avant pour ce qui sort de l’entreprise, prévoir une fenêtre d’annulation pour ce qui reste interne. Un seul processus mélange d’ailleurs souvent les deux, étape par étape. Pour les devis et les contrats, ce découpage est détaillé dans notre article sur les garde-fous des devis générés par IA.

Ce que la personne doit voir pour décider vite

Une validation efficace tient en quelques secondes si l’écran est bien conçu. Trois éléments suffisent :

  1. La source : le document, le message ou la ligne de données d’où vient la conclusion, accessible en un clic.
  2. L’écart précis : ce qui a déclenché la demande (un montant différent du devis, un client absent du CRM), plutôt qu’un score brut.
  3. La décision possible : approuver, corriger ou refuser, sans autre étape.

Journalisez aussi qui a décidé, quand et pourquoi. Cette trace sert en cas de litige et permet d’ajuster les seuils avec des faits.

Quand ne pas mettre de validation

Une validation inutile est un coût. Il vaut mieux s’en passer quand l’étape est interne, réversible et que l’erreur se corrige en quelques secondes, ou quand la personne chargée de valider n’a ni le temps ni le contexte pour juger. Dans ce second cas, ajouter une validation ne protège pas : elle déplace la responsabilité sur quelqu’un qui ne peut pas l’assumer. Mieux vaut redessiner l’étape, par exemple en réduisant l’autonomie de l’IA, que d’ajouter une case à cocher.

À l’inverse, n’automatisez pas la décision elle-même quand elle exige du jugement humain : accepter un rabais exceptionnel, répondre à un client mécontent, arbitrer un cas limite. L’IA peut préparer le dossier, pas trancher à votre place.

La nature du contrôle humain varie selon le texte applicable. Le RGPD prévoit, pour certaines décisions automatisées, un droit de demander une intervention humaine (article 22). L’AI Act européen impose une supervision humaine pour les systèmes classés à haut risque. La plupart des automatisations de PME (relances, extraction de documents, tri interne) n’entrent pas dans cette catégorie, et le bon sens opérationnel guide alors le dispositif. En Suisse, la nLPD pose ses propres règles sur les données personnelles : voir notre article sur la nLPD et les données envoyées à un modèle. En cas de doute sur votre situation, faites-la vérifier par un juriste.

Par où commencer

Prenez un processus, listez ses étapes, classez chacune dans la grille, puis ne gardez la validation que sur le niveau critique. Si vous hésitez sur le processus à traiter, le diagnostic express en cinq questions aide à choisir. Vous pouvez aussi parcourir les processus que le studio automatise pour repérer où se situe la porte de validation dans chacun.

Questions fréquentes

Où placer la validation humaine dans un processus automatisé ?

Juste avant la première action irréversible ou externe : envoi au client, paiement, écriture définitive. Les étapes internes et réversibles s’exécutent seules, avec un contrôle par échantillon.

Faut-il faire valider 100 % des sorties de l’IA ?

Non. Cela recrée le goulot d’étranglement et conduit à des validations cochées sans lecture. Réservez la validation aux cas à enjeu, aux cas où l’IA doute et à un échantillon de contrôle.

Comment fixer un seuil de confiance ?

Selon le coût d’une erreur à l’étape concernée. Des sources citent souvent 70 à 85 % comme point de départ. Testez-le sur vos données et resserrez-le pour les étapes sensibles.

Validation avant ou annulation après : que choisir ?

Validation avant pour ce qui sort de l’entreprise ou ne se défait pas. Annulation possible après pour les actions internes, fréquentes et réversibles.

Le contrôle humain est-il une obligation légale ?

Cela dépend du cas. L’AI Act impose une supervision humaine pour les systèmes à haut risque et le RGPD prévoit un droit à l’intervention humaine pour certaines décisions automatisées. Pour la plupart des automatisations de PME, c’est surtout une question de bon sens opérationnel.

Sources
À lire aussi