Le bouton d'escalade que personne n'utilise
Les équipes ajoutent souvent un bouton « envoyer à un humain » à la fin d'un projet IA. Cela paraît responsable et peut cocher une case. Puis un cas difficile arrive. Le relecteur voit une alerte vague, n'accède pas aux preuves utilisées par le système, ignore ce qui s'est déjà passé et ne peut pas modifier l'action en cours. Le dossier rejoint une file d'attente. Personne n'appelle cela de la supervision lorsque la file déborde.
Le problème n'est pas l'absence d'humain. Le problème est que le relais n'a jamais été conçu. Un passage de relais est une interaction produit entre un système automatisé, une personne qui tient un rôle et quelqu'un qui subit ou bénéficie du résultat. Il lui faut une raison claire, un dossier utile, une vraie autorité, une règle de délai et un moyen d'apprendre de la décision. Concevez ces éléments avant d'automatiser le workflow, pas après un échec visible.
Faits et preuves : une supervision utile dépasse la simple présence
Le règlement européen sur l'intelligence artificielle est précis à ce sujet pour les systèmes à haut risque. Son article 14 indique que la supervision humaine doit aider à prévenir ou à réduire les risques et rester proportionnée au risque, au niveau d'autonomie et au contexte d'usage. Il décrit aussi des capacités concrètes : les personnes désignées doivent comprendre les limites pertinentes, interpréter les sorties, décider de ne pas les utiliser ou de les annuler, puis intervenir ou arrêter le système lorsque cela est approprié. Le texte mentionne également la compétence, la formation et l'autorité des personnes chargées de la supervision.
Cette distinction est utile à toute équipe produit, que son système entre ou non dans cette catégorie juridique. Un relecteur dont la seule option est « accepter » ne dispose pas d'un contrôle utile. Un relecteur qui reçoit une demande après une action irréversible ne reçoit pas un moment d'intervention utile. La présence humaine n'est pas la même chose que le pouvoir d'agir humain.
Analyse : traiter le relais comme une étape à part entière du workflow
Partez de la décision, pas du modèle. Que peut exactement recommander, rédiger, orienter ou exécuter l'IA ? Quel résultat devient coûteux ou dommageable s'il est faux ? Ce résultat est-il réversible ? Qui est concerné ? Décidez ensuite où le jugement humain apporte une valeur réelle. Pour un assistant de rédaction peu risqué, un éditeur peut relire la sortie finale avant publication. Pour un système qui priorise des dossiers de clients en difficulté, la personne doit peut-être examiner la recommandation avant que la file ne change. Pour un système capable d'une action financière ou opérationnelle, l'humain doit peut-être disposer d'un point d'arrêt explicite avant l'exécution.
Un bon relais possède cinq propriétés conçues : un déclencheur, un dossier, une autorité, une attente de délai et un signal d'apprentissage. S'il en manque une, le système transfère l'incertitude à une personne sans lui donner les moyens de la résoudre.
Concevoir le déclencheur : pourquoi ce cas arrive-t-il à une personne ?
Chaque relais doit avoir un déclencheur explicable. « L'IA n'était pas sûre » ne suffit pas tant que le produit ne peut pas montrer ce que cela signifie. Le déclencheur peut être l'absence d'une preuve obligatoire, des sources faisant autorité mais contradictoires, une action au-delà d'un seuil d'impact défini, une exception de politique, une défaillance d'outil, une contestation de l'utilisateur ou une situation que l'équipe a volontairement déclarée hors périmètre.## Concevoir le dossier : donner du contexte sans créer une nouvelle enquête
Le relecteur doit recevoir un dossier compact, pas une alerte nue. Montrez au minimum la demande initiale, les documents ou références pertinents, la sortie ou l'action proposée par le système, les outils déjà utilisés, le déclencheur explicite et la décision attendue du relecteur. Ajoutez l'étape du workflow, la sensibilité au temps et toute décision humaine antérieure qui modifie sensiblement le cas.## Concevoir l'autorité et le délai : le relecteur peut-il réellement changer le résultat ?
La personne qui reçoit le relais doit disposer de pouvoirs explicites. Selon le workflow, elle peut approuver, refuser, modifier, demander davantage de preuves, réorienter, annuler, mettre en pause ou arrêter l'action. Chaque choix doit avoir un effet clair et, pour les cas à fort impact, une trace indiquant qui l'a fait et pourquoi. Si le relecteur ne peut qu'approuver une réponse déjà sélectionnée, le système a créé une validation de façade, pas une supervision.C'est le côté concret de la gouvernance IA comme exigence produit. La gouvernance devient réelle au moment où une personne peut contredire la machine et où le produit respecte cette décision.
Boucler l'apprentissage : la revue doit améliorer le cas suivant
Conservez la raison du relais, les preuves utilisées par le relecteur, sa décision et le fait que le résultat final ait été corrigé plus tard ou non. Utilisez un petit nombre de catégories de décision afin de rendre les tendances visibles : information manquante, conflit de sources, exception de politique, suggestion dangereuse, mauvaise recherche, défaillance d'outil ou demande utilisateur imprécise. Les notes libres sont utiles, mais des notes non structurées seules rendent les échecs récurrents difficiles à détecter. Pour les systèmes agentiques, conservez aussi le chemin d'autorité. Quel agent a proposé l'action ? Quel outil ou quelle permission aurait été utilisé ? Qui l'a annulée ? Cela relie le relais à la question plus large de l'autorité opérationnelle des agents IA : toute délégation doit être précise, limitée et attribuable.
Contre-argument et limites : les humains peuvent aussi devenir un goulot d'étranglement
Mettre une personne dans chaque interaction peut créer un service lent, de la fatigue, des décisions incohérentes et une impression trompeuse de sécurité. Les relecteurs peuvent trop faire confiance à une recommandation qui paraît certaine, surtout face à une grande file. Ils peuvent aussi manquer de temps ou d'expertise pour évaluer les preuves reçues. Un relais mal conçu transfère la partie la plus difficile de la tâche à une personne déjà occupée et appelle ce délai une protection. Il existe aussi des limites à ce qu'une équipe produit peut résoudre seule. L'emploi, la santé, la finance, les services publics et d'autres contextes réglementés peuvent imposer des obligations sectorielles précises. Juristes, responsables de la vie privée, sécurité, accessibilité et équipes de terrain doivent façonner la frontière. Un modèle générique ne remplace pas leur jugement. Il peut toutefois rendre les questions impossibles à éviter.
Ma position : le relais fait partie du produit
Je considère le passage de relais humain comme une fonctionnalité, non comme un chemin d'exception. Il lui faut un responsable, de la recherche utilisateur, de la conception d'interface, une capacité opérationnelle, des cas de test et des indicateurs. L'« utilisateur » n'est pas seulement la personne qui reçoit la sortie IA. C'est aussi le relecteur qui doit comprendre un cas difficile sous contrainte de temps.
Action concrète : auditer un relais en service cette semaine
Choisissez un workflow assisté par IA qui arrive déjà à une personne. Asseyez-vous avec la personne qui reçoit les cas ; ne l'auditez pas seulement depuis un schéma. Sélectionnez cinq exemples récents : un cas courant, un ambigu, un urgent, un cas annulé et un cas abandonné. Pour chacun, demandez pourquoi le relais a eu lieu, quelles informations étaient disponibles, quelle action le relecteur pouvait prendre, combien de temps la décision a demandé et ce qui est arrivé ensuite.
Écrivez les réponses dans un contrat de relais d'une page. Indiquez les déclencheurs, les champs obligatoires du dossier, le rôle qui porte l'autorité de décision, le délai de service, la solution de repli sûre, les règles d'accès aux données et les champs de retour d'expérience. Retirez une alerte ou un champ inutile avant d'ajouter un nouveau contrôle. L'objectif est un cas prêt à être revu, pas un dossier maximal.
Enfin, transformez une correction récurrente du relecteur en cas d'évaluation. Testez si une instruction, une source, une interface ou une frontière révisée évite le problème. Gardez le relais s'il protège encore une décision importante. Réduisez-le s'il ne fait que confirmer un travail routinier. La preuve d'un bon relais n'est pas qu'un humain est apparu dans le processus. C'est que cette personne a pu prendre une décision rapide, informée et conséquente.
Sources
- Règlement (UE) 2024/1689 sur l'intelligence artificielle(lien externe, nouvel onglet)
- NIST AI Risk Management Framework (AI RMF 1.0)(lien externe, nouvel onglet)
- Principes de l'OCDE sur l'IA(lien externe, nouvel onglet)
- ICO britannique : recommandations sur l'IA et la protection des données(lien externe, nouvel onglet)
- Google PAIR : People + AI Guidebook(lien externe, nouvel onglet)
Lorsque votre workflow IA demande à une personne d'intervenir, cette personne voit-elle le contexte, peut-elle changer le résultat et améliorer le cas suivant ?
