Le modèle résolvait un problème qu'une case à cocher résolvait déjà
Une équipe opérations reçoit une demande de changement d'adresse de livraison. La demande est valide seulement si le compte est actif, si le contrôle d'identité a réussi et si la nouvelle adresse se situe dans un pays couvert. Ce sont des champs connus. Pourtant, une proposition familière arrive : envoyer la demande à un modèle de langage, lui demander d'expliquer sa décision, puis demander à un collaborateur de vérifier cette explication.
Le sujet n'est donc pas de savoir si l'IA est mauvaise. Le sujet est que la complexité devient à la mode avant de devenir utile. Avant de choisir un modèle, un workflow doit répondre à une question plus élémentaire : s'agit-il d'une question stable, d'un problème d'interprétation ou d'un travail qui devrait disparaître ?
Faits et preuves : il s'agit de systèmes différents
Une règle déterministe reçoit des entrées définies et applique une politique formulée. Si un compte est actif et qu'un contrôle d'identité a réussi, alors le changement est autorisé. Les mêmes entrées doivent conduire au même résultat. Une règle est donc relativement simple à inspecter, tester, versionner et expliquer. Sa limite est tout aussi visible : elle ne peut pas décider raisonnablement ce que signifie un courriel confus tant qu'une personne n'a pas transformé cette ambiguïté en conditions.
Un modèle d'IA générative fonctionne autrement. À partir d'une consigne et d'un contexte, il prédit une suite de texte utile. Il peut résumer une réclamation, extraire des informations possibles d'un document ou préparer une réponse compréhensible par une personne. Son résultat n'est pas une décision de politique parce qu'il sonne avec assurance. Le profil du NIST consacré à l'IA générative cite notamment les risques de confabulation, de contenu nuisible, d'atteinte à l'intégrité de l'information et de confiance excessive de l'utilisateur. En clair : une réponse plausible n'est pas automatiquement une réponse juste.
Le cadre du NIST parle de système sociotechnique : données, interface, politique, formation, surveillance et autorité du relecteur façonnent le résultat autant que le modèle. Les principes de l'OCDE ajoutent robustesse, transparence, responsabilité et valeurs centrées sur l'humain.
Analyse : orientez le travail avant de l'automatiser
J'utilise cinq questions pour orienter une proposition d'automatisation. Elles sont volontairement concrètes. Une équipe doit pouvoir y répondre ensemble avant d'ouvrir un comparatif de fournisseurs.
1. La politique est-elle connue et stable ? Si les entrées sont structurées, les conditions explicites et le résultat répétable, commencez par une règle. Vérifier un champ obligatoire, appliquer un seuil ou bloquer une action interdite sont de bons exemples. Gardez la règle près du responsable de la politique et testez les cas limites.
2. L'interprétation est-elle la partie difficile ? L'IA est utile lorsque les personnes lisent, comparent, synthétisent, classent ou rédigent à partir d'éléments ambigus. Elle peut proposer des catégories, retrouver des passages utiles ou préparer une réponse. Elle ne doit pas inventer la politique qu'elle sert. Les évals rendent le niveau attendu visible, surtout quand plusieurs réponses sont possibles.
3. Quelle erreur le workflow peut-il tolérer ? Une synthèse interne imparfaite et une fiche client modifiée à tort ne méritent pas le même contrôle. L'erreur peut-elle exposer des données privées, refuser un accès, tromper un client ou créer une perte ? Plus la conséquence est forte, plus il faut revue, escalade, journaux et retour en arrière. L'AI Act européen suit cette logique fondée sur les risques.
4. Où le travail ralentit-il réellement ? Une fonctionnalité IA peut accélérer une étape visible tout en dégradant le workflow entier. Un extracteur de champs n'aide que si ses résultats arrivent à temps et n'ouvrent pas une file cachée de corrections. Si trois départements ne s'accordent pas sur les champs requis, la contrainte est la politique, pas la vitesse de saisie.
5. Qu'est-ce qui vous ferait arrêter ? Un pilote sans mesure de succès ni règle d'arrêt n'est pas une expérimentation. C'est un abonnement qui attend de devenir permanent. Écrivez la preuve qui justifierait une extension et celle qui mettrait fin au test. C'est la discipline des cinq questions avant une automatisation IA : prendre la décision avant que la technologie n'occupe l'organisation.
Un modèle d'orientation simple
Commencez par le chemin le plus fiable : des règles pour la partie connue, l'IA pour interpréter l'incertitude réelle, et une personne autorisée pour ce qui sort de la frontière. C'est un choix d'exploitation.
La frontière doit être visible pour la personne qui utilise le système. « Vérifiez ceci » ne suffit pas. Montrez les informations sources, l'action proposée, la raison de la proposition et les alternatives disponibles. Un passage de relais humain utile donne à une personne assez de contexte et d'autorité pour corriger le système, au lieu d'en faire une simple chambre d'enregistrement.
Contre-argument et limites : les règles peuvent aussi devenir un piège
Les règles ne sont pas automatiquement sûres : des exceptions accumulées et des politiques contradictoires peuvent les rendre opaques. Une règle peut aussi reproduire parfaitement une politique dépassée. Les essais IA ont leurs propres limites : données historiques peu représentatives, erreurs rares masquées par un petit échantillon et contournements humains. Un pilote doit donc couvrir des cas représentatifs et observer le workflow complet, pas seulement la précision du modèle. Il doit aussi vérifier que les personnes peuvent utiliser le nouveau parcours sans formation implicite ni dépendance à un expert.
Ma position : la complexité doit mériter sa place
Je ne crois pas que chaque tâche répétitive exige un modèle, et je ne crois pas que les règles soient une alternative d'un autre âge à l'IA. Elles résolvent une autre catégorie de problème. Les règles tranchent des questions connues. L'IA aide les personnes à interpréter une matière incertaine. La refonte retire le travail qui ne devrait pas exister.
Quand une équipe commence par l'outil, elle cherche souvent du travail pour le justifier. Quand elle commence par un résultat, elle peut choisir la méthode la moins complexe qui améliore ce résultat. Ce n'est pas être anti-IA. C'est ainsi que l'IA devient crédible au-delà d'une démo.
Actions concrètes pour les 30 prochains jours
Choisissez une proposition en cours. Écrivez le workflow, le moment exact qui coûte du temps ou de la confiance, puis une référence honnête : délai, reprises, escalades ou qualité de décision. Étiquetez chaque étape : règle, interprétation, jugement humain ou travail inutile. Supprimez d'abord l'inutile. Pour le reste, définissez les cas représentatifs, le droit de modifier une proposition erronée et une date de décision. Continuez seulement si le résultat progresse sans créer ailleurs un dommage inacceptable.
Sources
- NIST AI Risk Management Framework(lien externe, nouvel onglet) - guide volontaire pour gérer les risques IA lors de la conception, du déploiement, de l'usage et de l'évaluation.
- NIST AI RMF Playbook(lien externe, nouvel onglet) - actions pratiques selon les fonctions Gouverner, Cartographier, Mesurer et Gérer.
- NIST Generative AI Profile(lien externe, nouvel onglet) - considérations de gestion des risques adaptées aux systèmes d'IA générative.
- OECD AI Principles(lien externe, nouvel onglet) - principes internationaux pour une IA fiable et responsable.
- Regulation (EU) 2024/1689 (AI Act)(lien externe, nouvel onglet) - règlement européen sur l'intelligence artificielle fondé sur les risques.
Quelle proposition en cours deviendrait plus claire si vous choisissiez d'abord entre une règle, une aide à l'interprétation et la suppression de l'étape ?
