Recetter le travail d'une IA : les cinq portes avant la mise en production

il y a 5 jours
4 min de lecture

Un agent capable de boucler vingt fois et de se corriger seul n'est pas, pour autant, un agent autorisé à livrer seul. Entre « il tourne » et « c'est en production », il manque une chose que l'industrie logicielle connaît depuis toujours : la recette.

Nous avions posé la question dans un précédent article : comment prouver que ces vingt tours étaient justes ? Voici la réponse opérationnelle — les cinq portes de recette que nos propres pipelines (contenu, publication, données) franchissent avant que quoi que ce soit ne parte en ligne. Aucune n'est théorique ; toutes tournent chez nous.

À retenir

Un système qui boucle n'est pas un système fiable ; entre les deux, il faut une recette explicite.
Cinq portes : le déterministe d'abord ; le générateur séparé du réceptionnaire ; des jeux d'évaluation par domaine ; des actions classées réversibles ou irréversibles ; la signature humaine là où la légitimité l'exige.
Le coût : 10 à 20 % du temps de pipeline. Le gain : un « c'est fait » qui veut dire quelque chose.

Porte 1 : le déterministe d'abord

Tout ce qu'un test, un compilateur, un linter ou une règle peut trancher ne se confie jamais à un autre modèle. C'est la porte la moins chère et la plus fiable : un vérificateur de liens, un contrôle de cohérence de prix, un validateur de schéma, un compteur de caractères — du code, avec un code de sortie qui bloque le pipeline en cas d'échec.

Le signal industriel est le même : SWE-bench, le benchmark des agents de code, est passé de moins de 10 % à plus de 80 % en un an — mais ce qui a changé le métier, c'est le mot Verified : le résultat est confirmé juste par un standard externe, pas par l'agent lui-même. Chez nous, la règle s'énonce simplement : jamais un LLM comme juge de ce qu'une machine peut trancher.

Porte 2 : le générateur n'est pas le réceptionnaire

L'erreur favorite d'un agent n'est pas la panne, c'est de crier victoire trop tôt : un correctif plausible, un rapport bien tourné, « c'est réglé » — et le chemin critique n'a jamais été testé. Un générateur aime sa propre sortie ; le laisser se noter, c'est organiser le conflit d'intérêts.

Notre architecture sépare donc les deux rôles : l'agent qui rédige n'est jamais celui qui valide. La réception tourne dans des sous-agents isolés, avec leur propre contexte, qui ne renvoient qu'un verdict — jamais leurs états intermédiaires. Le fil principal reste propre, et le verdict n'est pas contaminé par l'enthousiasme du rédacteur.

Porte 3 : des jeux d'évaluation par domaine

Comment savoir qu'un changement de prompt ou de modèle n'a rien cassé ? Comme en logiciel : avec des tests de régression. Un jeu d'évaluation, c'est 30 à 100 cas au résultat connu, propres à chaque domaine — conformité d'un contenu, extraction d'une donnée, correction d'un code. On l'exécute avant chaque changement ; la dérive se voit en chiffres, pas en impressions.

Pour le contenu, nous étageons la recette en quatre niveaux : les faits (les affirmations chiffrées sont-elles justes ?), les liens (résolvent-ils ?), la conformité (mentions et interdits du domaine), le ton de marque (pas d'emoji, la prose avant les puces, les chiffres avant les adjectifs). Un texte ne se publie que les quatre niveaux franchis.

Porte 4 : classer les actions — réversible ou irréversible

Toutes les actions d'un agent ne se valent pas. Écrire un brouillon est réversible ; publier sous le nom de la marque ne l'est pas. Écrire en staging est réversible ; toucher la base de production ne l'est pas. Notre règle : l'agent avance librement sur le réversible ; l'irréversible passe une porte — permission d'outil restreinte, coupe-circuit budgétaire, ou validation explicite.

C'est la gouvernance d'exécution en miniature : la boucle donne à l'agent le pouvoir d'agir, la classification lui donne des bornes. La plupart des accidents d'agents que l'on nous rapporte tiennent à l'absence de cette porte — pas à la faiblesse du modèle.

Porte 5 : la signature humaine, là où la légitimité l'exige

Certains domaines gardent un humain dans la boucle quelle que soit la qualité du modèle : santé, finance, juridique — parce que la loi et la responsabilité exigent quelqu'un qui signe. Et au-delà du réglementaire, tout ce qui sort publiquement sous le nom de l'entreprise mérite une relecture humaine finale, au moins au début ; l'échantillonnage se substitue progressivement à la relecture systématique à mesure que les jeux d'évaluation accumulent la confiance — jamais sur ce qui touche à la conformité.

Cette porte n'est pas un aveu de faiblesse technique. C'est une question de légitimité : un agent peut être exact et ne pas être autorisé.

Ce que ça change

Les cinq portes coûtent 10 à 20 % du temps de pipeline. En échange, « c'est fait » repose sur des tests, des verdicts indépendants, des chiffres de régression et des bornes d'action — pas sur l'auto-déclaration d'un système qui aime conclure. Notre conviction, déjà posée ailleurs, se vérifie ici concrètement : la boucle est une commodité, le vérificateur est la douve. Les modèles rendront la boucle toujours moins chère ; la recette, elle, reste votre travail.

FAQ

Faut-il tout recetter à 100 % ? Non. Classez par risque : l'irréversible et la conformité se recettent à 100 % ; le réversible à faible enjeu s'échantillonne. La porte 4 sert précisément à établir ce tri.

Un LLM peut-il servir de juge ? Oui, pour ce qu'aucun test ne tranche — le ton, la clarté — à condition d'être un agent séparé, muni d'un barème explicite. Jamais pour ce qu'une machine peut vérifier.

Par où commencer ? Inventoriez les sorties de vos agents, classez-les réversible/irréversible, puis posez la porte 1 cette semaine : les contrôles déterministes sont les moins chers et rapportent immédiatement.

ECTIME AI Lab est l'unité de recherche et de déploiement en IA appliquée du groupe ECTIME. Nous construisons, livrons et éprouvons des systèmes agentiques en production, de l'automatisation GEO/SEO aux agents autonomes multi-étapes. Nous maintenons des Claude Skills open source pour le GEO/SEO et accompagnons les marques européennes vers une IA non seulement autonome, mais vérifiable et autorisée.