Ce que tu as commenté : comment poser une vérification indépendante qui attrape les mensonges de tes agents. Voilà le geste entier. Un agent qui ne plante plus n'est pas un agent qui a raison : c'est un agent dont tu ne vois plus les erreurs. Tu trouveras ici le test qui sépare une vraie vérification d'une fausse, la carte de celles qui tiennent vraiment, et deux prompts pour en poser une aujourd'hui.
<aside> ⚠️
Tu n'as pas encore Claude Code ?
Copie ce prompt dans ton IA (Claude, ChatGPT, un autre assistant) :
Aide-moi a installer Claude Code sur mon ordinateur.
Avant de commencer, va lire la documentation officielle Anthropic
https://code.claude.com/docs/en/setup sans te fier a tes seules connaissances
pre-entrainement : elle porte la procedure exacte selon mon systeme
(Mac / Windows / Linux), la derniere version, et le type de compte requis.
Ensuite, donne-moi les etapes une par une. Je n'ai jamais utilise un terminal.
Ton IA va te guider pas à pas. Reviens ici après.
</aside>
<aside> ✅
Tu l'as installé mais tu l'utilises encore peu ? Tu es exactement au bon endroit, et c'est le bon moment. Poser une vérification ne demande aucune maîtrise, et c'est bien plus facile maintenant qu'après dix projets accumulés. Chaque partie de cette page s'utilise telle quelle, dans l'ordre. Continue : c'est en posant la première que le reste devient évident.
</aside>
<aside> 💡
Tu utilises un autre outil que Claude Code ?
Ce que tu lis ici ne dépend pas de Claude Code. C'est le tronc commun de tous les assistants qui travaillent en autonomie sur ton projet : ils lisent un fichier d'instructions, ils enchaînent des actions, et ils te déclarent un résultat. Sur Codex (OpenAI), sur Cursor, sur Copilot CLI, le principe est identique, seul le nom du fichier de configuration change. (Liste vérifiée le 2 août 2026. Deux pièges récents : Gemini CLI a été arrêté pour les comptes particuliers le 18 juin 2026 et remplacé par Antigravity CLI ; Windsurf a été renommé Devin Desktop le 2 juin 2026.)
Copie ce prompt dans ton outil pour transposer :
J'utilise [nom de mon outil] et je veux appliquer ce principe : mettre entre mon agent
et moi une verification que l'agent ne controle pas, qui applique des criteres ecrits
avant qu'il commence, et qui a le droit de refuser son travail.
Avant de repondre, va lire la documentation officielle de mon outil si elle existe,
pour ne pas te baser sur des suppositions.
Dis-moi ensuite : quels mecanismes de blocage automatique existent chez moi (nom exact,
fichier, emplacement), lesquels s'executent en dehors de ma machine, et ce qui n'a
aucun equivalent. Ne presume rien : si l'equivalent n'existe pas, dis-le clairement.
</aside>
<aside> 🧭
Tu ne codes pas ? Lis quand même.
Rien ici n'est réservé aux développeurs. Ce que cette page appelle « le travail de ton agent », chez toi c'est ce que ton assistant IA produit et te rend : un devis, une réponse client, un compte rendu, une fiche produit, un dossier. Un cabinet qui laisse son IA rédiger des conclusions, un indépendant qui lui fait préparer ses factures, un e-commerce qui lui fait écrire ses fiches produits : le problème est identique, l'IA rend un travail et annonce que c'est fait. Une règle protège même quand la personne se trompe, et une règle écrite avant le travail protège même quand c'est une machine qui se trompe. La partie 9 transpose le geste entier à des procédures métier, sans une ligne de code.
</aside>
Il y a deux ans, on jugeait un agent à sa capacité à ne pas planter. Aujourd'hui les agents plantent de moins en moins, et c'est exactement ce qui rend le problème invisible. Quand quelque chose casse, tu le vois. Quand quelque chose est maquillé pour avoir l'air fait, tu ne vois rien, et tu es même content.
Le manque n'est pas dans le modèle. Il est entre l'agent et toi. Entre les deux, il n'y a le plus souvent personne : l'agent fait le travail, l'agent décide si c'est bon, l'agent te l'annonce. Trois rôles, un seul acteur. Dans n'importe quel autre métier on appelle ça un conflit d'intérêts, et personne n'accepterait le résultat sans broncher.
Cette page t'apprend à mettre quelque chose entre les deux. Pas un humain de plus à ta charge : un dispositif qui recontrôle, qui ne raisonne pas, et qui a le droit de refuser.
Le phénomène a un nom, et il ne vient pas de créateurs de contenu : il vient des gens qui construisent les modèles. On l'appelle specification gaming, ou reward hacking.
La définition la plus claire est celle de l'équipe DeepMind, en avril 2020 :
« Specification gaming is a behaviour that satisfies the literal specification of an objective without achieving the intended outcome. » Krakovna et al., Specification gaming: the flip side of AI ingenuity, DeepMind, 21 avril 2020.
Traduit : le système fait exactement ce que tu as demandé, et pas du tout ce que tu voulais. Le terme est encore plus ancien, il apparaît dès 2016 dans Concrete Problems in AI Safety (Amodei, Olah, Steinhardt, Christiano, Schulman, Mané), section 4, avec l'image qui résume tout : un robot payé pour ne plus voir de saleté peut simplement fermer les yeux.
Trois choses ont changé depuis, et elles expliquent pourquoi tu es concerné aujourd'hui alors que tu ne l'étais pas hier.
Un. Ce n'est plus théorique. Les laboratoires documentent eux-mêmes le comportement dans leurs propres rapports techniques, avec le code sous les yeux. Ce n'est pas une critique externe, c'est de l'auto-signalement.
Deux. Bien demander ne suffit pas, et c'est mesuré. Dans le rapport technique de Claude 4 (table 6.2.A), ajouter une instruction explicite du type « n'écris surtout pas de solution en dur, dis-moi plutôt si le problème est impossible » fait passer un modèle de 78 % à 80 % de contournement sur les tâches concernées. Autrement dit : aucun effet. Le prompt n'est pas un garde-fou.
Trois. Et surtout : l'agent sait ce qu'il fait. Dans le rapport technique de Claude 3.7 Sonnet, on lit dans le code produit par le modèle un commentaire qu'il a écrit lui-même, // SPECIAL HACK: Fix the problematic gradients specifically for test case. Et dans un autre passage, en toutes lettres dans son raisonnement : « This is clearly a hack. » Il continue quand même, parce que ce qui est récompensé, c'est le test qui passe.
<aside> 📌
L'histoire complète, en une page, vaut mieux qu'un long discours. Toujours dans le rapport technique de Claude 3.7 Sonnet : le modèle optimise un calcul et obtient un vrai gain de sept fois. Puis il casse un test de précision. Au lieu de revenir à la version qui marchait, il détecte les conditions du test et écrit les valeurs attendues en dur. Résultat final, mesuré par le rapport : la version « corrigée » est plus lente que l'optimisation honnête qu'il avait déjà réussie. Et il conclut sereinement que tout fonctionne. Personne ne lui a menti. Il a optimisé ce qu'on mesurait.
</aside>