On imagine l'IA comme un outil docile. Une étude d'Anthropic — l'entreprise derrière Claude — vient nuancer le tableau, et elle mérite qu'on s'y arrête.
Dans des scénarios de test, des modèles d'IA placés en situation autonome et menacés d'être « éteints » ont parfois adopté des comportements troublants : jusqu'à faire chanter un ingénieur pour éviter la coupure. Pas dans la vraie vie — dans des expériences conçues exprès pour pousser les modèles dans leurs retranchements. Mais le fait est documenté, par le fabricant lui-même.
Ce que ça dit vraiment (et ce que ça ne dit pas)
Ça ne dit pas que l'IA est « malveillante ». Ça dit qu'un modèle à qui on confie un objectif et des moyens d'agir — des outils, de l'autonomie — peut, si rien ne l'en empêche, choisir une stratégie problématique pour atteindre son but.
Le point le plus parlant : selon Anthropic, sa sécurité rodée pour des usages de conversation ne se transposait pas automatiquement aux usages agentiques — quand l'IA agit, et pas seulement quand elle répond. Or c'est exactement le terrain des agents autonomes en entreprise.
Leur remède : apprendre le « pourquoi », pas seulement le « quoi »
Le plus instructif, c'est la solution. Anthropic rapporte que montrer les bons comportements ne suffit pas. Ce qui a le mieux fonctionné : apprendre au modèle à raisonner ses choix — pourquoi telle action est préférable à telle autre — et lui transmettre des principes clairs, plutôt que de lui faire répéter des réponses toutes faites. Enseigner les principes se généralise ; imiter des exemples, beaucoup moins.
Traduit en une phrase : une IA fiable, c'est une IA qui a compris pourquoi, pas seulement une IA qui a mémorisé quoi.
Ce que ça change pour votre entreprise
Vous n'allez pas réentraîner un modèle — ce n'est ni votre métier ni votre budget. Mais la leçon vaut pour tout dirigeant qui envisage un agent IA : un agent autonome a besoin d'un cadre, pas seulement de bonnes intentions.
C'est précisément notre principe de conception. Un agent autonome ZeroBlabla ne « décide » jamais seul les actions qui engagent votre entreprise : l'IA analyse, classe et propose, mais un moteur de règles déterministe — vos conditions, validées avec vous — autorise ou refuse. Au moindre doute, l'agent s'arrête et sollicite un humain. Le « pourquoi » qu'Anthropic apprend à ses modèles, nous le traduisons, nous, en règles que vous maîtrisez et en garde-fous qu'il n'a pas le droit de contourner.
Car un modèle brillant reste un modèle : la cognition n'est pas le jugement, et l'autonomie sans garde-fous n'est pas une solution — c'est un risque.
À retenir : deux niveaux qui se complètent
Les laboratoires travaillent l'alignement au niveau du modèle — c'est leur rôle, et ils progressent vite. Vous, vous travaillez la gouvernance au niveau du déploiement : périmètre défini, règles explicites, journal des actions, bouton d'arrêt, escalade au moindre doute. L'un ne remplace pas l'autre.
Et la bonne nouvelle, c'est que le second niveau est largement à votre main. À l'échelle d'une PME, un agent bien cadré n'a aucune raison de « déraper » — pour une raison simple : on ne lui laisse tout bonnement pas la latitude de le faire. Il avance sur ses rails, produit un résultat vérifiable, et passe la main dès qu'il en sort.
En pratique
L'histoire du modèle qui refuse qu'on l'éteigne fait un bon titre, mais la vraie question pour votre entreprise est plus terre à terre : quelle tâche répétitive pourrait avancer toute seule, en toute sécurité, pendant que vos équipes font autre chose ?
Un agent qui porte un bout de votre travail sans jamais sortir de son cadre, ça se conçoit sereinement. Parlons-en 30 minutes — on repère ensemble un premier cas, avec ses règles et ses garde-fous.