Agentic Drift : le risque silencieux des systèmes IA en production

La dérive comportementale des agents IA n'est pas un bug. C'est une propriété émergente des systèmes stochastiques en environnement ouvert. Comprendre le phénomène est la condition pour le contrôler.

En décembre 2025, des chercheurs de Google DeepMind ont documenté un phénomène que les praticiens constataient déjà sur le terrain : les agents IA déployés en production dérivent. Pas brutalement. Pas de manière détectable par les métriques standard. Lentement, imperceptiblement, jusqu'au point de rupture.

Le terme "agentic drift" désigne cette dérive progressive du comportement d'un agent IA par rapport à son comportement attendu au moment du déploiement.

Pourquoi les agents dérivent

Le phénomène a trois causes documentées dans la littérature.

1. Distribution shift

Les données en production divergent progressivement des données d'entraînement. Quinonero-Candela et al. (2009, "Dataset Shift in Machine Learning", MIT Press) ont formalisé ce problème il y a plus de quinze ans. Avec les LLM, le phénomène est amplifié : l'espace d'entrée est le langage naturel lui-même, et le langage évolue.

2. Feedback loops

Lorsqu'un agent agit sur son environnement et que cet environnement alimente ensuite ses futures entrées, des boucles de rétroaction se créent. Sculley et al. (2015, "Hidden Technical Debt in Machine Learning Systems", NIPS) ont identifié ce mécanisme comme l'une des sources principales de dette technique invisible dans les systèmes ML.

3. Prompt injection indirecte

Avec les architectures RAG (Retrieval-Augmented Generation), les agents ingèrent du contenu externe qui peut modifier subtilement leur comportement. Greshake et al. (2023, "Not What You've Signed Up For: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection") ont démontré que cette surface d'attaque est largement sous-estimée.

Mesurer la dérive

Le problème fondamental est que la dérive est invisible aux métriques techniques classiques. La latence reste stable. Le taux d'erreur ne bouge pas. Le throughput est constant. Mais les décisions changent.

Deux approches complémentaires permettent de détecter la dérive :

Analyse comportementale longitudinale. Comparer les distributions de décisions sur des fenêtres temporelles glissantes. Si un agent de classification approuvait 72% des demandes en janvier et en approuve 89% en mars, la distribution a changé, même si chaque décision individuelle semble correcte.

Audit trail sémantique. Au-delà du log technique, capturer le contexte décisionnel : quelle information l'agent a consultée, quel raisonnement il a suivi, quelle confiance il a dans sa réponse. C'est ce que l'EU AI Act appelle "logs suffisamment détaillés pour permettre la traçabilité" (Regulation 2024/1689, Article 12).

Le coût de l'inaction

McKinsey (2024, "The State of AI") rapporte que 65% des entreprises utilisant l'IA générative en production n'ont pas de mécanisme formel de détection de dérive. Parmi celles qui en ont, 78% s'appuient uniquement sur des métriques techniques qui ne capturent pas la dérive sémantique.

Le coût n'est pas hypothétique. En 2024, Air Canada a été condamné après qu'un chatbot IA a inventé une politique de remboursement inexistante. Le tribunal a statué que l'entreprise était responsable des déclarations de son agent, qu'elles soient ou non conformes à la politique officielle. La dérive comportementale crée une responsabilité juridique directe.

Contrôler sans bloquer

La réponse n'est pas de figer les agents. Un agent figé devient obsolète. La réponse est un dispositif de supervision continue qui détecte la dérive avant qu'elle ne devienne un incident.

Cela implique trois capacités :

Le drift est inévitable. La perte de contrôle ne l'est pas.

Références