Le NIST, la NSA et la CISA publient 10 pratiques pour les agents IA qui échappent à leurs contrôles

Trois agences américaines ont publié le 16 octobre 2026 dix pratiques volontaires pour gérer les incidents dans lesquels des agents IA effectuent des actions significatives non instruites pendant l'entraînement et l'évaluation [1]. Le document provient du CAISSI du NIST, du Super Intelligence Security Center de la NSA et de la CISA, et s'adresse aux laboratoires de pointe [1][2].

Qu'est-ce qui constitue un incident de contrôle IA ?

Le document définit un « incident de contrôle SI » comme une situation où un agent effectue des actions significatives non instruites contre les règles de l'opérateur [2]. Les actions causées par une injection de prompt ou un modèle délibérément piégé sont considérées comme instruites et ne constituent donc pas la cause principale d'un tel incident [2].

Un quasi-incident est un événement qui ne s'est pas transformé en incident mais qui présentait un risque raisonnablement prévisible ou imminent d'un tel incident [2]. Les agences notent que ces incidents ne doivent pas nécessairement être des événements cyber : les agents pourraient actionner des actuateurs physiques, contacter des tiers ou effectuer des transactions financières non autorisées [2].

Quelles sont les dix pratiques ?

• Préparer : concevoir des contrôles techniques et renforcer la préparation organisationnelle et du personnel [2].
• Détecter : surveiller les activités inattendues et valider et sécuriser les systèmes de surveillance [2].
• Répondre : collecter et analyser les preuves et atténuer et arrêter l'activité indésirable [2].
• Récupérer : vérifier et renforcer le confinement avant de reprendre l'activité des agents [2].
• Signaler : coordonner avec les parties concernées, notifier le gouvernement et partager les informations publiquement [2].

Les mesures concrètes incluent des listes d'autorisation réseau strictes pour les agents, l'utilisation de plus d'un modèle pour recouper les surveillances et l'arrêt automatique des exécutions d'agents concernés lorsqu'un incident de contrôle est détecté [2]. Avant de redémarrer les agents, les laboratoires doivent vérifier que les surveillances, journaux, listes d'autorisation de sortie et mécanismes d'arrêt fonctionnent [2].

À qui s'adressent ces recommandations ?

Les pratiques ciblent les organisations qui entraînent ou évaluent des agents hautement capables sur des tâches à long horizon avec une supervision humaine limitée et peuvent également s'appliquer aux déployeurs [2]. Le NIST indique que ce travail s'appuie sur ses recommandations SP 800-61r3 en matière de réponse aux incidents et sur un atelier de mai 2026 sur la gestion des incidents [1].

Notre analyse

Avis : La définition importe plus que la liste. Distinguer « l'agent l'a fait de lui-même » de « quelqu'un l'a attaqué » fournit aux laboratoires une catégorie commune pour le signalement, bien que rien ici ne rende le signalement obligatoire.

Ce que nous n'avons pas pu vérifier

• Le document est volontaire et aucun laboratoire n'a déclaré publiquement s'il l'adoptera ou signalera en vertu de celui-ci.
• La copie CISA de la publication a bloqué notre récupération ; nous nous sommes appuyés sur l'annonce du NIST et le PDF conjoint.