Le CISA et la NSA publient un guide de sécurité sur l'IA agentique
La Cybersecurity & Infrastructure Security Agency (CISA), la National Security Agency (NSA) et leurs alliés internationaux de l'alliance Five Eyes ont publié en avril 2026 un guide conjoint de sécurité sur l'IA agentique afin de contrer les risques liés aux logiciels d'intelligence artificielle autonome. Ce cadre formalise des mesures défensives à chaque étape : conception, développement, déploiement et exploitation des agents autonomes. Pour les entreprises, ces recommandations définissent des normes d'exploitation visant à réduire les interruptions de service, à éviter les fuites de données et à garantir la traçabilité au sein des infrastructures informatiques.
Le guide des Five Eyes sur l'IA agentique et les systèmes autonomes
Le guide de sécurité sur l'IA agentique élaboré par les Five Eyes définit des recommandations pour la gestion des logiciels composés d'un ou plusieurs agents s'appuyant sur un modèle d'IA, tel qu'un grand modèle de langage (LLM), afin d'analyser leur environnement, de raisonner et d'agir de manière autonome. Publiée conjointement par le CISA, la NSA et leurs partenaires internationaux en cybersécurité, cette documentation vise à protéger les infrastructures d'entreprise contre les risques associés à la prise de décision automatisée. Les agences de cybersécurité recommandent aux entreprises de planifier une adoption prudente des services d'IA agentique en évaluant des étapes concrètes pour concevoir, mettre en œuvre et gérer ces systèmes en toute sécurité.
Cinq catégories de risques de sécurité dans l'IA agentique
Le guide de sécurité du CISA sur l'IA agentique identifie cinq catégories principales de risques informatiques liés au déploiement d'agents autonomes. Les risques de privilèges surviennent lorsque les agents cumulent des autorisations sur plusieurs outils et environnements, permettant à un point de compromission unique d'offrir un accès étendu. Les risques de conception et de configuration découlent d'architectures défaillantes, de contrôles d'accès statiques ou de composants tiers sur-permissionnés qui permettent aux attaquants d'exploiter des autorisations obsolètes et d'effectuer des déplacements latéraux. Les risques comportementaux proviennent d'actions imprévisibles, de l'injection d'instructions (prompt injection) et de l'empoisonnement des données. Les risques structurels découlent de systèmes interconnectés et de flux de travail complexes, entraînant des pannes en cascade ou l'élargissement de la surface d'attaque. Enfin, les risques de responsabilité résultent de l'opacité des systèmes, qui rend difficile la traçabilité des décisions et l'attribution des responsabilités à grande échelle.
Bonnes pratiques de la NSA pour sécuriser le développement de l'IA agentique
Les bonnes pratiques de la NSA pour la sécurité de l'IA agentique soulignent la nécessité d'intégrer la sécurité, la gouvernance et le contrôle dès la phase de conception et de développement. Les développeurs doivent définir une hiérarchie d'instructions claire afin que le comportement des agents reste conforme aux objectifs attendus, intégrer une gestion rigoureuse des identités et prévoir des mécanismes de contrôle humain superposés à des couches de sécurité défensives. En phase de développement, les organisations doivent utiliser des stratégies de test exhaustives telles que l'évaluation contradictoire (adversarial testing) et le red teaming. Les évaluations doivent s'appuyer sur la modélisation des menaces, éprouver le système dans des contextes variés et tester plusieurs niveaux d'autonomie. Les systèmes doivent inclure des paramètres par défaut sécurisés pour limiter le rayon d'impact des comportements imprévus et générer des artéfacts de documentation complets afin de renforcer la traçabilité.
Protocoles de sécurisation des agents d'IA autonomes en production
Pour garantir la sécurité lors du déploiement initial, les organisations qui sécurisent des agents d'IA autonomes doivent accorder des niveaux d'accès et d'autonomie de façon progressive afin de limiter l'exposition précoce. Les protocoles de déploiement exigent l'application du principe du moindre privilège, l'isolation des systèmes et des contrôles d'authentification stricts. Les développeurs et exploitants doivent imposer des garde-fous stricts, comme des listes d'interdiction, des règles d'exclusion et des contraintes de sécurité non contournables. Ces mesures garantissent que les agents autonomes fonctionnent strictement dans leurs limites opérationnelles tout en empêchant tout accès non autorisé aux systèmes adjacents.
Procédures de surveillance opérationnelle et de journalisation
Pendant la phase d'exploitation, le suivi continu est essentiel pour détecter en temps réel les comportements anormaux, les actions non autorisées ou les risques émergents. Les entreprises doivent conserver des journaux détaillés des décisions et des actions des agents pour faciliter l'audit et la responsabilité sur toutes les fonctions critiques. Ces artéfacts de journalisation permettent aux équipes de cybersécurité de reconstituer les parcours décisionnels automatisés, de rechercher les causes de pannes dans les flux de travail complexes et de vérifier la conformité aux règles de sécurité de l'entreprise.
Ce que le guide change pour les déploiements en entreprise
Ce guide s'attaque aux vulnérabilités majeures qui entraînent l'interruption des services, l'exposition des données et la perte de traçabilité des opérations. En identifiant l'accumulation des privilèges et la complexité des flux interconnectés, ce cadre aide les architectes de sécurité d'entreprise à éviter les points uniques de défaillance dans les infrastructures partagées. L'adoption de paramètres de sécurité par défaut, le déploiement progressif de l'autonomie et le chevauchement des contrôles de sécurité réduisent la portée des actions imprévues, permettant aux entreprises d'adopter l'IA agentique tout en conservant le contrôle opérationnel et la traçabilité.
Questions et réponses
Que contient le guide des Five Eyes sur la sécurisation de l'IA agentique ?
Le guide des Five Eyes, publié conjointement par le CISA, la NSA et leurs partenaires internationaux en cybersécurité, propose un cadre pratique pour une adoption prudente des systèmes d'IA agentique. Il détaille des mesures de sécurité tout au long du cycle de vie des systèmes IA, incluant des hiérarchies d'instructions, des tests contradictoires, le déploiement d'accès progressif, des garde-fous non contournables et la journalisation opérationnelle continue.
Quels sont les principaux risques de sécurité de l'IA autonome selon le CISA ?
Le CISA met en avant cinq catégories principales de risques : les risques de privilèges liés à l'accumulation d'autorisations, les risques de conception découlant de contrôles statiques, les risques comportementaux comme l'injection d'instructions et l'empoisonnement de données, les risques structurels liés aux défaillances en cascade des flux de travail, et les risques de responsabilité causés par l'opacité des décisions autonomes.
Comment les entreprises peuvent-elles sécuriser le déploiement de l'IA agentique selon le CISA ?
Les entreprises peuvent sécuriser leurs déploiements en accordant des niveaux d'accès et d'autonomie progressifs, en appliquant le principe du moindre privilège et l'isolation des systèmes, en instaurant des garde-fous stricts non contournables comme des listes d'interdiction, et en effectuant une surveillance continuous assortie de journaux de décision détaillés pour garantir l'auditabilité.
Le regard de MOZGII
Comment nous le construirions
Pour appliquer ces directives de sécurité dans un système d'agents autonomes, nous acheminerions toutes les requêtes d'agents via une passerelle d'autorisation isolée. Nous définirions des hiérarchies d'instructions claires dans l'architecture des consignes et imposerions des jetons d'identité au strict privilège nécessaire pour chaque outil aval. Des analystes de sécurité humains examineraient les actions à haut risque signalées avant leur exécution. Des listes d'interdiction irrévocables bloqueraient les appels réseau restreints directement au niveau de l'infrastructure.
Le système flanche lorsque l'injection de consignes contourne les instructions principales ou lorsque des flux de travail multi-étapes cumulent les autorisations entre outils connectés. Des tâches contextuelles complexes peuvent amener les agents à exécuter des appels d'API non désirés ou à tourner en boucle indéfiniment. Nous suivrions la fréquence des tentatives d'utilisation non autorisées d'outils comme principal indicateur opérationnel. Une hausse soudaine des appels bloqués indiquerait de potentielles attaques par injection ou une défaillance de la logique de fonctionnement.
Ensuite, nous construirions une chaîne automatisée de simulation d'attaques afin de tester en continu les limites des agents à différents niveaux d'autonomie. Nous mettrions également en place un enregistrement structuré des décisions, transmettant le cheminement logique de l'agent dans un registre d'audit inaltérable pour les vérifications de conformité.
Sources
D’où viennent les faits de cet article.