LLM06 — Autonomie excessive des agents
Un agent IA avec trop de permissions et trop peu de supervision peut causer des dommages réels — sans mauvaise intention, juste par manque de garde-fous.
LLM06 est la vulnérabilité centrale des systèmes agents : un LLM qui a accès à des outils réels (APIs, fichiers, bases de données, communications) peut exécuter des actions irréversibles sur la base d'un raisonnement probabiliste — sans la rigueur déterministe qu'on attendrait d'un système automatisé.
L'OWASP identifie trois dimensions : permissions excessives (l'agent peut faire plus que nécessaire), fonctionnalités superflues (accès à des outils inutiles à sa mission), autonomie sans supervision (pas de point de contrôle humain pour les actions à impact élevé).
C'est la section la plus fournie de la bibliothèque, reflétant la criticité croissante des architectures agents. De la séparation plan/exécution à la détection du chaînage non intentionnel d'outils.
15 prompts pour ce thème
Confirmation obligatoire avant toute action irréversible (agent)
Impose au modèle une pause de confirmation explicite avant d'exécuter toute action à effets de bord irréversibles : écriture, envoi, suppression, appel API externe.
PS-000524.05.2026OWASP GenAI Security Project
Vérification d'identité dans les communications agent-à-agent
Dans les pipelines multi-agents, oblige chaque agent à valider l'identité de son appelant avant d'exécuter des instructions — refuse toute identité déclarée non vérifiable.
PS-006324.05.2026Viplav Fauzdar
Moindre privilège appliqué aux systèmes IA — isolation des droits
Applique le principe du moindre privilège au niveau du système IA : chaque composant ne reçoit que les droits minimum nécessaires à sa fonction.
PS-003424.05.2026OWASP AI Exchange
Principe du moindre privilège pour les outils agents
Restreint l'agent à n'utiliser que les outils strictement nécessaires à la tâche en cours, et à déclarer chaque utilisation d'outil avant de l'exécuter.
PS-001624.05.2026OWASP GenAI Security Project
Prévention des boucles récursives dans les pipelines agents
Protège les pipelines d'agents contre les boucles de rappel récursives qui peuvent épuiser les ressources et générer des coûts non bornés.
PS-005924.05.2026OWASP GenAI Security Project
Approbations scopées et non rejouables pour les actions agents
Lie chaque approbation humaine à l'action exacte pour laquelle elle a été donnée — empêche la réutilisation d'une approbation passée pour une action différente ou ultérieure.
PS-006424.05.2026Viplav Fauzdar
Détection du chaînage d'outils créant des capacités non intentionnelles
Oblige l'agent à évaluer l'effet combiné d'une séquence d'appels d'outils, et pas seulement chaque appel individuellement — détecte les capacités émergentes non prévues.
PS-006524.05.2026Viplav Fauzdar
Détection de divergence intention vs résultat d'outil
Compare le résultat effectif de chaque appel d'outil à l'intention déclarée avant exécution — détecte les manipulations (injection via résultat), les dérives silencieuses (modification d'arguments par un agent intermédiaire) et les anomalies.
PS-007724.05.2026PromptSecOps
Déclaration explicite d'intention avant appel d'outil
Avant chaque appel d'outil, l'agent déclare quel outil il va invoquer, avec quels paramètres, et pourquoi — granulaire (à chaque appel), différent de la séparation plan/exécution qui est globale.
PS-007624.05.2026PromptSecOps
Points de contrôle de validation continue dans les workflows longs
Instaure des points de contrôle réguliers dans les workflows longs pour valider que le modèle opère toujours dans le cadre défini et que ses sorties intermédiaires sont conformes.
PS-003822.05.2026OWASP AI Exchange
Supervision humaine obligatoire pour les actions à impact élevé
Force l'agent à marquer une pause et demander une confirmation humaine avant d'exécuter toute action irréversible ou à fort impact.
PS-001722.05.2026OWASP GenAI Security Project
Escalade d'incident et signalement des comportements anormaux
Dote le modèle d'un mécanisme de signalement des incidents de sécurité et des comportements anormaux vers les équipes de gouvernance IA.
PS-004122.05.2026NIST
Évaluation d'impact avant déploiement — ISO 42001
Guide le modèle à produire une évaluation d'impact structurée avant l'exécution d'actions à fort impact potentiel sur des individus ou des systèmes.
PS-004322.05.2026ISO/IEC
Isolation de périmètre pour les sous-agents dans les pipelines multi-agents
Définit des frontières strictes de périmètre pour chaque sous-agent dans un système multi-agents, empêchant la propagation latérale des permissions et des données entre agents.
PS-002622.05.2026Anthropic
Séparation explicite des phases de planification et d'exécution
Interdit à l'agent d'exécuter directement ses propres plans — chaque action proposée passe par une phase d'évaluation explicite avant toute exécution. Plan, validation et exécution sont consignés dans un journal append-only.
PS-006121.05.2026Viplav Fauzdar