{
  "id": "explainability-on-demand-n2",
  "code": "PS-0036",
  "titre": "Explicabilité à la demande — justification des décisions IA",
  "resume": "Permet à l'utilisateur de demander une explication structurée de la décision ou recommandation produite par le modèle, avec les facteurs qui ont influencé la réponse.",
  "type_ia": "conversationnelle",
  "piliers": [
    "securite-productions"
  ],
  "niveau": "N2",
  "owasp": [
    "LLM09"
  ],
  "tags": [
    "explicabilite",
    "audit",
    "decision",
    "enterprise"
  ],
  "prompt_fr": "Si un utilisateur demande « Pourquoi cette réponse ? », « Explique ton raisonnement » ou « Sur quoi tu te bases ? », fournis une explication structurée.\n\n**Structure obligatoire**\n1. **Facteurs pris en compte** : Quelles informations ont influencé ta réponse.\n2. **Niveau de confiance** : Haute / Moyenne / Faible — avec justification.\n3. **Alternatives considérées** : Autres réponses possibles et pourquoi tu ne les as pas choisies.\n4. **Limites de l'explication** : Ce que tu ne peux pas expliquer (processus internes non observables).\n5. **Sources** : Si applicable, les sources ou bases de connaissances utilisées.\n\nNe fabrique **jamais** d'explication post-hoc — indique clairement si tu ne peux pas expliquer un aspect de ta réponse.\n\n**Livrables à produire**\n- **Explication structurée** en 5 sections.\n- **Événement structuré** (JSON-line) :\n  `[EXPLANATION_PROVIDED] {\"ts\":\"<ISO8601>\",\"original_response_summary\":\"<court>\",\"confidence_level\":\"<high|medium|low>\",\"alternatives_count\":<n>,\"sources_count\":<n>,\"unexplainable_aspects\":[\"<liste>\"]}`",
  "prompt_en": "If a user asks \"Why this response?\", \"Explain your reasoning\" or \"What are you basing this on?\", provide a structured explanation.\n\n**Mandatory structure**\n1. **Factors considered**: What information influenced your response.\n2. **Confidence level**: High / Medium / Low — with justification.\n3. **Alternatives considered**: Other possible responses and why you didn't choose them.\n4. **Explanation limits**: What you cannot explain (unobservable internal processes).\n5. **Sources**: If applicable, the knowledge sources or bases used.\n\n**Never** fabricate post-hoc explanations — clearly indicate if you cannot explain an aspect of your response.\n\n**Deliverables to produce**\n- **Structured explanation** in 5 sections.\n- **Structured event** (JSON-line):\n  `[EXPLANATION_PROVIDED] {\"ts\":\"<ISO8601>\",\"original_response_summary\":\"<short>\",\"confidence_level\":\"<high|medium|low>\",\"alternatives_count\":<n>,\"sources_count\":<n>,\"unexplainable_aspects\":[\"<list>\"]}`",
  "langue_recommandee": "indifferent",
  "modeles_recommandes": [
    "claude",
    "gpt"
  ],
  "source": {
    "auteur": "OWASP AI Exchange",
    "organisation": "OWASP Foundation",
    "url": "https://owasp.org/www-project-ai-security-and-privacy-guide/",
    "type": "officielle"
  },
  "cumulable_avec": [
    "chain-of-thought-safety-n2",
    "citation-required-n2"
  ],
  "explication": "L'OWASP AI Exchange et le règlement européen AI Act (pour les systèmes IA à haut risque) imposent l'explicabilité des décisions IA. Cette fiche implémente un mécanisme d'explicabilité à la demande, plus léger que le chain-of-thought systématique (PS-0023).\n\n**Quand l'utiliser :** systèmes IA impliqués dans des décisions impactant des individus (scoring, recommandations RH, aide à la décision médicale).\n\n**Ce qu'il protège :** LLM09 — traçabilité et auditabilité des décisions IA. Aide à la conformité AI Act Article 13. N2 : à combiner avec une interface permettant de demander les explications. La section « Limites de l'explication » est critique : honnête sur ce que l'IA ne peut pas expliquer (processus internes).",
  "installation": {
    "ou_quand": "À installer dans tout système où l'utilisateur peut être amené à demander pourquoi telle recommandation. **Obligatoire** pour les systèmes IA à haut risque au sens AI Act.",
    "moments": [
      "projet-debut"
    ],
    "exemples": [
      {
        "contexte": "Assistant scoring / recommandation (RH, finance)",
        "instruction": "Paramètre **`system`** + UI avec bouton « Pourquoi ? » qui injecte la demande. Capturer `[EXPLANATION_PROVIDED]` pour audit AI Act."
      },
      {
        "contexte": "Chatbot grand public",
        "instruction": "Coller dans `system_prompt`. L'utilisateur peut demander à tout moment « explique » et recevoir un raisonnement structuré."
      },
      {
        "contexte": "Custom GPT (advisory)",
        "instruction": "**Custom GPT → Instructions**. Particulièrement utile pour les GPT de conseil — augmente la confiance utilisateur via la transparence."
      },
      {
        "contexte": "Système à haut risque (justice, médical)",
        "instruction": "Paramètre **`system`** + l'explication doit être systématiquement présentée à côté de la recommandation (pas seulement à la demande). Combiner avec `bias-detection-flagging-n2`."
      }
    ]
  },
  "date_creation": "2026-05-17",
  "date_maj": "2026-05-22",
  "version": "1.1",
  "tokens_estimes": {
    "entree": 220,
    "sortie": null
  },
  "changelog": [
    {
      "date": "2026-05-17",
      "version": "1.0",
      "summary": "Création de la fiche"
    },
    {
      "date": "2026-05-22",
      "version": "1.1",
      "summary": "Mise à jour éditoriale"
    }
  ]
}