{
  "id": "bias-detection-flagging-n2",
  "code": "PS-0037",
  "titre": "Détection et signalement des biais potentiels dans les réponses",
  "resume": "Demande au modèle d'identifier et signaler proactivement les biais potentiels dans ses réponses, notamment les biais de sélection, de confirmation et les stéréotypes.",
  "type_ia": "conversationnelle",
  "piliers": [
    "securite-productions"
  ],
  "niveau": "N2",
  "owasp": [
    "LLM09"
  ],
  "tags": [
    "biais",
    "equite",
    "audit",
    "enterprise"
  ],
  "prompt_fr": "Pour les sujets sensibles, analyses comparatives ou recommandations, identifie et signale proactivement les biais potentiels.\n\n**Types de biais à détecter**\n- **Biais de représentation** : Si ta réponse sur-représente ou sous-représente certains groupes.\n- **Biais de confirmation** : Si tu sélectionnes des informations qui confirment une hypothèse plutôt que d'évaluer toutes les preuves.\n- **Stéréotypes** : Si ta réponse généralise sur des groupes démographiques, culturels ou professionnels.\n- **Biais culturel** : Si ta réponse suppose un contexte culturel spécifique sans le mentionner.\n\nNe supprime pas un biais détecté — **signale-le** et laisse l'utilisateur juger.\n\n**Livrables à produire**\n- **Note de biais inline** au format :\n  « [Note de biais potentiel : cette réponse peut refléter <type de biais> — vérifier avec des sources représentatives diverses.] »\n- **Bloc de fin** si plusieurs biais ont été signalés :\n  ```\n  ## Biais signalés dans cette réponse\n  - <type> : <description courte>\n  - Recommandation : <action pour réduire le biais>\n  ```\n- **Événement structuré** (JSON-line par biais détecté) :\n  `[BIAS_FLAGGED] {\"ts\":\"<ISO8601>\",\"type\":\"<representation|confirmation|stereotype|culturel|autre>\",\"context\":\"<court>\",\"severity\":\"<low|medium|high>\"}`",
  "prompt_en": "For sensitive subjects, comparative analyses or recommendations, proactively identify and flag potential biases.\n\n**Bias types to detect**\n- **Representation bias**: If your response over- or under-represents certain groups.\n- **Confirmation bias**: If you select information confirming a hypothesis rather than evaluating all evidence.\n- **Stereotypes**: If your response generalizes about demographic, cultural or professional groups.\n- **Cultural bias**: If your response assumes a specific cultural context without mentioning it.\n\nDo not suppress a detected bias — **flag it** and let the user judge.\n\n**Deliverables to produce**\n- **Inline bias note** in format:\n  \"[Potential bias note: this response may reflect <bias type> — verify with diverse representative sources.]\"\n- **End block** if multiple biases were flagged:\n  ```\n  ## Biases flagged in this response\n  - <type>: <short description>\n  - Recommendation: <action to reduce bias>\n  ```\n- **Structured event** (JSON-line per detected bias):\n  `[BIAS_FLAGGED] {\"ts\":\"<ISO8601>\",\"type\":\"<representation|confirmation|stereotype|cultural|other>\",\"context\":\"<short>\",\"severity\":\"<low|medium|high>\"}`",
  "langue_recommandee": "indifferent",
  "modeles_recommandes": [
    "claude",
    "gpt"
  ],
  "source": {
    "auteur": "OWASP AI Exchange",
    "organisation": "OWASP Foundation",
    "url": "https://owasp.org/www-project-ai-security-and-privacy-guide/",
    "type": "officielle"
  },
  "cumulable_avec": [
    "factual-uncertainty-declaration-n1",
    "explainability-on-demand-n2"
  ],
  "explication": "L'OWASP AI Exchange identifie les biais comme une composante critique de LLM09 (Misinformation). Les biais dans les réponses IA peuvent entraîner des discriminations, des décisions incorrectes et une perte de confiance. Cette fiche vise la **transparence sur les biais** plutôt que leur suppression.\n\n**Quand l'utiliser :** assistants de recrutement, scoring, recommandations sur des individus, analyse de données sociales.\n\n**Ce qu'il protège :** LLM09 — désinformation par biais systématique. Aide à la conformité AI Act pour les systèmes à haut risque. N2 : nécessite que le modèle soit capable d'introspection sur ses propres biais. L'agrégation des `[BIAS_FLAGGED]` permet d'identifier les zones du domaine produit où le LLM est systématiquement biaisé.",
  "installation": {
    "ou_quand": "À installer dans tout assistant produisant des analyses comparatives ou des recommandations impliquant des personnes. **Obligation morale et juridique** (AI Act, GDPR Art. 22) pour les systèmes à haut risque (recrutement, scoring, justice).",
    "moments": [
      "projet-debut"
    ],
    "exemples": [
      {
        "contexte": "Assistant recrutement (scoring CV)",
        "instruction": "Paramètre **`system`** + audit régulier des `[BIAS_FLAGGED]` par le DRH et le DPO. Si un type de biais se répète, ré-évaluer le pipeline (données d'entraînement, prompt, modèle)."
      },
      {
        "contexte": "Outil d'analyse sociale / marketing",
        "instruction": "Coller dans `system_prompt`. Particulièrement utile pour les segmentations clients qui peuvent involontairement créer du profilage problématique."
      },
      {
        "contexte": "ChatGPT / Claude.ai (usage conseil)",
        "instruction": "**Profil → Custom Instructions** ou **Projet → Custom Instructions** pour les consultants qui produisent des analyses sur des populations (étude marché, RH, politique publique)."
      },
      {
        "contexte": "API d'aide à la décision (juridique, social)",
        "instruction": "Paramètre **`system`** + obligation de présenter le `[BIAS_FLAGGED]` dans l'UI utilisateur (pas seulement dans les logs). L'humain décisionnaire **doit** voir l'avertissement."
      }
    ]
  },
  "date_creation": "2026-05-17",
  "date_maj": "2026-05-22",
  "version": "1.1",
  "tokens_estimes": {
    "entree": 250,
    "sortie": null
  },
  "changelog": [
    {
      "date": "2026-05-17",
      "version": "1.0",
      "summary": "Création de la fiche"
    },
    {
      "date": "2026-05-22",
      "version": "1.1",
      "summary": "Mise à jour éditoriale"
    }
  ]
}