Matrice de risques agentiques (Web ouvert & environnements fermés)
Cette page fournit une matrice de lecture rapide des risques agentiques : type d’agent, action possible, risque interprétatif, dérive typique et mécanisme de gouvernance requis.
Statut :
Framework canonique (outil de discussion). Cette matrice ne remplace pas la doctrine. Elle sert à identifier les zones à haut risque et à orienter rapidement vers les cadres applicables.
Principe : un agent peut être « factuel » localement et pourtant dériver globalement par inférence non bornée, généralisation abusive, ou décision implicite. La matrice ci-dessous vise à rendre ces risques visibles avant déploiement.
Dépendances et cadres applicables
- Gouvernance interprétative des agents IA
- Conditions de réponse opposables pour agents IA
- Typologie des dérives interprétatives en agentique
- Gouvernance interprétative (définition)
Matrice
Lecture : pour chaque type d’agent, identifier l’action principale, le risque interprétatif dominant, la dérive typique et la gouvernance requise. Les mécanismes listés sont cumulatifs.
| Type d’agent | Action possible | Risque interprétatif | Dérive typique | Gouvernance requise |
|---|---|---|---|---|
| Support client | Réponses, promesses, pré-remplissage de tickets | Promesse non autorisée, extension de périmètre | Extrapolation silencieuse, généralisation abusive | Périmètres + interdictions d’inférence (garanties, délais) + conditions de réponse |
| Conformité / AML | Recommandations, drapeaux, priorisation, rapports | Hallucination normative, faux audit | Hallucination morale, justification narrative | Hiérarchie de sources + traçabilité de règles + escalade obligatoire à forts enjeux |
| Finance | Prévisions, résumés, scénarios, recommandations | Inference abusive, certitude de surface | Généralisation abusive, persuasion involontaire | Silences obligatoires + conditions de réponse + interdictions d’inférence (fourchettes, certitudes) |
| RH | Conseils, synthèses, recommandations de décision | Décision implicite, biais, juridiction opaque | Redirection paternaliste, faux audit | Périmètres d’action + escalade + traçabilité + interdictions sur recommandations sensibles |
| IT / SecOps | Diagnostic, remédiation, exécution de scripts | Action irréversible, mauvaise hypothèse de contexte | Inférence de contexte, extrapolation silencieuse | Périmètres d’action + double validation + escalade + logs d’exécution |
| Juridique | Clauses, synthèses, interprétation de politiques | Obligations implicites, faux conseil | Hallucination normative, généralisation abusive | Hiérarchie de sources + silences obligatoires + renvoi canonique + escalade |
| Ventes / CRM | Qualification, recommandations, messages, priorisation | Profilage interprétatif, persuasion | Inférence de contexte, persuasion involontaire | Périmètres + interdictions d’inférence + conditions de réponse + transparence minimale |
| Agents Web (open web) | Recherche, synthèse, citations, réponses publiques | Erreur d’attribution, reconstruction instable | Hallucination structurelle, dérive de périmètre | Surfaces canoniques + hiérarchie de sources + désambiguïsation + négations (A2) |
Usage recommandé
- Avant déploiement : classifier l’agent et identifier les zones à haut risque.
- Après déploiement : mapper les incidents à une dérive typique, puis corriger par mécanisme.
- En audit : exiger qu’un refus, une action ou une recommandation soit attribuable à une règle.
Maillage interne recommandé
- Agentique (entrée exécutive)
- Frameworks
- Gouvernance interprétative des agents IA
- Conditions de réponse opposables
- Dérives interprétatives en agentique
Retour au registre : Frameworks et cadres applicables.