SHAP, LIME et l'explicabilité dans l'audit des IA de crédit : promesses et limites des méthodes locales

Ce que SHAP mesure réellement

Les valeurs de Shapley, originellement développées dans la théorie des jeux coopératifs, mesurent la contribution marginale moyenne de chaque variable à la prédiction d'un modèle, calculée sur toutes les permutations possibles de variables. Dans le contexte du crédit, une valeur SHAP positive pour la variable 'ancienneté du compte' signifie que cette variable a contribué, en moyenne sur les permutations, à augmenter le score de crédit de ce demandeur spécifique. C'est une décomposition additive locale : la somme des valeurs SHAP d'un individu reconstruit exactement la différence entre sa prédiction et la prédiction moyenne du modèle. Cette propriété d'additivité est précieuse pour la communication des décisions. Elle ne garantit pas que l'explication produite correspond à la structure causale réelle du modèle. Si le modèle s'appuie sur des corrélations spurieuses, la valeur SHAP reflète fidèlement cette corrélation — sans signaler qu'elle est spurieuse. Pour l'audit des biais, cela signifie que des valeurs SHAP parfaitement cohérentes peuvent coexister avec un biais algorithmique significatif. La question n'est pas 'est-ce que SHAP est fiable' mais 'fiable pour quelle question spécifique'.

Les limites de LIME dans un contexte d'audit

LIME, qui construit une approximation linéaire locale du modèle autour de chaque prédiction, est souvent présenté comme une alternative plus simple et plus intuitive à SHAP. Ses limites sont tout aussi importantes à comprendre pour un audit rigoureux. La principale limite de LIME est l'instabilité de ses explications. Pour un même individu et un même modèle, différentes exécutions de LIME peuvent produire des explications qualitativement différentes, selon les paramètres de perturbation et la graine aléatoire utilisée. Cette instabilité est documentée dans la littérature académique et rarement mentionnée dans les rapports d'audit commerciaux. Pour un auditeur, cette instabilité est un problème pratique majeur : si l'explication d'un refus de crédit change selon le moment où on la génère, quelle est sa valeur juridique et éthique ? La réponse honnête est : limitée. LIME reste utile comme outil d'exploration exploratoire dans un audit, mais ses résultats doivent être interprétés avec les précautions appropriées et jamais présentés comme définitifs.