SHAP, LIME et l'explicabilité dans l'audit des IA de crédit : promesses et limites des méthodes locales

On m'a dit que mon refus de crédit était dû à 'la politique de l'algorithme'. Quand j'ai insisté, on m'a montré un graphique en barres généré par une méthode d'explicabilité locale. Je ne savais pas si ce graphique décrivait réellement pourquoi ma demande avait été rejetée, ou s'il était simplement calibré pour avoir l'air convaincant. Cette distinction n'est pas triviale. Les méthodes d'explicabilité comme SHAP et LIME sont devenues des standards de facto dans l'audit des systèmes de crédit à IA. Voici ce qu'elles font réellement, ce qu'elles ne font pas, et pourquoi la différence compte pour tout audit rigoureux.

Comment lire et évaluer un rapport d'audit de biais algorithmique dans la finance : guide pratique pour les non-spécialistes

On m'avait remis un rapport d'audit de 84 pages. Couverture professionnelle, graphiques soignés, terminologie technique dense. Je ne savais pas si c'était un document rigoureux ou un emballage convaincant pour une analyse superficielle. La différence entre un bon et un mauvais rapport d'audit algorithmique n'est pas dans l'épaisseur ni dans la sophistication graphique. Elle est dans quelques éléments précis que cet article vous aide à identifier, même sans formation spécialisée en statistique.

Les biais dans les données d'entraînement des modèles de crédit : origines, mécanismes et méthodes de détection

J'avais toujours cru que les données, c'est objectif. Les chiffres ne mentent pas. Ce que j'ai découvert en m'intéressant à l'audit des biais algorithmiques, c'est que les données ne mentent pas, mais elles racontent fidèlement toutes les inégalités que les humains ont produites avant elles.

Boîte noire contre boîte blanche dans l'audit des biais algorithmiques financiers : choisir la bonne approche selon les accès disponibles et les objectifs poursuivis

Je voulais comprendre pourquoi mon algorithme de crédit avait pris cette décision. Le prestataire m'a dit que c'était 'un modèle propriétaire'. Traduction : je n'aurais accès qu'aux entrées et aux sorties, jamais à ce qui se passe à l'intérieur. Cette situation — l'audit en boîte noire — est la réalité de la grande majorité des audits algorithmiques dans la finance. Cela ne signifie pas que l'audit est impossible. Cela signifie qu'il répond à des questions différentes, avec des limites différentes, que tout auditeur honnête doit documenter explicitement.

L'évolution de l'audit des biais algorithmiques dans la finance : une chronologie critique

On aurait pu croire que l'avènement des algorithmes de crédit allait résoudre le problème de la discrimination dans la finance. C'était avant de comprendre que les algorithmes héritent précisément des biais que les humains ont encodés dans les données historiques. Cette chronologie retrace comment l'audit des biais algorithmiques est passé d'une curiosité académique à une exigence réglementaire incontournable, et pourquoi cette évolution n'est ni linéaire ni terminée. Chaque étape de cette histoire révèle un compromis, une tension ou une limitation que les étapes suivantes ont tenté de corriger, avec des succès variables.

Les métriques d'équité algorithmique dans la finance : ce que chaque chiffre mesure vraiment et ce qu'il ignore

Choisir une métrique d'équité sans comprendre ce qu'elle mesure, c'est comme choisir un thermomètre pour mesurer la pression. Le résultat sera précis, et complètement à côté de la question. Cet article décortique les principales métriques utilisées dans l'audit des systèmes financiers à IA, leurs définitions mathématiques, leurs hypothèses implicites, et surtout ce qu'elles ne mesurent pas. La mauvaise nouvelle : elles sont souvent incompatibles. La bonne nouvelle : comprendre ces incompatibilités est la moitié du chemin vers un audit rigoureux.

Variables proxy dans les modèles de crédit à IA : comment une variable anodine peut devenir le vecteur principal d'une discrimination systématique

Je pensais que ma demande de crédit avait été évaluée sur mes revenus et mes antécédents financiers. Ce que j'ai découvert ensuite, c'est que le code postal que j'avais renseigné corrèle à plus de 0,7 avec la composition ethnique de mon quartier dans les modèles de scoring courants. La variable proxy n'est pas un bug. C'est souvent une fonctionnalité non documentée d'un modèle entraîné à optimiser la précision prédictive sans contrainte d'équité explicite. Cet article explore comment identifier, quantifier et interpréter les variables proxy dans les audits algorithmiques de crédit.

Le cadre réglementaire de l'audit algorithmique financier en Suisse et en Europe : obligations, lacunes et tendances

J'avais supposé qu'il existait quelque part un cadre réglementaire clair qui m'obligeait à être traité équitablement par l'algorithme de crédit. La réalité est plus fragmentée, plus dynamique et plus nuancée que je ne l'espérais. En Suisse et en Europe, les obligations formelles d'audit des biais algorithmiques financiers sont en construction. Ce qu'elles exigent aujourd'hui, ce qu'elles pourraient exiger demain, et les lacunes que personne ne comble encore : voici un état des lieux aussi honnête que possible d'un cadre réglementaire qui évolue plus vite que les pratiques qu'il est censé encadrer.