Comprendre le mécanisme proxy : quand la corrélation devient discrimination
Une variable proxy n'est pas intrinsèquement discriminatoire. C'est une variable dont la valeur prédictive provient, en partie ou en totalité, de sa corrélation avec un attribut protégé plutôt que d'une relation causale directe avec le risque de crédit. Le code postal prédit le taux de défaut parce qu'il est corrélé avec des facteurs économiques, oui, mais aussi parce qu'il est corrélé avec des caractéristiques démographiques qui ont historiquement subi des discriminations dans l'accès au crédit. La ligne entre prédiction légitime et discrimination indirecte est statistiquement floue et juridiquement contestée. Un audit rigoureux ne prétend pas résoudre ce débat ; il le documente avec précision. La méthode standard consiste à mesurer la dégradation de la performance prédictive lorsque la variable proxy est retirée du modèle, et à comparer cette dégradation à la réduction de disparate impact obtenue. Ce ratio informe la décision de conserver ou d'écarter la variable.
Le code postal comme proxy classique
Le code postal est l'exemple le plus étudié de variable proxy dans le crédit. Sa corrélation avec les revenus, le patrimoine et l'historique de crédit est réelle et légitime. Sa corrélation avec la composition ethnique du quartier — héritée de décennies de ségrégation résidentielle documentée — l'est beaucoup moins. Les modèles entraînés sur des données américaines ou européennes reproduisent systématiquement ces corrélations.
Les proxies de second ordre
Plus difficiles à détecter, les proxies de second ordre émergent d'interactions entre variables. La combinaison du type d'employeur, de la durée du contrat et du secteur d'activité peut corréler fortement avec l'origine ethnique sans qu'aucune de ces variables seule ne soit directement discriminatoire. Les méthodes d'explicabilité comme SHAP permettent de détecter ces effets d'interaction dans un modèle déjà entraîné.
La mesure de la contribution proxy
Quantifier la part de valeur prédictive d'une variable qui provient de sa corrélation avec un attribut protégé requiert des techniques de décomposition de l'information. La méthode de suppression itérative, combinée à l'analyse des importances de Shapley, offre une approche systématique pour estimer cette contribution proxy dans les modèles de crédit à IA.
Les limites de la détection proxy
Aucune méthode de détection des proxies n'est exhaustive. Les modèles complexes peuvent encoder des corrélations avec des attributs protégés via des combinaisons non linéaires de dizaines de variables, rendant toute attribution de responsabilité à une variable individuelle trompeuse. L'audit doit reconnaître cette limite explicitement dans ses conclusions.
Méthodes d'audit des variables proxy : du test statistique à l'analyse causale
L'identification des variables proxy dans un modèle de crédit peut s'aborder par plusieurs méthodes complémentaires, chacune répondant à une question différente sur la nature et l'ampleur de la discrimination indirecte. Aucune méthode seule ne suffit à établir un constat d'audit complet. La combinaison d'approches statistiques, computationnelles et causales donne une image plus fiable. Le choix de la méthode dépend également du niveau d'accès accordé à l'auditeur : un accès boîte blanche permet des analyses causales impossibles en boîte noire. Un audit professionnel documente explicitement quelles questions il peut et ne peut pas répondre selon le niveau d'accès obtenu.
La corrélation directe avec les attributs protégés
La première étape d'un audit proxy consiste à calculer les corrélations entre chaque variable d'entrée du modèle et les attributs protégés disponibles. Un coefficient de corrélation élevé signale une variable proxy candidate. Cette analyse est simple et accessible, mais elle est aussi la moins informative car elle ne distingue pas la corrélation légitime de la corrélation problématique.
Le test de suppression et réévaluation
On entraîne ou évalue le modèle en supprimant successivement les variables candidates à la fonction proxy. On mesure l'évolution simultanée de la performance prédictive globale et des métriques d'équité pour chaque groupe protégé. Un bon proxy se reconnaît à la réduction disproportionnée du disparate impact comparée à la dégradation modeste de la précision globale du modèle.
L'analyse d'équité contrefactuelle
L'analyse contrefactuelle pose la question : si la valeur de l'attribut protégé d'un individu changeait, sa décision de crédit changerait-elle, toutes autres variables maintenues constantes ? Cette approche, ancrée dans la théorie causale de Pearl, permet d'identifier une discrimination individuelle indépendante des effets de groupe. Elle requiert cependant des hypothèses causales que les données seules ne peuvent pas établir.
L'importance de Shapley par sous-groupe
Les valeurs SHAP calculées séparément pour chaque sous-groupe démographique révèlent si le modèle s'appuie sur des ensembles de variables différents selon le groupe pour prendre ses décisions. Une divergence forte dans les variables les plus influentes entre groupes est un signal d'audit majeur, indiquant potentiellement des mécanismes de décision distincts selon l'appartenance démographique.
Implications pour la conception des audits : documenter sans sur-simplifier
La détection des variables proxy soulève immédiatement la question de ce qu'on en fait. Supprimer une variable proxy dégrade la performance prédictive. La conserver perpétue une discrimination indirecte. Ce compromis fondamental illustre pourquoi l'audit algorithmique ne peut pas se réduire à une liste de recommandations techniques sans dimension éthique et réglementaire. Un audit rigoureux documente le compromis quantitativement : voici ce qu'on perd en précision si on supprime cette variable, voici ce qu'on gagne en équité mesurée. La décision finale appartient aux parties prenantes concernées, pas à l'auditeur. Son rôle est de rendre le compromis visible et chiffré, pas de le résoudre à leur place.
Documenter le compromis précision-équité
Chaque variable proxy supprimée génère un compromis mesurable entre performance globale et équité par groupe. Le rapport d'audit doit quantifier ce compromis pour chaque variable candidate, en utilisant des métriques cohérentes avec les objectifs réglementaires de l'organisation. Ce tableau de compromis est plus utile qu'une simple liste de recommandations de suppression sans qualification.
Distinguer les proxies évitables des proxies inévitables
Certains proxies sont évitables car ils n'apportent qu'une contribution marginale à la précision du modèle. D'autres sont structurellement liés à la variable cible via des mécanismes économiques légitimes. Un audit de qualité distingue ces deux catégories et adapte ses recommandations en conséquence, sans prétendre qu'elles sont toutes équivalentes en termes d'impact sur l'équité.
Traçabilité et documentation réglementaire
Dans le contexte de l'IA Act européen et des exigences réglementaires suisses en développement, la documentation des analyses de proxy et des décisions prises à leur sujet constitue une partie essentielle du dossier de conformité. Un audit bien documenté protège l'organisation en cas de contestation et facilite les revues réglementaires périodiques.
Révision périodique et surveillance continue
Les corrélations entre variables et attributs protégés évoluent avec les données de production. Un proxy mineur à l'entraînement peut devenir dominant si la distribution des demandeurs évolue. L'audit ponctuel doit être complété par une surveillance continue des métriques proxy, avec des seuils d'alerte déclenchant des révisions méthodologiques régulières.