Boîte noire contre boîte blanche dans l'audit des biais algorithmiques financiers : choisir la bonne approche selon les accès disponibles et les objectifs poursuivis
15 août 2026
Méthodes
L'audit en boîte noire : méthodes et limites
L'audit en boîte noire suppose que l'auditeur n'a accès qu'aux entrées du modèle et aux décisions qu'il produit. Pas de code source, pas de paramètres, pas de données d'entraînement. C'est la situation la plus fréquente dans la pratique, notamment lorsque le système est fourni par un prestataire tiers qui ne souhaite pas divulguer sa propriété intellectuelle. L'audit en boîte noire repose sur des tests statistiques massifs : on soumet au modèle un grand nombre de demandes construites pour explorer ses frontières de décision, on observe les résultats, et on en infère les biais potentiels. Les méthodes de tests contrefactuels — où on varie systématiquement un seul attribut entre deux demandes par ailleurs identiques — sont particulièrement utiles pour détecter les discriminations directes.
Tests contrefactuels
En soumettant des paires de demandes identiques où seul un attribut protégé varie, on peut mesurer directement l'influence de cet attribut sur la décision du modèle. Cette méthode est intuitive et juridiquement parlante, mais elle suppose que l'attribut protégé est disponible dans les entrées du modèle, ce qui n'est pas toujours le cas dans la pratique réelle.
Analyse statistique des résultats populationnels
En analysant les décisions sur de larges populations, on peut calculer les métriques d'équité standard comme la parité démographique et les ratios de taux d'erreur. Cette approche ne nécessite pas d'accès aux internals du modèle, mais requiert des données sur l'appartenance aux groupes protégés, qui sont souvent indisponibles ou de mauvaise qualité dans les datasets de production.
Limites de la boîte noire
L'audit en boîte noire ne peut pas identifier les causes des biais détectés. Il peut constater que le modèle produit des taux d'approbation différents entre groupes, mais pas expliquer pourquoi. Cette limite est fondamentale pour les recommandations : sans diagnostic des causes, les recommandations restent génériques et potentiellement inefficaces.
Robustesse des inférences
Les conclusions d'un audit en boîte noire dépendent de la qualité et de la représentativité de l'ensemble de tests utilisé. Un ensemble de tests biaisé ou insuffisamment large peut conduire à des conclusions erronées. L'auditeur doit documenter explicitement la composition de son ensemble de tests et les limites de généralisation de ses conclusions.
L'audit en boîte blanche : avantages et contraintes pratiques
L'audit en boîte blanche suppose un accès complet au code source du modèle, à ses paramètres, et idéalement aux données d'entraînement utilisées pour le former. Cet accès transforme la nature des questions auxquelles l'audit peut répondre. On passe de 'quels biais le modèle produit-il dans ses résultats' à 'pourquoi ces biais existent et comment ils sont encodés dans le modèle'. L'audit en boîte blanche permet une analyse causale que la boîte noire rend impossible. Il permet d'identifier précisément quelles variables contribuent aux disparités, de détecter les effets d'interaction complexes, et de formuler des recommandations ciblées plutôt que génériques.
Analyse de l'importance des variables
En accédant aux paramètres du modèle, on peut calculer des métriques d'importance des variables pour chaque groupe protégé séparément. Des différences importantes dans les variables les plus influentes entre groupes suggèrent que le modèle utilise des mécanismes de décision distincts selon l'appartenance démographique, ce qui est un signal d'audit majeur méritant une investigation approfondie.
Analyse des données d'entraînement
L'accès aux données d'entraînement permet de diagnostiquer les biais à leur source, avant même d'examiner le modèle. On peut analyser la représentation des groupes, la distribution des étiquettes, et la présence de variables proxy. Ces analyses informent directement les recommandations sur les corrections à apporter aux données futures et aux processus de collecte.
Contraintes de confidentialité
L'audit en boîte blanche requiert des accords de confidentialité robustes et une confiance élevée entre l'organisation auditée et l'auditeur. La divulgation du code source et des paramètres expose une propriété intellectuelle significative. Ces contraintes pratiques expliquent pourquoi l'audit en boîte blanche reste moins répandu malgré ses avantages méthodologiques évidents.
Reproductibilité et traçabilité
L'un des avantages de la boîte blanche est la reproductibilité parfaite des analyses. L'auditeur peut documenter exactement quelles opérations il a effectuées sur quelles données, permettant à un tiers de vérifier ses conclusions. Cette traçabilité est précieuse dans un contexte réglementaire où la crédibilité du rapport d'audit peut être contestée.
Combiner les deux approches dans un audit intégré
En pratique, les meilleurs audits combinent des éléments des deux approches selon les accès disponibles et les objectifs poursuivis. Une stratégie courante consiste à débuter par une analyse boîte noire des résultats pour identifier les disparités à documenter, puis à utiliser les accès boîte blanche disponibles pour investiguer les causes des disparités les plus importantes. Cette séquence produit un audit à deux niveaux : le premier établit les faits mesurables, le second fournit le diagnostic mécanistique permettant des recommandations ciblées.
Séquencement optimal des analyses
Commencer par les métriques d'équité boîte noire permet d'orienter les analyses boîte blanche vers les disparités les plus importantes. Sans ce tri initial, le temps passé sur l'analyse des internals risque d'être consacré à des variables peu influentes sur les biais mesurés. Le séquencement est une décision méthodologique qui structure l'efficacité de l'audit.
Documentation des niveaux d'accès
Un rapport d'audit intégré doit distinguer clairement quelles conclusions proviennent d'analyses boîte noire et quelles conclusions nécessitaient un accès boîte blanche. Cette distinction aide le lecteur à évaluer la robustesse de chaque partie du rapport et à comprendre quelles conclusions pourraient être renforcées par un accès plus étendu.
Gestion des contradictions entre approches
Il arrive que les analyses boîte noire et boîte blanche produisent des conclusions apparemment contradictoires sur les mêmes biais. Ces contradictions sont informationnellement précieuses : elles signalent souvent des hypothèses implicites différentes entre les deux méthodes. Un audit rigoureux les documente et les explique plutôt que de les ignorer pour présenter une conclusion cohérente mais artificielle.
Recommandations différenciées selon l'accès
Les recommandations issues d'une analyse boîte noire et celles issues d'une analyse boîte blanche ont des natures différentes. Les premières portent sur les résultats et les processus organisationnels. Les secondes portent sur la structure technique du modèle et des données. Un rapport intégré distingue ces deux catégories de recommandations et précise pour chacune le niveau de certitude diagnostique qui la justifie.