À propos

Notre démarche

Je cherchais une source fiable sur l'audit des biais algorithmiques financiers. Je n'en trouvais pas. J'ai donc décidé d'en construire une.

Pourquoi Smurzeitaixeorrissou existe

La mauvaise façon de s'informer sur l'audit des biais algorithmiques, c'est de lire des communiqués de presse rédigés par les acteurs que l'on devrait évaluer. C'est pourtant ce que font la plupart des personnes qui découvrent ce domaine. Smurzeitaixeorrissou est né du constat que les ressources indépendantes, rigoureuses et accessibles sur l'audit des biais dans les plateformes financières à IA manquent cruellement en Suisse et dans l'espace francophone.

Notre mission est d'examiner, de documenter et de diffuser des informations factuelles sur la façon dont les systèmes d'IA utilisés pour le crédit et le prêt sont testés pour détecter les discriminations algorithmiques. Nous ne vendons pas d'audit. Nous ne prenons pas de position pour des acteurs du marché. Nous analysons les méthodes, les métriques et les cadres réglementaires avec la rigueur que ce sujet exige, et l'ironie qu'il mérite.

Smurzeitaixeorrissou produit des analyses détaillées sur les méthodes d'audit des biais algorithmiques dans la finance. Nous décortiquons les métriques d'équité, les approches méthodologiques, les cadres réglementaires suisses et européens, et les compromis inévitables entre différentes définitions de la non-discrimination.

Nous publions régulièrement des articles de fond, des comparaisons de méthodes et des explications des concepts clés du domaine. Notre approche est résolument analytique : nous présentons les données, nous documentons les tensions, nous expliquons les compromis — sans prétendre qu'il existe des solutions simples à des problèmes fondamentalement complexes.

Ce que nous faisons

L'audit des biais algorithmiques touche à des domaines très divers, chacun avec ses propres méthodes et exigences spécifiques.

Voici les principaux sujets que nous couvrons dans nos analyses et publications régulières sur ce domaine.

Les métriques d'équité algorithmique et leurs définitions mathématiques précises
La détection des variables proxy dans les jeux de données financières historiques
Les méthodes d'analyse de disparate impact appliquées aux modèles de crédit
Le cadre réglementaire suisse et européen encadrant les IA décisionnelles en finance
Les approches boîte noire versus boîte blanche dans l'audit algorithmique
Les limites mathématiques des critères d'équité et leurs incompatibilités démontrées
L'analyse des données d'entraînement et la détection de biais à la source du modèle
Les méthodes d'explicabilité locale comme SHAP et LIME dans un contexte d'audit
La conception de tests statistiques robustes pour évaluer l'équité des décisions automatisées
Les bonnes pratiques de documentation et de reporting dans les audits algorithmiques professionnels
L'évolution des exigences réglementaires autour de l'IA Act européen et ses implications suisses
Les cas d'usage concrets d'audit dans le crédit à la consommation et le prêt immobilier
Les défis spécifiques de l'audit des modèles de décision de crédit à grande échelle opérationnelle
Les différentes conceptions éthiques de la non-discrimination et leurs traductions en métriques mesurables
La surveillance continue des modèles déployés pour détecter les dérives de biais au fil du temps
Les rôles et responsabilités dans une gouvernance responsable de l'IA financière décisionnelle

Nous n'affirmons pas qu'une méthode d'audit est universellement supérieure aux autres. Les métriques d'équité s'excluent mutuellement dans certains cas.

Notre approche comparative des méthodes

Notre approche consiste à documenter les forces et les limites de chaque méthode, les compromis inévitables entre différents critères d'équité, et les contextes dans lesquels certaines approches s'avèrent plus adaptées. Nous présentons les tensions sans les résoudre par des formules simplistes.

Avant d'évaluer un audit algorithmique, il est utile de se poser les bonnes questions sur ce que l'on cherche à mesurer.

Ces questions guident une lecture critique des rapports d'audit et des analyses méthodologiques disponibles.

Quelle définition de l'équité algorithmique le rapport adopte-t-il et est-elle justifiée ?
Les groupes protégés analysés sont-ils pertinents pour le contexte réglementaire applicable ?
Les métriques choisies sont-elles mathématiquement compatibles entre elles dans ce cas précis ?
L'auditeur a-t-il accès aux données d'entraînement ou seulement aux entrées et sorties du modèle ?
Les hypothèses méthodologiques sont-elles explicitement documentées et défendables ?
Le rapport distingue-t-il clairement corrélation observée et causalité établie dans ses constats ?
Les recommandations sont-elles reliées spécifiquement aux biais identifiés ou restent-elles génériques ?
Un suivi dans le temps est-il prévu pour vérifier l'effet des corrections recommandées ?
L'indépendance de l'auditeur par rapport à l'équipe de développement est-elle documentée ?
Les limites de l'analyse sont-elles franchement reconnues dans le rapport final ?
La reproductibilité de la méthodologie est-elle suffisante pour permettre une vérification indépendante ?

Nous refusons de simplifier ce qui est fondamentalement complexe. L'équité algorithmique n'est pas un bouton à activer.

Notre philosophie éditoriale

Nous documentons les compromis honnêtement, même quand ils sont inconfortables pour toutes les parties concernées.

Nous distinguons ce qui est mesuré de ce qui est interprété, et ce qui est observé de ce qui est conclu.

L'audit rigoureux commence par accepter qu'il n'existe pas de solution parfaite, seulement des compromis documentés.

Comment évaluer la fiabilité des sources

Une source fiable sur l'audit algorithmique cite ses méthodes, documente ses hypothèses, reconnaît ses limites et distingue les faits mesurés des interprétations proposées. Si une analyse ne mentionne pas les compromis entre métriques d'équité, c'est qu'elle choisit de les ignorer.

Méfiez-vous des rapports qui présentent l'équité algorithmique comme un problème entièrement résolu, ou des analyses qui affirment qu'une seule métrique suffit à tout évaluer. La littérature spécialisée démontre mathématiquement l'impossibilité de satisfaire simultanément plusieurs critères d'équité courants.

Ce site s'adresse à plusieurs types de lecteurs, selon leur niveau de familiarité avec le domaine.

Débutants

Vous venez de découvrir l'audit des biais algorithmiques et cherchez à comprendre les concepts fondamentaux. Notre glossaire et nos articles introductifs vous donnent les bases sans supposer de connaissances préalables en statistique.

Praticiens

Vous travaillez dans la finance, la conformité ou le développement de modèles et souhaitez approfondir votre compréhension des méthodes d'audit. Nos analyses comparatives et nos décryptages méthodologiques sont conçus pour vous.

Décideurs

Vous êtes responsable de la gouvernance d'une organisation utilisant des IA décisionnelles financières. Nos synthèses réglementaires et nos cadres d'évaluation vous permettent de poser les bonnes questions à vos équipes techniques.