COMPAS : Conformlex retrouve la disparité raciale exposée par ProPublica

On peut vous vendre un outil de conformité sur la foi d’une démo. Ou vous le prouver sur un jeu de données public, au biais déjà documenté, que n’importe qui peut re-télécharger et vérifier. Nous avons choisi le second. Voici COMPAS.

L’affaire COMPAS, en bref

En 2016, l’enquête Machine Bias de ProPublica a montré que COMPAS — un logiciel qui attribue à des prévenus américains un score de risque de récidive utilisé par des juges — étiquetait les défendeurs noirs comme « à haut risque » nettement plus souvent que les défendeurs blancs. Le débat qui a suivi est devenu un cas d’école de la mesure des biais algorithmiques.

Le jeu de données de l’enquête est public. C’est donc un banc d’essai idéal : si un moteur d’analyse mérite votre confiance, il doit retrouver ce biais tout seul.

Ce que le moteur voit

On pointe Conformlex sur le CSV, on lui désigne comme cible le score de risque COMPAS (score_text : Low / Medium / High) et comme attributs protégés race, sex, age_cat. On ne lui dit pas quel biais chercher. Il calcule, pour chaque groupe, la fraction classée « High ».

Afro-Américains : 27,7 % classés « High ». Blancs : 11,2 %. Un score à haut risque attribué 2,5× plus souvent — sur les seules données, sans indice.

C’est la disparité que ProPublica a rendue célèbre : le score penche, et il penche contre les mêmes groupes. Le moteur la fait apparaître en une commande, dans un dossier article 10 lisible.

« Retrouver », pas « recopier »

Soyons précis, parce que c’est ce qui sépare une preuve d’un argument marketing.

Notre ×2,5 est un ratio brut : la fraction classée « High » chez les Afro-Américains divisée par celle des Blancs, sans aucun contrôle. Les chiffres célèbres de ProPublica sont des calculs différents et plus élaborés — un modèle logistique contrôlant casier, âge et sexe (+45 % de chances d’un score élevé), et un taux de faux positifs (~2× chez les prévenus qui n’ont pas récidivé). Un ratio brut est mécaniquement plus grand qu’un ratio ajusté.

Donc Conformlex pointe la même disparité, dans la même direction, sans prétendre reproduire les nombres exacts de l’enquête. C’est le rôle d’un outil de tamis : signaler ce qui mérite un examen approfondi — que fera ensuite un expert. Nous mesurons ; nous ne prétendons pas remplacer une étude statistique.

Deux précautions, que le dossier montre en clair plutôt que de les cacher :

• La disparité brute maximale entre catégories raciales est plus élevée encore (×4,8), mais elle est portée par deux groupes minuscules (Native American n=18, Asian n=32) : statistiquement fragile. Le chiffre solide est la comparaison Afro-Américains vs Blancs (n=3696 vs 2454).
• Le score COMPAS n’est pas la récidive réelle. On mesure le biais du score, pas la vérité terrain — c’est précisément le sujet de l’enquête.

Pourquoi ça compte pour l’article 10

La justice pénale est l’un des domaines que l’AI Act classe à haut risque (Annexe III). Et l’article 10 exige que les données d’entraînement d’un tel système soient examinées pour les biais. COMPAS est l’illustration exacte de ce que le texte cherche à prévenir.

Si le moteur retrouve un biais documenté sur un jeu public, il mesurera le vôtre — sur vos données, in-place, sans qu’elles quittent votre périmètre, et dans un dossier défendable, maintenu quand vos sources changent.

Rejouez-le vous-même

Rien à nous croire sur parole. La page Validation donne les fichiers exacts (source.yaml + mapping.yaml), la commande, et le dossier article 10 complet de COMPAS — plus trois autres jeux publics couvrant emploi, crédit et santé. Récupérez le CSV, lancez le moteur Conformlex, comparez le chiffre.

Repère indicatif, pas un avis juridique, et pas une certification réglementaire. Conformlex détecte des biais documentés ; l’AI Act évolue (Digital Omnibus) — à confirmer pour votre cas. Un diagnostic structuré lève l’ambiguïté.