IA policière : les biais cachés des données prédictives

31 octobre 2026 0 Par eternos974

L’intelligence artificielle promet de repérer les endroits où un délit pourrait survenir. Mais que prédit-elle lorsque ses archives racontent surtout les endroits où la police a déjà beaucoup contrôlé ? C’est le problème des « dirty data », ces données façonnées par des pratiques contestables. Science & Vie revient sur ce risque : automatiser une décision ne suffit pas à débarrasser les informations de leur histoire.

Ce que les archives mesurent réellement

Une base d’interpellations n’est pas une photographie complète de la délinquance. Elle enregistre aussi les priorités d’un service, les lieux surveillés et les situations qui ont donné lieu à un signalement. Un quartier davantage patrouillé peut produire davantage de faits enregistrés, sans que cette différence permette, à elle seule, de mesurer toute la criminalité réelle.

C’est une distinction essentielle pour comprendre le prédictif. Le modèle apprend à partir de ce qui est disponible. Si certaines populations ont subi une surveillance disproportionnée, les données peuvent transformer cette histoire institutionnelle en indicateur de risque. Retirer une information explicite comme l’origine ne règle pas nécessairement le problème : un lieu ou d’autres variables peuvent conserver des liens avec les mêmes inégalités.

Des cas américains, pas un verdict universel

L’étude universitaire Dirty Data, Bad Predictions, publiée en 2019 par la NYU Law Review, analyse treize juridictions américaines ayant utilisé ou développé des outils prédictifs dans un contexte de pratiques policières contestées ou illégales. Rashida Richardson, Jason Schultz et Kate Crawford examinent notamment Chicago, La Nouvelle-Orléans et le comté de Maricopa. Le degré de documentation varie : l’opacité empêche parfois de déterminer précisément quelles données alimentent les systèmes.

Ce périmètre compte. Ces travaux ne démontrent pas que toutes les polices, tous les logiciels et tous les territoires présentent un biais identique. Ils documentent un risque sérieux dans des situations précises. Ils montrent aussi pourquoi une promesse commerciale de neutralité ne remplace pas l’examen des données réellement utilisées.

La boucle peut ensuite se refermer : un secteur est signalé comme risqué, les patrouilles y augmentent, de nouveaux faits y sont enregistrés et le système semble avoir eu raison. Pourtant, une partie du résultat peut découler de la surveillance supplémentaire. Confondre cette rétroaction avec une validation indépendante revient à laisser l’outil fabriquer une partie de sa propre preuve.

Le contrôle humain doit pouvoir contredire la machine

Un agent placé en bout de chaîne ne garantit pas automatiquement une décision juste. Encore faut-il qu’il connaisse les limites du score, puisse le contester et dispose d’informations extérieures au système. Sinon, la présence humaine risque de devenir une signature apposée sur une recommandation déjà traitée comme objective.

Les questions utiles sont donc concrètes : d’où viennent les données, quelles pratiques les ont produites, quelles erreurs sont mesurées et qui peut demander un réexamen ? Un audit doit pouvoir suivre ces choix, plutôt que se limiter à une performance globale flatteuse. Dans un domaine où une prédiction peut orienter des contrôles bien réels, l’exigence de transparence concerne les personnes exposées aux décisions autant que les institutions qui achètent le logiciel.

Sources : NYU Law Review : étude originale.