Usbek & Rica – « Police prédictive » : les algorithmes peuvent-ils vraiment devancer les délinquants ?

À Marseille, le logiciel de police prédictive M-Pulse annoncé en 2017 a quant à lui revu ses ambitions sécuritaires à la baisse. « L’ancienne majorité [UMP, ndlr] s’en est saisie comme un outil de répression, de surveillance », raconte Christophe Hugon, conseiller municipal au numérique et membre du parti Pirate. La réalité M-Pulse (dont une version est disponible aux citoyens) est tout autre, assure-t-il : «  Il s’agit d’un agrégateur des différents flux, que ce soit des événements sportifs ou culturels, des marchés, etc., qui permet de prévoir d’une manière assez simple la densité de population dans la rue selon les heures. » Spécialiste du sujet, le sociologue Bilel Benbouzid abonde : de manière générale, les algorithmes fondés notamment sur l’analyse des crimes et délits passés « ne prédisent rien », ils permettent avant tout d’ « optimiser la patrouille de police. » Bref, selon lui, « il faut le voir comme une technologie managériale » – rien de plus. 
En tout cas pour le moment ? « Force est de constater que ce n’est pas très utilisé ni très utile », appuie Félix Tréguer, chercheur associé au Centre Internet et Société du CNRS et même de la Quadrature du net. Qui relève dans le même temps « des investissements conséquents  », y compris en France. En novembre dernier, la start-up française Edicia, qui commercialise le logiciel de police prédictive Smart Police, annonçait par exemple avoir levé 1,5 millions d’euros auprès du fonds d’investissement américain Newfund. 
Sur son site web, Edicia vante la capacité de son produit à « [améliorer] la tranquillité du citoyen au sein de l’espace public » et affirme que grâce à ce dernier, la ville de Libourne (Gironde) « a vu chuter de façon drastique les agressions avec violence. » Le nombre de résolutions d’affaires aurait par ailleurs été multiplié par trois.

« Effets auto-réalisateurs » 
Boostée par le développement des IA et des technologies de surveillance, la police prédictive n’a peut-être pas dit son dernier mot. Difficile, cependant, de savoir ce vers quoi ces outils se dirigent précisément, à en croire la Quadrature du net. « Ces systèmes se développent, sont mis en place et sont expérimentés de façon continue en France depuis maintenant de nombreuses années, dans une opacité presque totale, lit-on dans son rapport. Or ils mobilisent des données biaisées […] et contribuent à amplifier la surveillance et la domination policière exercées sur des populations déjà en proie à des discriminations systémiques. » 

« Si vous cherchez des crimes ou des délits, vous allez les trouver. »
Ishanu Chattopadhyay, professeur assistant à l’Université de Chicago

Ces logiciels peuvent entraîner une présence policière excessive dans certains lieux, souligne un enseignant-chercheur à l’Institut Mines-Télécom (qui a souhaité conserver son anonymat). Mais aussi une «  focalisation sur certains types de crimes bien calibrés pour ces algorithmes » – les données sur les cambriolages ou les vols à l’arraché étant bien plus nombreuses que sur les violences intrafamiliales ou le trafic de drogue. « Étant donné l’impact énorme du blanchiment d’argent et de la corruption dans nos sociétés, je pense que c’est là que les efforts devraient être mis autant que possible en termes de police prédictive », renchérit David Wright, chercheur au sein de l’organisme londonien Trilateral Research, qui étudie des applications d’« IA éthique ».
Selon ce chercheur, les outils de police prédictive « renforcent le postulat que la patrouille de police est efficace pour réduire le crime. Or historiquement, ce n’est pas démontré. » Il ajoute : « Il y a des effets auto-réalisateurs qui naissent des biais présents dans les données utilisées par ces algorithmes. » « Si vous cherchez des crimes ou des délits, vous allez les trouver », confirme Ishanu Chattopadhyay, professeur assistant à l’Université de Chicago. « Le nombre d’événements détectés ne devrait pas être un indicateur de succès, complète-t-il. Le bon indicateur, ce serait que le taux de criminalité baisse sans que le nombre d’arrestations ne monte. » 
Or sur ce point, « les études qui ont évalué l’efficacité des technologies de police prédictive ont produit des résultats mitigés et n’ont pas établi que la police prédictive avait un impact significatif sur la réduction de la criminalité », signale une méta-étude de 2021 portant sur les logiciels de police prédictive aux États-Unis et en Europe. 

Big Tech policière
Plus que « mitigée », l’efficacité de Geolitica – le nouveau nom du célèbre mais décrié logiciel américain PredPol – est même quasi nulle. Parmi les 23 631 prédictions générées pour la police du New Jersey au cours de l’année 2018, moins de 1 % d’entre elles avaient visé juste, révèle une enquête réalisée par les médias The Markup et Wired en octobre dernier. 

Le module prédictif déployé par la start-up française Edicia, par exemple, qui s’appuie sur l’apprentissage automatique (machine learning), « semble reposer sur l’idée selon laquelle la délinquance a un effet de débordement géographique (ou effet de “contagion”) et intègre lui aussi des postulats “remontés du terrain” qui prétendent que “la petite délinquance entraîne la grande délinquance”  » – des postulats dont « la scientificité est largement mise en cause. » 
Pour Geolitica, ce score déplorable ne signe néanmoins pas la fin des opérations puisqu’en septembre dernier, une autre entreprise du secteur, SoundThinking, a acheté des parts dans l’espoir de lui donner un nouvel élan. « Cet achat est important dans l’histoire de la tech  », a déclaré à Wired Andrew Ferguson, professeur de droit à l’American University et auteur de The Rise of Big Data Policing (NYU Press, 2017). 
Ce n’est d’ailleurs pas la première acquisition de ce genre réalisée par SoundThinking, puisque celle-ci a déjà mis la main sur HunchLab, un concurrent de PredPol. « Nous sommes dans une période de consolidation avec de grandes entreprises de technologie policière qui grossissent [SoundThinking est désormais valorisé à 232 millions de dollars, ndlr], et cette décision est une étape dans ce processus », a-t-il continué. D’après ce spécialiste, dans le futur, ces grosses entreprises pourraient s’ancrer dans nos vies aussi profondément que Google et Facebook.

Lire l’article complet sur : usbeketrica.com