La police du Queensland va tester un système d’intelligence artificielle permettant de repérer les auteurs de violences à haut risque.
Prévenir l’escalade des violences, c’est le but de l’algorithme en développement depuis environ trois ans dans le Queensland, en Australie. The Guardian, a consacré un long article à ce nouvel « outil actuariel » qui utilise les données du système informatique « Qprime » de la police et va être testé d’ici la fin de 2021. L’objectif est de repérer les auteurs de violences et d’intervenir avant un drame.
Selon le commissaire par intérim Ben Martain cité dans The Guardian, il s’agit de « frapper aux portes » des délinquants par anticipation : « avec cette cohorte d’auteurs de violences, dont nos outils d’analyse prédictive nous disent qu’ils sont les plus susceptibles d’escalader vers d’autres délits de violence familiale, nous frappons aux portes de manière proactive sans aucun appel de service.»
En Australie comme ailleurs, de nombreuses affaires de violence domestique médiatisées depuis peu ont suivi des schémas d’escalade rendant les crimes prévisibles, et suscitant des critiques quant à l' »incapacité » du système à reconnaître ces schémas et à intervenir.
Pour l’avocate, défenseure des Droits des femmes, Angela Lynch, « Le système doit être mieux à même d’identifier et de réagir face aux délinquants à haut risque, en particulier ceux qui passent d’une relation à l’autre »
« boucle de rétroaction »
Bien sûr, un algorithme est toujours délicat à mettre au point. Peu de systèmes de police prédictive ont encore fait leurs preuves. Le plus grand risque étant de créer une « boucle de rétroaction » qui renforce des préjugés. Les populations d’origine étrangère risquant d’être visées par l‘algorithme. Une autre expérience dans le sud de l’Australie a eu pour conséquence de cibler les jeunes indigènes.
Ben Martain a assuré que la police du Queensland était « parfaitement consciente » de ces biais, s’engage à les surveiller et à les à traiter. Il indique que, pour le pilote, les données brutes concernant l’ethnicité ou l’emplacement géographique n’ont pas été retenues et que la police était engagée dans un projet de recherche sur l’atténuation des préjugés dans de tels systèmes.
Un appel à l’aide de la police sur quatre est causé par la violence domestique et familiale. L’objectif de ce nouvel algorithme est de faire en sorte que les délinquants soient suivis par des organisations partenaires pour revoir leur comportement.
