Dans le cadre d’un règlement juridique, le département de police de Detroit a accepté de nouvelles balises limitant la façon dont il peut utiliser la technologie de reconnaissance faciale. Ces nouvelles politiques interdisent à la police d’arrêter des personnes uniquement sur la base des résultats d’une recherche par reconnaissance faciale, ou sur les résultats de parades d’identification réalisées immédiatement après une recherche par reconnaissance faciale. Il est également précisé que les parades d’identification ne peuvent pas être réalisées uniquement sur la base de la reconnaissance faciale – à la place, il doit y avoir des preuves supplémentaires liant un suspect à un crime.
Les politiques – qui peuvent être appliquées par un tribunal pour les quatre prochaines années – nécessitent également une formation policière sur les risques et les dangers de la technologie de reconnaissance faciale, et un audit de tous les cas depuis 2017 où la reconnaissance faciale a été utilisée pour obtenir un mandat d’arrêt. Roger Williams, un homme noir qui a été arrêté après avoir été identifié par la technologie de reconnaissance faciale, a porté plainte contre le département de police et a été représenté par des avocats de l’American Civil Liberties Union et de Civil Rights Litigation Initiative de la faculté de droit de l’Université du Michigan.
“Avec ce douloureux chapitre de nos vies qui se ferme, ma femme et moi continuerons à sensibiliser le public aux dangers de cette technologie”, a déclaré M. Williams dans un communiqué.
En annonçant l’accord, l’ACLU l’a décrit comme aboutissant aux “politiques et pratiques de département de police les plus fortes du pays limitant l’utilisation de cette technologie dangereuse par la police”. Elle a également noté que les femmes et les personnes de couleur sont “beaucoup plus susceptibles d’être mal identifiées par la technologie de reconnaissance faciale”.
Williams aurait passé 30 heures en prison après avoir été à tort identifié comme un homme filmé par une caméra de surveillance en train de voler cinq montres dans un magasin du centre-ville de Detroit. Sa photo de permis de conduire est apparue lors d’une recherche de reconnaissance faciale dans une base de données de photos de mugshots et de permis, et le contractuel de sécurité qui a fourni la vidéo a convenu qu’il était le meilleur choix, ce qui a conduit à son arrestation. Les procureurs ont par la suite abandonné les charges. Le département de police a déclaré qu’il payait également à Williams 300 000 dollars dans le cadre du règlement.
Dans sa propre déclaration, le département de police a déclaré qu’il est “satisfait de son travail avec l’ACLU et l’Université du Michigan au cours de la dernière année et demie”, ajoutant qu’il croit “fermement” que la nouvelle politique “servira de meilleure pratique nationale et de modèle pour d’autres organismes utilisant cette technologie”. Des villes, dont San Francisco, ont interdit l’utilisation de la reconnaissance faciale par les forces de l’ordre. Microsoft a également récemment interdit aux départements de police d’utiliser sa technologie d’IA pour la reconnaissance faciale.
