Mise à jour: un jour après la publication de cet article, Microsoft a annoncé qu'il ne vendrait pas de technologie de reconnaissance faciale à la police tant qu'une loi nationale n'existerait pas. C'est une bonne étape, mais Microsoft doit définitivement mettre fin à la vente de cette technologie dangereuse aux services de police.
L'activisme fonctionne. Tant dans les rues que les gens protestent pour mettre fin à la police raciste et violente, et parmi les organisations de défense des libertés civiles qui luttent contre l'utilisation par le gouvernement de technologies de surveillance du visage nuisibles. Cette semaine, deux grands fournisseurs de technologie de surveillance du visage ont annoncé qu'à la lumière des récentes protestations contre la brutalité policière et l'injustice raciale, ils allaient abandonner ou suspendre leur vente de cette technologie à la police.
Le fait que ces deux sociétés, IBM et Amazon, aient reconnu le tort causé par cette technologie devrait être un signal d'alarme pour les législateurs. Il est faux de croire que la police et les autres gouvernements utilisent cette technologie de manière responsable. Le Congrès, les États et les villes devraient profiter de ce sursis momentané, au cours duquel la police ne pourra pas acquérir la technologie de surveillance faciale de deux grandes entreprises, comme une occasion d'interdire une fois pour toutes l'utilisation gouvernementale de la technologie.
Dans une lettre d'Arvind Krishna au Congrès, le PDG d'IBM a annoncé qu'au nom de la justice raciale, la société mettrait fin à la recherche, au développement et à la vente de toute technologie de reconnaissance faciale:
IBM s'oppose fermement et ne tolérera pas l'utilisation de toute technologie, y compris la technologie de reconnaissance faciale offerte par d'autres fournisseurs, pour la surveillance de masse, le profilage racial, les violations des droits et libertés fondamentaux de la personne, ou tout autre objectif non conforme à nos valeurs et principes de confiance et transparence. Nous pensons que le moment est venu d'entamer un dialogue national sur l'opportunité et la manière dont la technologie de reconnaissance faciale devrait être utilisée par les autorités nationales chargées de l'application des lois.
Ceci est un grand pivot. En mars 2019, IBM a été critiqué par les photographes après avoir publié un nouvel ensemble de données d'images diverses, extraites de la plate-forme de médias sociaux Flickr, dans l'espoir de former des programmes de reconnaissance faciale à être moins imparfaits lors de la reconnaissance des personnes de couleur. Maintenant, l'entreprise reconnaît que de meilleures données de formation ne sont pas une solution efficace aux nombreux problèmes de cette technologie menaçante.
Amazon a à son tour annoncé un moratoire d'un an sur l'utilisation par la police de sa technologie de surveillance du visage, Rekognition. Cette entreprise a également cité des manifestations récentes comme étant l’élan pour réexaminer les dommages que cette technologie peut faire aux communautés déjà trop surveillées. Malheureusement, Amazon s'accroche toujours à l'idée discréditée que la police peut déployer en toute sécurité la technologie de surveillance du visage si seulement il y a suffisamment de règles. «Nous avons préconisé,» a indiqué la société, «que les gouvernements devraient mettre en place des réglementations plus strictes pour régir l'utilisation éthique de la technologie de reconnaissance faciale, et ces derniers jours, le Congrès semble prêt à relever ce défi. Nous espérons que ce moratoire d'un an pourrait donner au Congrès suffisamment de temps pour mettre en œuvre les règles appropriées, et nous sommes prêts à aider si nécessaire. »
Le programme Rekognition d'Amazon a été particulièrement défectueux et nuisible. En 2018, l' ACLU a organisé des f aces de membres du congrès américain en exercice dans le cadre du programme. Vingt-huit membres du congrès ont été identifiés à tort comme des personnes arrêtées pour avoir commis des délits. La même année, l'EFF s'est associée à l'ACLU et à une coalition d'organisations des libertés civiles pour exiger qu'Amazon cesse d'alimenter l'infrastructure de surveillance du gouvernement avec son programme de Rekognition défectueux et invasif.
Alors que nous saluons la demi-étape d'Amazon, nous exhortons l'entreprise à terminer le travail. Comme IBM, Amazon doit définitivement mettre fin à la vente de cette technologie dangereuse aux services de police.
Microsoft est un autre grand fournisseur de technologies de surveillance utilisées par la police. Il doit maintenant emboîter le pas et mettre fin à l'utilisation par le gouvernement de son programme de reconnaissance faciale. Microsoft a exprimé ses inquiétudes quant aux dommages que l'utilisation de la reconnaissance faciale par la police peut causer. En 2019, Microsoft a déclaré avoir refusé à un organisme californien d'application de la loi d'utiliser sa technologie de reconnaissance faciale sur des appareils photo portés par le corps et des caméras de voiture, en raison de préoccupations liées aux droits de l'homme. La prochaine étape logique est claire: Microsoft devrait terminer le programme une fois pour toutes.
Il devrait y avoir une interdiction nationale de l'utilisation par le gouvernement de la surveillance faciale. Même si la technologie était hautement réglementée, son utilisation par le gouvernement continuerait d'aggraver une crise policière dans ce pays qui nuit de manière disproportionnée aux Noirs américains, aux immigrants, aux personnes sans logement et aux autres populations vulnérables. Nous convenons que le gouvernement devrait agir et nous sommes heureux qu'Amazon leur donne un an pour le faire, mais le résultat doit être la fin de l'utilisation gouvernementale de cette technologie.
Le mouvement pour interdire la reconnaissance des visages prend de l'ampleur. Les manifestations historiques des deux dernières semaines montrent que le public ne restera pas les bras croisés pendant que les entreprises technologiques activent et profitent d'un système de surveillance et de maintien de l'ordre qui fait tant de mal.
La reconnaissance faciale n'est pas le seul outil problématique que les entreprises technologiques proposent à la police. Bien qu'Amazon ait fait une pause pour proposer Rekognition à la police, Ring, détenu par Amazon, la société de "sonnettes intelligentes" et de caméras, est toujours partenaire de plus de 1 300 services de police . Ces partenariats permettent à la police de faire des demandes groupées de séquences par e-mail à chaque résident avec une caméra dans un domaine d'intérêt pour la police, ce qui pourrait donner à la police un processus en une seule étape pour demander des séquences de manifestations afin d'identifier les manifestants. Ces partenariats intensifient la suspicion, aident la police à profiler les gens de manière raciale, et permettent et perpétuent le harcèlement policier des Noirs américains.
DITES AMAZON RING: METTRE FIN AUX PARTENARIATS AVEC LA POLICE
Correction: Une version précédente de ce post affirmait que Microsoft était l'un des plus grands fournisseurs de surveillance du visage aux services de police.
Cet article est une traduction automatique d’un post publié sur le site d’Electronic Frontier Foundation à l’URL https://www.eff.org/deeplinks/2020/06/ibm-amazon-end-and-pause-fr-programs-where-microsoft le Thu, 11 Jun 2020 01:08:42 +0000.