La surveillance générale n’est pas la réponse au problème des préjudices en ligne

La surveillance générale n'est pas la réponse au problème des préjudices en ligne

Même si vous pensez que les intermédiaires en ligne devraient être plus proactifs dans la détection, la dépriorisation ou la suppression de certains discours d'utilisateurs, l'obligation faite aux intermédiaires d'examiner tout le contenu avant publication – souvent appelée « surveillance générale » ou « filtrage des téléchargements » – soulève de graves préoccupations en matière de droits de l'homme. , tant pour la liberté d'expression que pour la vie privée.

La surveillance générale est problématique à la fois lorsqu'elle est directement requise par la loi et lorsque, bien que non requise, elle est effectivement obligatoire parce que les risques juridiques de ne pas le faire sont si grands. Plus précisément, ces exigences indirectes incitent les plates-formes à surveiller de manière proactive les comportements des utilisateurs, à filtrer et à vérifier le contenu des utilisateurs, et à supprimer ou filtrer localement tout ce qui est controversé, répréhensible ou potentiellement illégal pour éviter toute responsabilité légale. Cela conduit inévitablement à une censure excessive du contenu en ligne, car les plateformes cherchent à éviter toute responsabilité pour avoir omis d'agir «raisonnablement» ou de supprimer le contenu des utilisateurs dont ils «auraient dû savoir» qu'il était nuisible.

Qu'elle soit directement mandatée ou fortement incitative, la surveillance générale est mauvaise pour les droits de l'homme et pour les utilisateurs.

  • Comme l'échelle du contenu en ligne est si vaste, la surveillance générale utilise généralement des outils de prise de décision automatisés qui reflètent les biais de l'ensemble de données et conduisent à un profilage nuisible .
  • Ces filtres de téléchargement automatisés sont sujets aux erreurs , sont notoirement inexacts et ont tendance à surbloquer les expressions légalement protégées.
  • Les filtres de téléchargement contreviennent également aux principes fondamentaux des droits de l'homme que sont la proportionnalité et la nécessité en soumettant les utilisateurs à une prise de décision automatisée et souvent arbitraire .
  • L'observation active de tous les fichiers téléchargés par les utilisateurs a un effet dissuasif sur la liberté d'expression et l'accès à l'information en limitant le contenu que les utilisateurs peuvent publier et interagir en ligne.
  • Une plate-forme examinant chaque publication d'utilisateur porte également atteinte au droit à la vie privée des utilisateurs en fournissant aux entreprises, et donc potentiellement aux agences gouvernementales, des données abondantes sur les utilisateurs. Ceci est particulièrement menaçant pour les locuteurs anonymes .
  • La présélection peut entraîner un excès d'application de la loi, des expéditions de pêche (exploration de preuves injustifiées) et la rétention de données .
  • La surveillance générale porte atteinte à la liberté de faire des affaires , augmente les coûts de conformité et sape les modèles alternatifs de gouvernance des plateformes.
  • Les technologies de surveillance sont encore moins efficaces sur les petites plateformes , qui n'ont pas les ressources pour développer des outils de filtrage sophistiqués. La surveillance générale cimente ainsi le rôle de gardien de quelques plateformes de pouvoir et marginalise davantage les modèles alternatifs de gouvernance des plateformes.

Nous avons déjà exprimé notre inquiétude quant au fait que les gouvernements utilisent des approches plus agressives et plus sévères en matière de réglementation des intermédiaires, les décideurs politiques du monde entier appelant les plateformes à supprimer de leurs sites les contenus prétendument légaux mais « indésirables » ou « nuisibles », tout en s'attendant à ce que les plateformes détectent et supprimer le contenu illégal. Ce faisant, les États ne protègent pas les droits fondamentaux à la liberté d'expression et manquent à leurs obligations de garantir un environnement en ligne libre sans restrictions indues sur le contenu légal, tout en restreignant les droits des utilisateurs de partager et de recevoir des informations impartiales et non filtrées. Cela a un effet dissuasif sur le droit individuel à la liberté d'expression, les utilisateurs modifiant leur comportement et s'abstenant de communiquer librement s'ils savent qu'ils sont activement observés, ce qui conduit à une culture pernicieuse d' autocensure .

Dans l'un des développements politiques les plus récents sur la responsabilité des intermédiaires, l'Union européenne a récemment approuvé la loi sur les services numériques (DSA). La DSA rejette les délais de retrait qui auraient supprimé les discours légaux, précieux et bénins. L'EFF a contribué à faire en sorte que le libellé final évite les obligations de filtrage intrusives . En revanche, le projet de loi britannique sur la sécurité en ligne soulève de sérieuses inquiétudes concernant la liberté d'expression en imposant un devoir de diligence aux plateformes en ligne pour lutter contre les contenus illégaux et autrement préjudiciables et pour minimiser la présence de certains types de contenus. L'analyse intrusive du contenu des utilisateurs sera inévitable si ce projet de loi devient loi.

Alors, comment protégeons-nous les droits des utilisateurs à la vie privée et à la liberté d'expression tout en garantissant que le contenu illégal peut être détecté et supprimé ? L'EFF et d'autres ONG ont élaboré les Principes de Manille qui soulignent que les intermédiaires ne devraient pas être tenus responsables du discours de l'utilisateur à moins que le contenu en question n'ait été pleinement jugé illégal et qu'un tribunal ait valablement ordonné sa suppression. Il devrait appartenir à des autorités judiciaires indépendantes, impartiales et autonomes de déterminer que le matériel en question est illégal. L'élévation des tribunaux pour statuer sur la suppression de contenu signifie que la responsabilité n'est plus basée sur les décisions inexactes et lourdes des plateformes. Cela garantirait également que les ordonnances de retrait soient limitées au contenu spécifique illégal tel que décidé par les tribunaux ou une autorité similaire.

L'EFF a également exhorté les régulateurs à garantir que les intermédiaires en ligne continuent de bénéficier d'exemptions de responsabilité pour le contenu de tiers, et toute obligation supplémentaire ne doit pas restreindre la liberté d'expression et l'innovation des consommateurs. Pour limiter le contenu, ces règles doivent être prévues par des lois ; être précis, clair et accessible ; et doivent suivre une procédure régulière et respecter le principe selon lequel des autorités judiciaires indépendantes doivent évaluer le contenu et décider de sa restriction. De manière décisive, les intermédiaires ne devraient pas être tenus responsables s'ils choisissent de ne pas supprimer le contenu sur la base d'une simple notification des utilisateurs.

Les régulateurs doivent prendre des mesures volontaires plus efficaces contre les contenus préjudiciables et adopter des cadres de modération conformes aux droits de l'homme pour rendre Internet libre et limiter le pouvoir des agences gouvernementales de signaler et de supprimer les contenus potentiellement illégaux.


Cet article est une traduction automatique d’un post publié sur le site d’Electronic Frontier Foundation à l’URL https://www.eff.org/deeplinks/2022/08/general-monitoring-not-answer-problem-online-harms le Tue, 16 Aug 2022 07:21:56 +0000.