Que nous le sachions ou non, tous les internautes s'appuient sur de multiples services en ligne pour se connecter, s'engager et s'exprimer en ligne. Cela signifie que nous nous appuyons également sur 47 USC § 230 («article 230»), qui fournit d'importantes protections juridiques lorsque les plateformes offrent leurs services au public et lorsqu'elles modèrent le contenu qui repose sur ces services, de la vidéo de chat proverbiale à un incendiaire article de blog.
L'article 230 est un pilier juridique essentiel du discours en ligne. Et lorsque les personnes puissantes n'aiment pas ce discours ou les plates-formes qui l'hébergent, la disposition devient un bouc émissaire pour à peu près tous les problèmes liés à la technologie. Au cours des dernières années, ces attaques se sont accélérées; mercredi, nous avons vu deux des propositions les plus dangereuses à ce jour, l'une du ministère de la Justice et l'autre du sénateur Josh Hawley
Les propositions adoptent des approches différentes, mais elles visent toutes deux à créer de nouveaux régimes juridiques qui permettront aux agents publics ou aux particuliers d'enterrer les plates-formes dans des litiges simplement parce qu'ils n'aiment pas la façon dont ces plates-formes offrent leurs services. Les activités de base telles que l'offre de cryptage, l'édition, la suppression ou la modération du contenu des utilisateurs peuvent entraîner des années de frais juridiques et de responsabilité civile. C'est mauvais pour les plates-formes et pour le reste d'entre nous.
La proposition du DOJ attaque le cryptage et rendrait l'expérience Internet de tout le monde moins sûre
La proposition de l'article 230 du ministère de la Justice nuit aux utilisateurs d'Internet et donne au procureur général plus d'armes pour riposter contre les services en ligne qu'il n'aime pas. Il propose quatre catégories de réforme à l'article 230.
Premièrement, il affirme que les plates-formes ont besoin d'être davantage incitées à supprimer le contenu illégal généré par les utilisateurs et propose que l'article 230 ne s'applique pas à ce qu'il appelle les «Bad Samaritans». Les plateformes qui hébergent sciemment du matériel ou du contenu illégal qu'un tribunal a jugé illégal perdraient les protections contre la responsabilité civile, y compris pour l'hébergement de matériel illustrant le terrorisme ou le cyber-harcèlement. La proposition reflète également la loi EARN IT en s'attaquant au cryptage : elle conditionne l'immunité 230 sur la question de savoir si le service maintient «la capacité d'aider les autorités gouvernementales à obtenir du contenu (c'est-à-dire des preuves) dans un format compréhensible, lisible et utilisable conformément à l'autorisation du tribunal ( ou toute autre base légale). »
Deuxièmement, cela lui permettrait, ainsi qu'à d'autres organismes fédéraux, d'engager des actions civiles contre les services en ligne qui, selon eux, hébergeaient du contenu illégal.
Troisièmement, la proposition vise à «clarifier que les allégations antitrust fédérales ne sont pas couvertes par l'immunité au titre de l'article 230».
Enfin, la proposition élimine le libellé clé de l'article 230 qui donne aux services en ligne le pouvoir discrétionnaire de supprimer le contenu qu'ils jugent répréhensible et définit la norme de «bonne foi» de la loi exigeant que les plateformes expliquent toutes leurs décisions de modérer le contenu des utilisateurs.
La proposition du DOJ éliminerait les protections de l'article 230 et, tout comme la loi EARN IT introduite plus tôt cette année, est une attaque directe contre le cryptage. Comme EARN IT, la proposition du DOJ n'utilise nulle part le mot cryptage. Mais dans la pratique, la proposition garantit que toute plate-forme fournissant un cryptage sécurisé de bout en bout serait confrontée à un torrent de litiges – certainement pas un accident étant donné les efforts répétés du procureur général pour interdire le cryptage .
D'autres aspects des propositions «Bad Samaritan» du DOJ posent également problème. Bien que la proposition affirme que les mauvais acteurs seraient limités aux plates-formes qui hébergent sciemment du matériel illégal en ligne, la proposition cible d'autres contenus qui peuvent être offensants mais qui sont néanmoins protégés par la Constitution.
De plus, exiger des plates-formes qu'elles retirent du contenu jugé illégal via une ordonnance du tribunal entraînera une augmentation significative des litiges frivoles sur des contenus que les gens n'aiment tout simplement pas. De nombreuses personnes cherchent déjà à utiliser les jugements par défaut des tribunaux et d'autres mécanismes pour supprimer des éléments d'Internet. La proposition du DOJ exige que les plates-formes honorent même le retrait le plus troll ordonné par le tribunal.
Curieusement, le DOJ propose également des plateformes punitives pour supprimer du contenu de leurs services qui n'est pas illégal. En vertu de la loi actuelle, la section 230 donne aux plates-formes le pouvoir discrétionnaire de supprimer le matériel nuisible tel que le spam, les logiciels malveillants ou tout autre contenu offensant, même s'il n'est pas illégal. Nous avons de nombreuses inquiétudes au sujet de ces décisions de modération , mais la suppression totale de cette discrétion pourrait rendre les expériences de tout le monde en ligne bien pires et potentiellement moins sûres.
C'est également inconstitutionnel: nonobstant l'article 230, le premier amendement donne aux plates-formes le pouvoir discrétionnaire de décider elles-mêmes du type de contenu qu'elles souhaitent héberger et sous quelle forme.
La proposition habiliterait également les agences fédérales, y compris le DOJ, à intenter des poursuites civiles contre les plateformes. Comme le décret du mois dernier visant les services en ligne, cela donnerait au gouvernement de nouveaux pouvoirs pour cibler les plates-formes que les représentants du gouvernement ou le président n'aiment pas. Il ignore également que le DOJ a déjà beaucoup de pouvoir. Parce que l'article 230 exempte le droit pénal fédéral, il n'a jamais entravé la capacité du MJ à poursuivre au pénal les services en ligne se livrant à des activités illégales.
Le DOJ imposerait également des obligations onéreuses qui rendraient incroyablement difficile pour toute nouvelle plate-forme de concurrencer la poignée de plates-formes dominantes qui existent aujourd'hui. Par exemple, la proposition exige que tous les services fournissent «une explication raisonnable» à chaque utilisateur dont le contenu est modifié, supprimé ou modéré d'une autre manière. Même si les services pouvaient raisonnablement prédire ce qui est qualifié d '«explication raisonnable», de nombreuses décisions de modération de contenu ne sont pas controversées et ne nécessitent aucune explication, par exemple lorsque les services filtrent le spam.
La législation proposée par le sénateur Hawley transforme le bouclier juridique de l'article 230 en une invitation à intenter des poursuites contre les décisions de modération de chaque plateforme
La législation proposée par le sénateur Hawley, pour sa part, vise le discours en ligne en inversant fondamentalement le rôle que joue l'article 230 dans le fonctionnement des plateformes en ligne. Tel qu'écrit, l'article 230 protège généralement les plates-formes contre les poursuites fondées sur le contenu de leurs utilisateurs ou sur les actions prises par les plates-formes pour supprimer ou modifier le contenu des utilisateurs.
Le projet de loi de Hawley éviscère ces protections juridiques pour les grandes plates-formes en ligne (plates-formes qui comptent en moyenne plus de 30 millions d'utilisateurs mensuels ou ont plus de 1,5 milliard de dollars de revenus mondiaux par an), en remplaçant la norme simple de la section 230 par une série d'exigences détaillées. Les plates-formes qui atteignent ces seuils devraient publier des politiques claires décrivant quand et dans quelles circonstances elles modèrent le contenu des utilisateurs. Ils doivent ensuite appliquer ces politiques de bonne foi, que le projet de loi définit comme agissant «avec une conviction et un objectif honnêtes», en observant «les normes d'utilisation équitable» et «en agissant sans intention frauduleuse». Une plateforme ne remplit pas l'exigence de bonne foi si elle s'engage dans une « application intentionnellement sélective» de ses politiques ou en ne respectant pas les promesses publiques ou privées qu'elle fait aux utilisateurs.
Cela semble correct sur le papier – qui ne veut pas que les plateformes soient honnêtes? Dans la pratique, cependant, ce sera un champ de mines légal qui conduira inévitablement à une surcensure. Le projet de loi permet aux utilisateurs individuels de poursuivre les plates-formes qui, selon eux, n'ont pas agi de bonne foi et crée des dommages-intérêts jusqu'à concurrence de 5 000 $ en cas de violation. Cela permettrait également aux avocats des utilisateurs de percevoir leurs honoraires et frais pour intenter les poursuites.
En d'autres termes, tout utilisateur qui pense que les actions d'une plateforme sont injustes, frauduleuses ou autrement non faites de bonne foi aurait une action en justice contre une plateforme. Et il y aurait des années de litiges avant que les tribunaux ne décident de normes pour ce qui constitue de la bonne foi en vertu du projet de loi de Hawley.
Compte tenu de la dure réalité selon laquelle il est impossible de modérer parfaitement le contenu généré par les utilisateurs à grande échelle, voire même bien, ce projet de loi signifie le plein emploi pour les avocats, mais peu d'avantages pour les utilisateurs. Comme nous l'avons dit à plusieurs reprises , la modération de contenu sur une plate-forme comptant un grand nombre d'utilisateurs entraîne inévitablement des incohérences et des erreurs, et nuit de manière disproportionnée aux groupes et aux voix marginalisés. De plus, les efforts pour automatiser la modération du contenu créent des problèmes supplémentaires car les machines sont terribles pour comprendre la nuance et le contexte de la parole humaine.
Cela place les plates-formes dans une position impossible: modérer du mieux que vous le pouvez, et être poursuivie quand même – ou réduire considérablement le contenu que vous hébergez dans l'espoir d'éviter les litiges. De nombreuses plates-formes choisiront ce dernier cours et éviteront d'accueillir des discours qui pourraient être controversés.
Comme la proposition du DOJ, le projet de loi viole également le premier amendement. Ici, il le fait en faisant des distinctions entre des haut-parleurs particuliers. Cette distinction déclencherait un examen rigoureux en vertu du premier amendement, un critère juridique qui oblige le gouvernement à montrer que (1) la loi favorise un intérêt gouvernemental impérieux et (2) la loi est étroitement conçue pour atteindre cet intérêt. Le projet de loi du sénateur Hawley échoue sur les deux fronts: bien qu'il existe des préoccupations légitimes quant à la domination d'une poignée de plates-formes en ligne et à leur pouvoir de limiter le discours des internautes, rien ne prouve qu'exiger des plates-formes privées en ligne de pratiquer la modération de bonne foi du contenu représente un intérêt gouvernemental convaincant. Même en supposant qu'il existe un intérêt impérieux, le projet de loi n'est pas étroitement adapté. Au lieu de cela, il interfère largement avec la discrétion éditoriale des plates-formes en les soumettant à des poursuites sans fin de la part de toute personne affirmant avoir été lésée, aussi frivole soit-elle.
Comme l'EFF l'a déclaré au Congrès en 2019 , la création de la section 230 a inauguré une nouvelle ère de communauté et de connexion sur Internet. Les gens peuvent trouver des amis anciens et nouveaux sur Internet, apprendre, partager des idées, s'organiser et s'exprimer. Ces connexions peuvent se faire de manière organique, souvent sans implication de la part des plates-formes où elles ont lieu. Considérez que certains des mouvements militants modernes les plus vitaux – # MeToo, #WomensMarch, # BlackLivesMatter – sont universellement identifiés par des hashtags. Forcer les plates-formes à surcenser leurs utilisateurs, ou pire, donner au DOJ plus de possibilités pour cibler des plates-formes qu'il n'aime pas, n'est jamais la bonne décision. Nous exhortons le Congrès à rejeter les deux propositions.
Cet article est une traduction automatique d’un post publié sur le site d’Electronic Frontier Foundation à l’URL https://www.eff.org/deeplinks/2020/06/two-different-proposals-amend-section-230-share-similar-goal-damage-online-users le Thu, 18 Jun 2020 23:41:34 +0000.