Deux propositions différentes de modification de l’article 230 partagent un objectif similaire: endommager le discours des utilisateurs en ligne

Que nous le sachions ou non, tous les utilisateurs d'Internet comptent sur plusieurs services en ligne pour se connecter, s'engager et s'exprimer en ligne. Cela signifie que nous nous appuyons également sur 47 USC § 230 («Section 230»), qui fournit des protections juridiques importantes lorsque les plateformes offrent leurs services au public et lorsqu'elles modèrent le contenu qui repose sur ces services, de la vidéo proverbiale de chat à un incendiaire. article de blog.

L'article 230 est un pilier juridique essentiel du discours en ligne. Et lorsque des gens puissants n'aiment pas ce discours ou les plateformes qui l'hébergent, la disposition devient un bouc émissaire pour à peu près tous les problèmes liés à la technologie. Au cours des dernières années, ces attaques se sont accélérées; Mercredi, nous avons vu deux des propositions les plus dangereuses à ce jour, l'une du ministère de la Justice et l'autre du sénateur Josh Hawley

Les propositions adoptent des approches différentes, mais elles cherchent toutes deux à créer de nouveaux régimes juridiques qui permettront aux agents publics ou aux particuliers d'enterrer des plates-formes dans des litiges simplement parce qu'ils n'aiment pas la façon dont ces plates-formes offrent leurs services. Les activités de base telles que le cryptage, l'édition, la suppression ou la modération du contenu des utilisateurs peuvent entraîner des années de frais juridiques et de risque de responsabilité. C'est mauvais pour les plateformes et pour le reste d'entre nous.

La proposition du MJ attaque le chiffrement et rendrait l'expérience Internet de chacun moins sûre

La proposition de l'article 230 du ministère de la Justice nuit aux utilisateurs d'Internet et donne au procureur général plus d'armes pour se venger des services en ligne qu'il n'aime pas. Il propose quatre catégories de réforme de l'article 230.

Premièrement, il affirme que les plates-formes doivent être davantage incitées à supprimer le contenu illégal généré par les utilisateurs et propose que l'article 230 ne s'applique pas à ce qu'il appelle les «mauvais samaritains». Les plateformes qui hébergent sciemment du matériel ou du contenu illégal qu'un tribunal a jugé illégal perdraient les protections de la responsabilité civile, y compris pour l'hébergement de matériel illustrant le terrorisme ou le cyber-harcèlement. La proposition reflète également la loi EARN IT en attaquant le chiffrement : elle conditionne l'immunité de 230 si le service conserve «la capacité d'aider les autorités gouvernementales à obtenir du contenu (c'est-à-dire des preuves) dans un format compréhensible, lisible et utilisable conformément à l'autorisation du tribunal ( ou toute autre base légale). "

Deuxièmement, cela lui permettrait, ainsi qu'à d'autres agences fédérales, d'engager des actions civiles contre les services en ligne qui, selon eux, hébergeaient du contenu illégal.

Troisièmement, la proposition vise à «préciser que les réclamations fédérales antitrust ne sont pas couvertes par l'immunité prévue à l'article 230».

Enfin, la proposition élimine le langage clé de l'article 230 qui donne aux services en ligne le pouvoir discrétionnaire de supprimer le contenu qu'ils jugent répréhensible et définit la norme de «bonne foi» de la loi pour obliger les plateformes à expliquer toutes leurs décisions de modérer le contenu des utilisateurs.

La proposition du MJ éviscérerait les protections de l'article 230 et, tout comme la loi EARN IT introduite plus tôt cette année, constitue une attaque directe contre le chiffrement. Comme EARN IT, la proposition du DOJ n'utilise le mot cryptage nulle part. Mais dans la pratique, la proposition garantit que toute plate-forme fournissant un cryptage sécurisé de bout en bout ferait face à un torrent de litiges – certainement pas un accident étant donné les efforts répétés du procureur général pour interdire le cryptage .

D'autres aspects des propositions du "mauvais samaritain" du MJ sont également problématiques. Bien que la proposition affirme que les mauvais acteurs seraient limités aux plateformes qui hébergent sciemment du matériel illégal en ligne, la proposition cible d'autres contenus qui peuvent être offensants mais sont néanmoins protégés par la Constitution.

De plus, exiger des plateformes qu'elles suppriment du contenu jugé illégal via une décision de justice entraînera une augmentation significative des litiges frivoles sur le contenu que les gens n'aiment tout simplement pas. De nombreuses personnes cherchent déjà à utiliser les jugements par défaut des tribunaux et d'autres mécanismes pour supprimer des éléments d'Internet. La proposition du MJ exige que les plateformes honorent même le retrait le plus trollish ordonné par le tribunal.

Curieusement, le DOJ propose également de punir les plateformes pour supprimer du contenu de leurs services qui n'est pas illégal. En vertu de la loi actuelle, l'article 230 donne aux plateformes le pouvoir discrétionnaire de supprimer le matériel nuisible tel que le spam, les logiciels malveillants ou tout autre contenu offensant, même s'il n'est pas illégal. Nous avons de nombreuses préoccupations au sujet de ces décisions de modération , mais la suppression de cette discrétion pourrait rendre les expériences de chacun en ligne bien pire et potentiellement moins sûres.

C'est également inconstitutionnel: malgré l'article 230, le premier amendement donne aux plateformes le pouvoir discrétionnaire de décider elles-mêmes du type de contenu qu'elles souhaitent héberger et sous quelle forme.

La proposition habiliterait également les agences fédérales, dont le MJ, à intenter des actions civiles contre les plateformes. Comme le décret du mois dernier visant les services en ligne, cela donnerait au gouvernement de nouveaux pouvoirs pour cibler des plateformes que les responsables gouvernementaux ou le président n'aiment pas. Il ignore également que le DOJ a déjà beaucoup de pouvoir. Étant donné que l'article 230 exempte le droit pénal fédéral, il n'a jamais entravé la capacité du MJ de poursuivre pénalement des services en ligne se livrant à des activités illégales.

Le DOJ imposerait également des obligations onéreuses qui rendraient incroyablement difficile pour toute nouvelle plate-forme de concurrencer la poignée de plates-formes dominantes qui existent aujourd'hui. Par exemple, la proposition exige que tous les services fournissent «une explication raisonnable» à chaque utilisateur dont le contenu est modifié, supprimé ou autrement modéré. Même si les services pouvaient raisonnablement prévoir ce qui constitue une «explication raisonnable», de nombreuses décisions de modération de contenu ne sont pas controversées et ne nécessitent aucune explication, par exemple lorsque les services filtrent le spam.

Le projet de loi proposé par le sénateur Hawley transforme le bouclier juridique de l'article 230 en une invitation à plaider les décisions de modération de chaque plateforme

Le projet de loi proposé par le sénateur Hawley, pour sa part, vise le discours en ligne en inversant fondamentalement le rôle de l'article 230 dans le fonctionnement des plateformes en ligne. Tel qu'écrit, l'article 230 protège généralement les plates-formes contre les poursuites fondées sur le contenu de leurs utilisateurs ou sur les actions prises par les plates-formes pour supprimer ou modifier le contenu des utilisateurs.

Le projet de loi de Hawley éviscère ces protections juridiques pour les grandes plates-formes en ligne (plates-formes qui représentent en moyenne plus de 30 millions d'utilisateurs par mois ou qui génèrent plus de 1,5 milliard de dollars de revenus mondiaux par an), en remplaçant la norme simple de l'article 230 par une série d'exigences détaillées. Les plateformes qui atteignent ces seuils devraient publier des politiques claires décrivant quand et dans quelles circonstances elles modèrent le contenu des utilisateurs. Ils doivent ensuite appliquer ces politiques de bonne foi, que le projet de loi définit comme agissant «avec une croyance et un objectif honnêtes», respectant les «normes d'utilisation équitable» et «agissant sans intention frauduleuse». Une plate-forme ne remplit pas l'exigence de bonne foi si elle s'engage dans une « application intentionnellement sélective» de ses politiques ou si elle ne respecte pas les promesses publiques ou privées qu'elle fait aux utilisateurs.

Une partie de cela semble OK sur le papier – qui ne veut pas que les plateformes soient honnêtes? Dans la pratique, cependant, ce sera un champ de mines légal qui conduira inévitablement à une surcensure. Le projet de loi permet aux utilisateurs individuels de poursuivre en justice des plates-formes qui, selon eux, n'ont pas agi de bonne foi et crée des dommages-intérêts pouvant aller jusqu'à 5 000 $ en cas de violation. Cela permettrait également aux avocats des utilisateurs de percevoir leurs honoraires et leurs frais pour engager des poursuites.

En d'autres termes, chaque utilisateur qui pense que les actions d'une plate-forme étaient injustes, frauduleuses ou autrement non faites de bonne foi aurait une action en justice contre une plate-forme. Et il y aurait des années de litiges avant que les tribunaux ne décident des normes de ce qui constitue la bonne foi en vertu du projet de loi de Hawley.

Étant donné la dure réalité qu'il est impossible de modérer parfaitement, voire même parfaitement, le contenu généré par les utilisateurs, ce projet de loi signifie le plein emploi pour les avocats, mais peu d'avantages pour les utilisateurs. Comme nous l'avons dit à plusieurs reprises , la modération du contenu sur une plate-forme avec un grand nombre d'utilisateurs entraîne inévitablement des incohérences et des erreurs, et elle nuit de manière disproportionnée aux groupes et aux voix marginalisés. De plus, les efforts pour automatiser la modération du contenu créent des problèmes supplémentaires car les machines sont terribles pour comprendre la nuance et le contexte de la parole humaine.

Cela met les plateformes dans une position impossible: modérez du mieux que vous le pouvez et faites de toute façon l'objet de poursuites – ou réduisez considérablement le contenu que vous hébergez dans l'espoir d'éviter les litiges. De nombreuses plateformes choisiront ce dernier cours et éviteront d'héberger des discours qui pourraient être controversés.

Comme la proposition du MJ, le projet de loi viole également le premier amendement. Ici, il le fait en faisant des distinctions entre des haut-parleurs particuliers. Cette distinction déclencherait un examen rigoureux en vertu du premier amendement, un critère juridique qui oblige le gouvernement à démontrer que (1) la loi favorise un intérêt gouvernemental impérieux et (2) la loi est étroitement adaptée pour atteindre cet intérêt. Le projet de loi du sénateur Hawley échoue sur les deux fronts: bien qu'il existe des préoccupations légitimes concernant la domination d'une poignée de plateformes en ligne et leur pouvoir de limiter le discours des utilisateurs d'Internet, rien ne prouve qu'exiger des plateformes en ligne privées de pratiquer la modération de contenu de bonne foi représente un intérêt gouvernemental impérieux. Même en supposant qu'il existe un intérêt impérieux, le projet de loi n'est pas étroitement adapté. Au lieu de cela, il interfère largement avec la discrétion éditoriale des plates-formes en les soumettant à des poursuites sans fin de toute personne affirmant avoir été lésée, aussi frivole soit-elle.

Comme l'EFF l'a déclaré au Congrès en 2019 , la création de l'article 230 a inauguré une nouvelle ère de communauté et de connexion sur Internet. Les gens peuvent trouver des amis anciens et nouveaux sur Internet, apprendre, partager des idées, s'organiser et s'exprimer. Ces connexions peuvent se produire de manière organique, souvent sans implication de la part des plates-formes où elles ont lieu. Considérez que certains des mouvements militants modernes les plus vitaux – # MeToo, #WomensMarch, # BlackLivesMatter – sont universellement identifiés par des hashtags. Forcer les plates-formes à surcenser leurs utilisateurs, ou pire, donner au MJ plus de possibilités de cibler des plates-formes qu'il n'aime pas, n'est jamais la bonne décision. Nous exhortons le Congrès à rejeter les deux propositions.