Parler librement : le Dr Carolina Are

Le Dr Carolina Are est boursière en innovation au Northumbria University Center for Digital Citizens . Ses recherches portent principalement sur l’intersection entre les abus en ligne et la censure. Son projet de recherche actuel étudie l'approche d'Instagram et de TikTok en matière de signalement malveillant du contenu de la « zone grise », ou du contenu qui respecte les directives de la communauté des médias sociaux.

Elle est également blogueuse et créatrice elle-même, ainsi qu'écrivaine, professeur de pole dance et activiste primée. Le Dr Are s'est assis pour une interview avec Jillian York de l'EFF pour discuter de l'impact de la censure des plateformes sur les travailleuses du sexe et les communautés militantes, de la nécessité d'un changement systémique autour de la modération du contenu et de la façon dont il y a de l'espoir chez les jeunes générations.

Jillian York : Pouvez-vous vous présenter et nous parler un peu de votre travail ? Plus précisément, pouvez-vous nous donner une idée de la façon dont vous êtes devenu un défenseur de la liberté d’expression ?

Dr Carolina Are : Bien sûr, je m'appelle Carolina Are, je suis chercheuse en innovation au Northumbria University Center for Digital Citizens et je me concentre principalement sur la déplateforme, la censure en ligne et la gouvernance des plateformes sur la parole, mais aussi sur les corps, la nudité et le travail du sexe. .

J'y suis arrivé d'un point de vue assez personnel et égoïste, dans le sens où je faisais mon doctorat sur la modération des abus en ligne et les théories du complot tout en faisant également de la pole dance comme passe-temps. À l’époque, mes comptes sur les réseaux sociaux étaient séparés parce que je ne savais toujours pas comment je voulais me présenter au monde universitaire. J’avais donc un compte pole dance sur Instagram et un compte académique sur Twitter. C'était à peu près à l'époque où FOSTA/SESTA était approuvé aux États-Unis. En 2019, Instagram a commencé à interdire massivement – ​​à rétrograder de manière algorithmique – le contenu des poledancers . Et j'étais dans une position vraiment unique pour observer la modération de contenus qui n'étaient pas réellement modérés et qui auraient dû l'être – c'était horrible, c'était du contenu abusif – alors que mes vidéos étaient fortement censurées et n'atteignaient pas les téléspectateurs. plus. J’ai donc commencé à m’intéresser davantage à la modération de la nudité, aux circonstances politiques qui entouraient la démarche de censure. Et j'ai commencé à créer de nombreuses campagnes d'activisme à ce sujet, dont une qui a conduit Instagram à s'excuser directement auprès de moi et des poledancers pour l'interdiction de la pole dance.

Donc, à partir de là, j’ai en quelque sorte réorienté mes recherches destinées au public vers la modération de la nudité, de l’activité sexuelle et de la sexualité et simplement de la sollicitation sexuelle en général. Et j'ai ensuite unifié ma personnalité en ligne pour refléter à la fois mes expériences et mon expertise. Je suppose que c'est comme ça que j'en suis arrivé là. Cela a commencé avec moi, avec ce qui m'est arrivé et avec la censure à laquelle mes comptes ont été confrontés. Et grâce à cela, je suis devenue beaucoup plus consciente de la censure du travail du sexe, des gens qui sont bien pires que moi, ce qui m'a fait découvrir de nombreux réseaux militants fantastiques qui protestaient contre cela et a radicalement changé l'orientation de mes recherches. .

York : Comment définissez-vous personnellement le déplatforming et quel type d'impact cela a-t-il sur les danseurs de pole, sur les travailleuses du sexe, sur toutes les différentes communautés avec lesquelles vous travaillez ?

Ce que je définirais comme une déplateforme, c'est la suppression d'un contenu ou d'un compte complet d'une plateforme de médias sociaux ou d'une plateforme Internet. Cela signifie que vous perdez l'accès au compte, mais vous perdez également l'accès à toutes les communications que vous avez pu avoir via ce compte – s'il s'agit d'une application, par exemple. Et vous perdez également l'accès à votre contenu sur ce compte. Tout cela a donc un impact considérable sur les personnes qui travaillent, communiquent et s’organisent via les réseaux sociaux ou via leurs plateformes.

Disons que si vous êtes un activiste et que votre principal réseau d'activistes passe par des plateformes – peut-être parce que les gens ont une personnalité publique anonyme et qu'ils ne veulent pas vous donner leurs données, leur email, leur numéro de téléphone – vous perdez-y l’accès si vous êtes déplatformé. De même, si vous êtes une petite entreprise ou un créateur de contenu et que vous faites votre promotion en grande partie via vos comptes de réseaux sociaux, vous perdez votre moyen de promotion. Vous perdez votre réseau de clients. Vous perdez tout ce qui vous aide à gagner de l'argent. Et, en plus de cela, pour beaucoup de gens, comme le montrent quelques articles sur lesquels je travaille actuellement, bien sûr, les plates-formes sont un bureau – comme un espace où ils font des affaires – mais en même temps elles ont ce rôle hybride émotionnel/communautaire avec les affaires supplémentaires en plus.

Cela signifie donc que oui, vous perdez l’accès à votre entreprise, vous perdez l’accès à votre réseau d’activistes, aux opportunités d’éducation, aux opportunités d’apprentissage, aux opportunités d’organisation – mais vous perdez également l’accès à vos souvenirs. Vous perdez l'accès à vos amis. Je fais donc partie de ces personnes qui deviennent des intermédiaires entre des plateformes comme Meta et des personnes qui ont été supprimées à cause de mes recherches. Je les mets parfois en relation avec la plateforme afin qu'ils puissent restaurer des comptes supprimés par erreur. Et tout récemment, j'ai aidé quelqu'un qui – sans que je le demande, parce que je fais cela gratuitement – ​​a fini par me faire gagner beaucoup d'argent par PayPal parce que j'étais la seule personne à l'aider alors que l'infrastructure et les appels de la plateforme étaient inefficaces. Et ce qu'elle a dit, c'est : "Instagram était la seule plateforme où j'avais des photos de ma belle-mère décédée, et je n'y avais plus accès et je les aurais perdues si tu ne m'avais pas aidé."

Il y a donc tout un impact émotionnel et financier que cela a sur les gens. Parce que, évidemment, vous êtes très stressé, inquiet et terrifié si vous perdez votre principale source de revenus ou d'organisation ou d'éducation et de soutien émotionnel. Mais vous perdez également l’accès à vos souvenirs et à vos proches. Et je pense que c’est une conséquence directe de la façon dont les plateformes se sont présentées à nous. Ils se sont présentés comme le guichet unique pour la communauté ou pour devenir un entrepreneur solo. Mais ensuite, ils sont comme, oh seulement pour ce genre de créateurs, pas pour les créateurs dont nous ne nous soucions pas ou que nous n’aimons pas. Pas pour les comptes que nous ne souhaitons pas promouvoir.

York : Vous avez mentionné plus tôt que certains de vos travaux antérieurs portaient sur du contenu qui devrait être supprimé. Je ne pense pas que nous soyons des absolutistes de la liberté d'expression, mais j'ai du mal avec la question de l'autorité et de savoir qui décide de ce qui doit être supprimé ou supprimé de la plate-forme – en particulier dans un environnement où nous voyons de nombreux projets de loi de censure dans le monde entier visant à protéger les enfants contre certains des mêmes contenus dont nous craignons qu'ils soient censurés. Comment voyez-vous cette ligne et qui devrait décider ?

C'est donc une excellente question, et il est très difficile de trouver une réponse claire car je pense que la ligne change pour tout le monde et pour les expériences spécifiques de chacun. Je pense que je fais référence à quelque chose qui est déjà couvert, par exemple, par la loi sur la discrimination. Accuser si carrément les gens d'un crime dont il a été prouvé hors ligne qu'ils n'avaient pas commis. Lorsqu’il est prouvé que ce n’est pas le cas et que quelqu’un dit cela en ligne pour insulter, harceler ou offenser quelqu’un – et cela devient une sorte de violence collective – alors je pense que c’est à ce moment-là qu’il faut supprimer quelque chose. Parce que des personnes spécifiques qui sont ciblées en masse subissent un préjudice direct hors ligne. Il est cependant difficile de trouver la limite, car cela pourrait arriver même, disons pour quelque chose comme #MeToo , lorsque les choses ont cessé d'être vraies à propos de certaines personnes. Il est donc très difficile de trouver la ligne.

Je pense que l'approche des plateformes en matière de modération algorithmique – une déplateforme totale pour les choses – ne fonctionne pas vraiment lorsque des nuances sont nécessaires. Le cas que j'observais était très spécifique car il commençait par une théorie du complot concernant une affaire criminelle, puis les gens qui croyaient ou non à cette théorie du complot ont commencé à s'insulter les uns les autres ainsi que tous ceux qui sont impliqués dans l'affaire. Je pense donc que les théories du complot sont un autre scénario intéressant, car vous ne harcelez directement personne si vous dites : « Il vaut mieux s’injecter de l’eau de Javel dans les veines plutôt que de se faire vacciner. » Mais en même temps, partager ces informations peut être très préjudiciable à l’opinion publique sur certaines choses. Si nous pensons à ce qui se passe avec la rougeole, au fait que certaines maladies réapparaissent parce que les gens sont très opposés aux vaccins d'après ce qu'ils ont lu en ligne. Je pense donc qu'il existe déjà tout un système hors ligne pour les informations fausses, pour les informations qui ciblent directement des groupes spécifiques et des personnes spécifiques d'une certaine manière. Je pense donc que ce qui se passe souvent avec ce que je constate avec la législation en ligne, c'est qu'elle devient très large, et que les plateformes l'appliquent de manière très large parce qu'elles veulent juste couvrir leurs arrières et ne veulent pas être perçues comme telles. promouvoir tout ce qui pourrait être nuisible à distance. Mais je pense que ce qui ne se produit pas – ou ce qui se passe de manière moins évidente – c'est de regarder ce que nous avons déjà et de réfléchir à la manière de l'appliquer en ligne de manière à ne pas détruire l'infrastructure dont nous disposons. Et je pense que cela est très évident dans le cas des théories du complot et des abus en ligne.

Mais si nous revenons aux personnes dont nous parlions : les travailleuses du sexe, les personnes qui publient de la nudité en ligne, du porno et des trucs comme ça. La pornographie a déjà été considérée comme une forme de liberté d'expression lors de procès datant des années 1950, alors pourquoi y revenons-nous ? Au lieu d’investir dans cela et d’obliger les plateformes à se conformer de manière excessive, pourquoi n’investissons-nous pas dans une meilleure éducation sexuelle hors ligne afin que les personnes qui accèdent à la pornographie en ligne ne pensent pas que c’est ainsi que se déroule le sexe ? Ou s'il y a réellement des abus commis contre des personnes, pourquoi ne réglementons-nous pas avec des lois qui portent sur les abus et non sur la nudité et l'activité sexuelle ? Parce qu’être nu n’est pas la même chose que faire l’objet d’un trafic. Donc oui, je pense que le débat manque vraiment de nuances et d'applications ponctuelles, car les plateformes sont plus intéressées par les approches globales, car elles sont plus faciles à appliquer pour elles.

York : Vous travaillez directement avec des entreprises, avec des plateformes sur lesquelles les individus et les communautés comptent énormément. Quelles stratégies vous ont semblé efficaces pour convaincre les plateformes de l’importance de préserver le contenu ou de garantir que les gens ont le droit de faire appel, etc. ?

C’est une question intéressante car personnellement, j’ai trouvé très peu de choses efficaces. Et même lorsqu’ils sont apparemment efficaces, il y a un inconvénient. D'après mon expérience, par exemple, parce que j'ai un passé dans le marketing des médias sociaux, les relations publiques et la communication, je choisis toujours la voie des relations publiques (relations publiques). Ce qui fait que les plateformes se sentent mal pour quelque chose. Ou, s'ils ne se sentent pas mal personnellement, j'essaie de leur donner une mauvaise image de ce qu'ils font, du point de vue de leur image. Parce qu'à l'heure actuelle, leurs réponses à tout ne sont pas liées à leur volonté de faire le bien, mais plutôt au fait qu'ils ressentent une pression publique et politique pour des choses qu'ils auraient pu mal commettre. Donc, si vous soulignez des hypocrisies dans leur modération, si vous soulignez qu'ils se sont mal comportés , alors ils ont tendance à s'excuser.

Le problème est que les excuses sont plutôt vides de sens – c'est un discours de relations publiques. Je pense que parfois, ils ont été utiles dans le sens où pendant un certain temps, les plateformes ont nié l'existence du shadow bannissement. Et le fait que j'ai pu leur demander de s'excuser en leur montrant des preuves, même si cela n'a pas vraiment changé grand-chose au résultat du shadow bannissement – ​​même si maintenant Meta informe les créateurs du shadowbanning, ce qui n'était pas quelque chose qui se produisait auparavant – mais ça montrait vraiment aux gens qu'ils n'étaient pas fous. L’éclairage des utilisateurs est un véritable problème avec les plateformes, car elles nieront que quelque chose se passe jusqu’à ce qu’il soit trop grave pour eux de le nier. Et je pense que la voie des relations publiques peut être très utile pour au moins reconnaître que quelque chose se passe. Parce que si quelque chose n’est même pas reconnu par les plateformes, vous n’avez que très peu d’arguments pour le remettre en question.

Le problème est que le fait que les plateformes réagissent de manière PR, montre un manque d'attention de leur part et conduit aussi parfois à des changements qui semblent bons sur le papier ou qui semblent bons sur le papier, mais quand on regarde réellement leurs implications, cela devient un peu ridicule. Par exemple, Naomi Nicholas Williams , qui est une incroyable militante et mannequin noire grande taille – donc quelqu'un qui est terriblement affectée par la censure parce qu'elle fait partie d'une série de données démographiques que les plateformes ont tendance à capter davantage en matière de modération. Elle s'est battue si durement sur les plateformes pour la censure de son contenu qu'elle les a amenées à introduire cette politique opposant les ventouses aux seins et la saisie des seins. Le problème est qu'il existe désormais une politique écrite selon laquelle vous êtes autorisé à mettre vos seins en coupe, mais si vous les serrez trop fort, vous êtes censuré. Cela conduit donc à ce scénario vraiment étrange dans lequel une société Internet crée des normes sur le degré d’acceptabilité de saisir vos seins, ou sur la manière dont vous devriez saisir vos seins. Ce qui devient un peu ridicule parce qu’ils n’ont pas leur place pour dire cela, et ils n’ont aucune expertise pour le dire.

Je pense donc que parfois, il est bon de souligner cette hypocrisie encore et encore, pour au moins reconnaître que quelque chose se passe. Mais je pense que pour un véritable changement systémique, les gouvernements doivent intervenir pour traiter la liberté d’expression en ligne comme une véritable liberté d’expression et créer des freins et contrepoids pour les plateformes afin qu’elles puissent être essentiellement – ​​sinon condamnées à une amende – du moins tenues responsables des choses qu’elles font. censurer de la même manière qu’ils sont tenus responsables de choses comme la promotion de choses nuisibles.

York : C'est un moment dans le temps où beaucoup de choses vraiment horribles se produisent en ligne. Y a-t-il quelque chose qui vous donne particulièrement espoir en ce moment ?

Je pense que quelque chose sur lequel j'ai beaucoup d'espoir, c'est que les enfants vont bien. Je pense que quelque chose qui est assez important dans la modération du discours sur la nudité est « est-ce que quelqu'un ne pensera pas aux enfants ? Que se passe-t-il si un adolescent voit quelque chose d’absolument ridicule ? Mais chaque fois que je parle avec des jeunes, que ce soit dans le cadre d'activités d'engagement public, que j'aime donner une conférence publique ou que parfois j'enseigne des séminaires ou que je communique avec eux en ligne, ils semblent incroyablement compétents pour découvrir quand une image est falsifiée, ou lorsqu'une image est fausse, ou même lorsqu'un comportement de certaines personnes en ligne n'est pas acceptable. Ils sont incroyablement au courant du consentement, ils savent que la pornographie n’est pas du vrai sexe. Je pense donc que nous n’accordons pas suffisamment de crédit aux enfants sur ce qu’ils savent déjà. Bien sûr, il est parfois sombre de penser que ces enfants grandissent avec des notions quantifiables de popularité et qu’ils peuvent voir beaucoup de choses horribles en ligne. Mais ils semblent également très conscients du consentement, de l’autonomie corporelle et des libertés que les gens devraient avoir avec leur contenu en ligne – chaque fois que j’enseigne aux étudiants de premier cycle et aux plus jeunes, ils semblent très au courant du plaisir et de l’éducation sexuelle . Cela me donne donc beaucoup d’espoir. Parce que même si je pense que beaucoup de militants, certainement l’extrême droite évangélique américaine et aussi l’extrême droite que nous avons en Europe, considéreraient les enfants comme des personnes angéliques complètement innocentes qui n’ont pas leur mot à dire sur ce qui leur arrive. Je pense qu'en fait, beaucoup d'entre eux le savent, et c'est vraiment agréable à voir. Cela me donne vraiment de l'espoir.

York : J'adore ça. Les enfants vont vraiment bien. J'ai également beaucoup d'espoir dans ce sens. Dernière question : qui est votre héros de la liberté d'expression ?

Il y en a tellement qu’il est vraiment difficile d’en trouver un seul. Mais je dirais qu'étant donné l'époque dans laquelle nous nous trouvons, je dirais que quiconque fait encore du journalisme et de l'éducation à Gaza… de ma part, du monde extérieur, chapeau bas. Je pense qu'ils se battent pour leur vie tout en essayant de nous informer – depuis la position extrêmement privilégiée dans laquelle nous nous trouvons – de ce qui se passe. Et je pense que c'est tout simplement incroyable compte tenu de ce qui se passe. Donc je pense que pour le moment je les dirais.

Ensuite, dans mon domaine de recherche en général, il existe de nombreux collectifs de recherche fantastiques et des collectifs sur le travail du sexe qui ont définitivement changé tout ce que je sais. Je parle donc de Hacking/Hustlin g, du Dr Zahra Stardust en Australie. Mais au Royaume-Uni également, nous avons de fantastiques syndicats de travailleurs du sexe, comme le Sex Worker Union et les Ethical Strippers, qui dispensent une éducation incroyable via des plateformes bien qu'ils soient constamment censurés. Donc, oui, quiconque défend la liberté d’expression sans être entendu par le grand public fait, je pense, un excellent travail. Et je dis cela, bien sûr, lorsqu’il s’agit de communautés marginalisées, et non d’hommes blancs prétendant qu’ils sont censurés du haut de leurs colonnes de journaux.