Ce que le lanceur d’alerte Facebook nous dit à propos de Big Tech

À travers ses fuites et son témoignage au Congrès , Frances Haugen, la « dénonciatrice Facebook », a révélé beaucoup de choses sur le fonctionnement de Facebook. Beaucoup de ces révélations sont des choses que nous soupçonnons depuis longtemps mais dont nous avons maintenant la preuve : Facebook se concentre sur la croissance des utilisateurs et du temps passé sur ses plateformes à l'exclusion de tout le reste. Pour Facebook, la croissance prime sur tout, même sur la santé et la sécurité de ses utilisateurs les plus vulnérables.

Dans son témoignage, Haugen a expliqué que chez Facebook, les métriques sont reines. La « division de croissance » de Facebook s'efforce d'augmenter « l'engagement des utilisateurs » et elle y parvient. Il s'agit d'un processus circulaire : Facebook identifie le contenu avec lequel les utilisateurs « interagissent » et le promeut, ce qui conduit à plus d'engagement. Les systèmes automatisés de Facebook n'évaluent pas ce qui est engagé – ils identifient et classent simplement les matériaux en fonction de l'engagement lui-même. Ainsi, selon Haugen, le système de notation automatisé classera l'intimidation réussie comme « engageante » à côté de tout autre élément qui attire beaucoup d'attention. Les politiciens qui font des déclarations extrêmes obtiennent plus d'engagement, et sont donc mieux classés par Facebook, et sont donc vus par plus d'utilisateurs de Facebook.

Ce n'est pas comme si Facebook pouvait faire la distinction entre le « bon » et le « mauvais » contenu même s'il le voulait. Haugen dit que "l'IA" que Facebook utilise pour évaluer le contenu est mauvaise pour les publications en anglais et pire pour les publications dans d'autres langues. Facebook « se concentre sur l'échelle plutôt que sur la sécurité » et « choisit le profit plutôt que la sécurité ».

Ce ne sont pas de simples priorités, elles se reflètent dans les incitations que Facebook offre à ses ingénieurs, designers et chefs de produits, dont les bonus sont liés à la quantité d'« interactions sociales significatives » (AKA « engagement ») générées par leurs produits.

De plus, Facebook ne se contente pas de traire sa base d'utilisateurs existante et vieillissante pour « l'engagement ». Le plan d'activation/désactivation de Facebook pour un "Instagram pour les enfants" vise à développer ses utilisateurs en habituant les gens à ses produits dès le plus jeune âge, en normalisant ce type d'engagement-maximisation en tant qu'élément intrinsèque des interactions sociales, y compris pendant le jeu. -Rendez-vous. Haugen ne pense pas que la "pause" de Facebook de ce plan soit permanente. Elle pense qu'ils attendent juste que la chaleur se calme.

Pour Facebook, la chaleur ne s'éteint jamais. L'entreprise est toujours au milieu d'un scandale spectaculaire ou d'un autre. Le témoignage de Haugen confirme ce que nous soupçonnions depuis longtemps – les crises sans fin de Facebook sont le résultat d'une culture d'entreprise pourrie et de priorités terribles.

Mme Haugen a déclaré au Congrès qu'elle pensait que Facebook devrait être réformé, pas démantelé. Mais le système défaillant de Facebook est alimenté par un modèle de croissance à tout prix. Le nombre d'utilisateurs de Facebook et la profondeur croissante des données qu'il recueille à leur sujet est son principal argument de vente. En d'autres termes, la méchanceté de Facebook est inextricablement liée à sa grandeur.

La position de l'EFF est que si, lorsque la méchanceté d'une entreprise est indissociable de sa taille, il est temps d'envisager de briser cette entreprise.

La position de l'EFF est que si, lorsque la méchanceté d'une entreprise est indissociable de sa taille, il est temps d'envisager de briser cette entreprise.

Une grande partie de cette dernière controverse sur Facebook concerne les publicités Instagram, en particulier les publicités qu'elle montre aux jeunes et leurs effets sur leur santé mentale.

Rappelez-vous cependant : Facebook n'a pas créé Instagram. Il l'a acheté, explicitement pour neutraliser un concurrent. Cela soulève la question de savoir si cette fusion aurait dû être autorisée en premier lieu, et si elle devrait être dénouée aujourd'hui.

Facebook a acheté Instagram parce que c'était une « menace. « Instagram grandissait, en attirant les plus jeunes utilisateurs qui quittaient Facebook. Les recherches de Facebook ont ​​montré que les jeunes utilisateurs le considéraient comme un service pour les personnes âgées. L'attractivité décroissante de Facebook a provoqué des frictions après la fusion de l'entreprise avec Instagram, alors que les Facebookers bouillonnaient de jalousie envers leurs collègues Instagram . La méfiance de Facebook à l'égard d'Instagram a finalement forcé les fondateurs d'Instagram à quitter l'entreprise, laissant tout ce qui concerne Instagram à Facebook. L'accent mis par Facebook sur l'engagement, son insularité, son besoin de regrouper tous les services sous l'égide de l'application Facebook principale, tout cela est enraciné dans sa mentalité de croissance à tout prix.

Pour la plupart des entreprises, l'objectif est de maximiser le profit. Sans contrôles significatifs, cette impulsion peut devenir folle, conduisant à une conduite contraire à l'éthique, abusive et, éventuellement, illégale. L'histoire de Facebook, avec ses récidives malgré les amendes record, les décrets sur consentement et les forces du marché, montre que cela ne fait tout simplement pas l'affaire.

En établissant les ruptures comme une possibilité sérieuse que les entreprises doivent considérer, nous pouvons les discipliner, afin qu'elles se contrôlent mieux, et nous pouvons ouvrir un espace pour des solutions réglementaires plus créatives. Et si cela ne réussit pas, nous pouvons les séparer, créant plus de concurrence qui disciplinera leur comportement.

Les ruptures ne sont pas et ne seront jamais la première ligne de défense pour chaque problème avec la technologie. Ils peuvent être compliqués et coûteux, et l'histoire a montré que lorsqu'un démantèlement n'est pas suivi d'une mise en application, les parties fragmentées d'un monopole peuvent tout simplement se reconstituer. L'éclatement d'AT&T en 1984 a été le résultat de près de deux décennies de travail du ministère de la Justice et a conduit à une diversification radicale du marché. Mais au cours des deux décennies qui ont suivi, un examen laxiste des fusions et une déréglementation ont permis au marché des télécommunications de se concentrer à nouveau sur une poignée de grands acteurs.

Nous pouvons et devons poursuivre plusieurs stratégies qui nous amèneront à un endroit où nous n'aurons pas à nous soucier chaque matin de ce que Facebook nous fait aujourd'hui.

Les ruptures sont un outil puissant. Pour que les ruptures soient efficaces, nous avons également besoin d'autres outils : toute une boîte à outils pleine de moyens de maintenir les entreprises en rupture et d'assurer un approvisionnement sain de concurrents innovants. Cela signifie améliorer les examens des fusions, éliminer les obstacles à l'interopérabilité et adopter des lois sur la confidentialité bien conçues pour protéger les consommateurs et uniformiser les règles du jeu.