Algorithme de la mort : Alors que nous nous dirigeons vers une vie immersive dans le métaverse, les alarmes sonnent à tue-tête. Les entreprises technologiques doivent mettre de l'ordre dans leurs algorithmes, sinon cela pourrait être un avenir risqué pour certains.
Bien que nous ne soyons pas encore sur Web3, les problèmes avec Web2 sont toujours incroyablement préoccupants. Alors que les algorithmes créés par les grandes technologies peuvent être utiles à la société, comme ceux qui prédisent la criminalité à l'avance , il y en a d'autres qui sont un désastre total.
Le coroner Andrew Walker a identifié la cause de la mort de Molly Rose Russell, âgée de 14 ans, comme étant l'automutilation. Il a dit que cela était dû à la dépression et à l'impact négatif du contenu en ligne.
Walker a déclaré qu'il "ne serait pas sûr pour nous de reconnaître le suicide comme cause de décès".
Algorithme de la mort : Instagram et Pinterest
L'expert a déclaré qu'Instagram et Pinterest utilisaient des algorithmes qui sélectionnaient et partageaient du contenu inapproprié avec l'étudiante sans qu'elle ne demande l'information. Walker rapporte : "Certains contenus ont romancé l'automutilation des jeunes, tandis que d'autres encourageaient l'isolement et rendaient impossible de discuter du problème avec des personnes qui pourraient aider."
Selon The Guardian , Russell a enregistré, aimé ou publié plus de 2 000 publications Instagram en 2017 à la veille de sa mort. Ils étaient tous associés au suicide, à la dépression ou à l'automutilation. La jeune fille a également vu 138 films de même nature. Parmi eux se trouvaient des épisodes de la série 13 Reasons Why pour les 15+ et 18+.
Un pédopsychiatre a déclaré lors de l'audience qu'après avoir analysé ce que Russell avait vu peu de temps avant sa mort, il n'avait pas pu dormir profondément pendant des semaines.
"10 badges de dépression que vous pourriez aimer"
Les enquêteurs ont trouvé des centaines de photos d'automutilation et de suicide sur le compte Pinterest de la jeune fille. Il a également été constaté que la plateforme envoyait des e-mails aux étudiants recommandant des contenus inappropriés. Certains d'entre eux avaient des en-têtes qui disaient "10 épingles de dépression que vous pourriez aimer".
Il est probable que le matériel visionné par Molly, déjà atteinte d'un trouble dépressif et vulnérable aux blessures liées à l'âge, ait eu un effet négatif sur elle. Il est également probable qu'il ait contribué de manière plus que minime au décès de l'enfant.
Les responsables de Meta et Pinterest se sont excusés et ont admis que Russell avait rencontré du contenu sur des plateformes qui ne devrait pas être présenté. Un porte-parole de Meta a déclaré: "Nous voulons qu'Instagram offre une expérience positive à tout le monde, en particulier aux adolescents. Nous examinerons de près le rapport complet du coroner lorsqu'il le remettra."
Pinterest a déclaré qu'il améliore constamment la plate-forme et s'engage à assurer la sécurité de tous.
Autres cas
TikTok a été poursuivi en mai pour de prétendues "recommandations mortelles" de ses algorithmes. En décembre 2021, l'assistante virtuelle d'Amazon, Alexa, a proposé un défi fatal à un garçon de 10 ans.
C'est un nouveau monde courageux, mais aussi effrayant. La grande technologie ne peut pas être satisfaite du rôle futur qu'elle aura dans ce problème.
Avez-vous quelque chose à dire sur la mort de l'algorithme ou autre chose ? Écrivez -nous ou rejoignez la discussion sur notre chaîne Telegram. Vous pouvez également nous trouver sur Tik Tok , Facebook ou Twitter .
Le post Algoritmo Death : Instagram et Pinterest Suggested Content « Killed a Teenager » est apparu pour la première fois sur BeInCrypto .