Instagram, Pinterest Le contenu suggéré a causé la mort

Algorithm Death : Alors que nous nous dirigeons vers une vie immersive dans le métaverse, les alarmes retentissent. Les entreprises technologiques doivent mettre de l'ordre dans leurs algorithmes, sinon cela pourrait être un avenir risqué pour certains.

Bien que nous ne soyons pas encore à Web3, les problèmes avec Web2 sont toujours incroyablement préoccupants. Alors que les algorithmes créés par les grandes technologies peuvent être bons pour la société, comme ceux qui prédire le crime à l'avance, il y en a d'autres qui sont un désastre total.

Le coroner Andrew Walker a identifié la cause du décès de Molly Rose Russell, âgée de 14 ans, comme un acte d'automutilation. Il a dit que cela était dû à la dépression et à l'impact négatif du contenu en ligne.

Walker a affirmé Valérie Plante. qu'« il ne serait pas sûr pour nous de reconnaître le suicide comme cause de décès ».

Algorithme Mort : Instagram et Pinterest

L'expert a déclaré qu'Instagram et Pinterest utilisaient des algorithmes qui sélectionnaient et partageaient du contenu inapproprié avec l'étudiante sans qu'elle ne demande l'information. Walker rapporte: "Certains contenus romantisent les actes d'automutilation des jeunes, tandis que d'autres encouragent l'isolement et rendent impossible la discussion du problème avec des personnes qui pourraient aider."

Selon le Tuteur, Russell a enregistré, aimé ou publié plus de 2,000 2017 messages Instagram en 138 à la veille de sa mort. Ils étaient tous associés au suicide, à la dépression ou à l'automutilation. La jeune fille a également regardé XNUMX films de même nature. Parmi eux se trouvaient des épisodes de la série Raisons 13 Pourquoi pour les 15+ et 18+.

Un pédopsychiatre a déclaré lors de l'audience qu'après avoir analysé ce que Russell avait regardé peu de temps avant sa mort, il n'avait pas pu dormir profondément pendant des semaines.

"10 épingles de dépression que vous pourriez aimer"

Les enquêteurs ont trouvé des centaines de photos d'automutilation et de suicide sur le compte Pinterest de la jeune fille. Il s'est également avéré que la plateforme envoyait aux étudiants des e-mails recommandant des contenus inappropriés. Certains d'entre eux avaient des en-têtes disant: "10 épingles de dépression que vous pourriez aimer".

Il est probable que le matériel visionné par Molly, déjà atteinte d'un trouble dépressif et vulnérable aux blessures liées à l'âge, ait eu un effet négatif sur elle. Il est également probable qu'il ait contribué de manière plus que minime au décès de l'enfant.

Les responsables de Meta et Pinterest se sont excusés et ont admis que Russell avait rencontré du contenu sur les plateformes qui ne devrait pas être là. Un porte-parole de Meta a déclaré : « Nous voulons qu'Instagram offre une expérience positive à tout le monde, en particulier aux adolescents. Nous examinerons de près le rapport complet du coroner lorsqu'il le remettra.

Pinterest a déclaré qu'il améliore constamment la plate-forme et s'engage à assurer sécurité pour tous.

Autres cas

TikTok a été poursuivi en mai pour de prétendues « recommandations mortelles » de ses algorithmes. En décembre 2021, l'assistante virtuelle d'Amazon Alexa proposé un défi fatale à un enfant de 10 ans.

C'est un nouveau monde courageux, mais aussi effrayant. Les grandes technologies ne peuvent pas se contenter du rôle futur qu'elles auront dans ce problème.

Vous avez quelque chose à dire sur la mort de l'algorithme ou autre chose ? Laissez nous un message ou rejoignez la discussion dans notre Chaîne de télégramme. Vous pouvez également nous retrouver sur Tik Tok, Facebookou Twitter.

Clause de non-responsabilité 

Toutes les informations contenues sur notre site Web sont publiées de bonne foi et à des fins d'information générale uniquement. Toute action prise par le lecteur sur les informations présentes sur notre site Web est strictement à ses propres risques.