Les mineurs peuvent utiliser le nouvel outil "Take It Down" du NCMEC pour signaler du matériel explicite d'eux-mêmes qui a été - ou qu'ils pensent être - partagé en ligne.
Getty Images
Meta finance un effort national pour aider les enfants et les adolescents à retirer leurs images nues ou sexuellement explicites des réseaux sociaux. La propre évolution du géant vers le chiffrement de bout en bout pourrait-elle gêner ?
Te National Center for Missing & Exploited Children a lancé une plateforme, financée par Meta, pour aider les enfants et les adolescents à faire supprimer des photos et vidéos nues ou sexuelles d'eux-mêmes des réseaux sociaux.
Le nouveau service pour les mineurs, appelé Enlève ça, a été dévoilé un an après la sortie d'un outil similaire pour adultes connu sous le nom de ArrêtNCII (abréviation d'imagerie intime non consensuelle). Aujourd'hui, Take It Down ne fonctionnera que sur cinq plates-formes qui ont accepté de participer : Facebook et Instagram appartenant à Meta, ainsi que Yubo, OnlyFans et Pornhub.
« Nous avons créé ce système parce que de nombreux enfants sont confrontés à ces situations désespérées », a déclaré la présidente et chef de la direction du NCMEC, Michelle DeLaune. "Notre espoir est que les enfants prennent conscience de ce service et qu'ils ressentent un sentiment de soulagement que des outils existent pour aider à supprimer les images."
La façon dont les entreprises de médias sociaux protègent les enfants et les adolescents – et où elles ne sont pas à la hauteur – est devenue l'une des principales questions de politique technologique bipartite du nouveau Congrès, et celle où les législateurs ont les meilleures chances d'adopter une législation. Pourtant, il y a encore un long chemin à parcourir pour toute proposition visant à créer ou à renforcer des garanties, et en l'absence de lois imminentes, le NCMEC continue d'agir comme un pont entre les entreprises en ligne et les forces de l'ordre sur les questions de sécurité des enfants. En 2021, l'organisation à but non lucratif a reçu près de 30 millions de conseils de l'ensemble de l'industrie concernant la sextorsion apparente et le matériel d'abus sexuel d'enfants sur leurs plateformes. Une majorité a été signalée par des plateformes appartenant à Meta.
Les mineurs et les parents peuvent utiliser L'outil gratuit et anonyme du NCMEC pour signaler le matériel explicite d'une personne mineure qui a été - ou dont ils pensent qu'il sera - diffusé en ligne. Une fois qu'ils ont sélectionné les photos ou vidéos sensibles sur leur appareil, la plate-forme génère l'équivalent d'une empreinte numérique de cette photo (appelée "hachage") que NCMEC partage ensuite avec les sites de médias sociaux participants afin qu'ils puissent essayer de trouver, restreindre ou supprimer, et continuer à surveiller ce contenu.
Les photos ou vidéos en cause notamment ne sortent pas de l'appareil et ne sont visionnées par personne, selon le NCMEC. (Le hachage empêche également les victimes d'être identifiables à la fois par le NCMEC et par l'application de médias sociaux, signalant uniquement qu'une image est nuisible et doit être supprimée.) Le NCMEC a déclaré qu'il n'y a eu aucune violation connue de sa base de données de hachage qui pourrait potentiellement exposer l'identité d'un individu. .
Mais l'un des plus grands obstacles à cet effort est la montée en puissance du chiffrement de bout en bout. "Lorsque les entreprises technologiques mettent en œuvre un cryptage de bout en bout, sans mesures préventives intégrées pour détecter le matériel connu d'abus sexuel d'enfants, l'impact sur la sécurité des enfants est dévastateur", a déclaré DeLaune, président du NCMEC, au Comité judiciaire du Sénat lors d'une audience ce mois-ci. . L'éléphant dans la pièce est que le bailleur de fonds et la société la plus importante impliquée dans Take It Down, Meta, est se déplaçant à un clip vers le chiffrement de bout en bout sur Instagram et Messenger.
Comment les deux organisations peuvent concilier cela est "la question à un million de dollars", a déclaré le vice-président du NCMEC, Gavin Portnoy. Forbes, notant que le NCMEC ne sait toujours pas exactement quels sont les plans de Meta en matière de chiffrement et quelles protections peuvent être en place. (Meta a déclaré qu'il s'agissait d'un travail en cours et que diverses fonctionnalités de cryptage étaient en cours de test sur Instagram et Messenger.)
"Nous construisons Take It Down pour la façon dont Internet et le [fournisseur de services électroniques] sont situés aujourd'hui", a déclaré Portnoy. "C'est vraiment un pont que nous devrons traverser lorsque nous comprendrons mieux à quoi ressemble l'environnement de chiffrement de bout en bout [de Meta] et s'il existe un monde où Take It Down peut fonctionner."
La responsable mondiale de la sécurité de Meta, Antigone Davis, a déclaré Forbes que "le cryptage entraînera que certaines images ne seront pas identifiées par nous" mais qu'il devient une norme de l'industrie dans la messagerie qui est vitale pour la confidentialité et la sécurité des utilisateurs. L'utilisation de la technologie de hachage et le soutien du NCMEC sur des projets comme celui-ci sont parmi plusieurs façons dont Meta essaie "de vraiment s'attaquer au problème", a-t-elle déclaré. (Les deux parties ont refusé de dire combien d'argent Meta a donné au NCMEC pour construire Take It Down.)
"Il n'y a pas de panacée pour résoudre ces problèmes", a déclaré Davis dans une interview, décrivant l'approche de Meta comme "à multiples facettes". En plus de collaborer à ce nouveau système visant à contrecarrer la sextorsion et la diffusion non consensuelle d'images intimes, Meta ne permet pas aux étrangers adultes de se connecter avec des mineurs via ses fonctionnalités de messagerie, a-t-elle déclaré. Il utilise également des classificateurs pour empêcher que les comptes et le contenu des mineurs ne soient transmis aux utilisateurs adultes de Meta qui ont manifesté un comportement suspect en ligne, a-t-elle ajouté.
"J'espère que les gens qui ont eu des images partagées comme ça quand ils étaient jeunes par n'importe qui - par un parent qui les exploitait, par un autre adulte qui les exploitait, par un ex-petit ami ou petite amie - qu'ils se sentiront intéressés à utilisez cet outil », a déclaré Davis.
Le NCMEC a déclaré qu'il avait lancé quelques 200 autres fournisseurs de services électroniques qui ont soumis des informations à sa "CyberTipline" sur l'adhésion au programme Take It Down. Il reste à voir qui d'autre, au-delà de la petite poignée d'acteurs des médias sociaux qui le défendent aujourd'hui, embarquera. Yubo, pour sa part, a déclaré qu'il espérait que ces premiers utilisateurs pousseraient d'autres à se joindre à eux.
"Il faut plus qu'une simple intervention gouvernementale pour atténuer les risques et résoudre les problèmes en ligne", a déclaré le PDG de Yubo, Sacha Lazimi, par e-mail. « Tous les acteurs doivent jouer leur rôle. … La collaboration est essentielle pour identifier des solutions aux grands défis, nous espérons donc voir davantage de plateformes rejoindre l'initiative Take It Down.
Source : https://www.forbes.com/sites/alexandralevine/2023/02/27/meta-ncmec-minors-take-it-down-ncii/