O Estado do Novo México (EUA) está acusando Facebook e Instagram, ambos da Meta, de recomendar conteúdo sexual para usuários menores de idade e de promover esses usuários mais vulneráveis a supostos pedófilos.
A ação civil foi protocolada nesta terça-feira (5) no tribunal local, conforme o The Wall Street Journal. Nela, consta que a “Meta permitiu que o Facebook e o Instagram se tornassem mercados para pedófilos em busca de crianças para atacarem”.
Leia mais:
- Facebook: 5 dicas para você ficar protegido na rede social
- Por que os preços de smartphones e tablets são tão altos no Brasil?
- Meta atualiza suas ferramentas de IA; conheça as novidades
O que diz a ação contra a Meta
- Na ação, os acusadores indicam que a Meta não implementou proteção para evitar que crianças menores de 13 anos utilizassem seus serviços;
- Além disso, a empresa teria visado justamente a vulnerabilidade dessa faixa etária para aumentar suas receitas publicitárias;
- Há ainda a acusação de que Mark Zuckerberg, CEO e fundador da Meta, é pessoalmente responsável por decisões de produtos que agravam riscos para as crianças em suas plataformas.
A ação foi aberta após o gabinete do procurador-geral do Novo México conduzir investigação que incluiu criação de quatro contas-teste em ambas as redes sociais, sendo dois meninos e duas meninas.
Esses perfis alegavam ser de adolescentes ou pré-adolescentes, incluindo fotos geradas pela IA de crianças fictícias. Os algoritmos da Meta recomendaram conteúdos sexuais para tais contas, que também receberam inúmeras mensagens explícitas e propostas sexuais, argumenta a ação.
“Issa Bee”
Uma das contas que mais atraiu atenção foi a de “Issa Bee”, suposta garota de 13 anos de Albuquerque, Novo México, que chegou a ter milhares de seguidores adultos. Eles encheram o falso perfil com convites para bate-papos privados e conteúdos sexuais tanto de crianças, como de adultos.
A denúncia destaca que o perfil recebeu, no Messenger, “fotos e vídeos de genitália, incluindo pênis expostos, que ela recebia pelo menos de três a quatro vezes por semana”.
Por sua vez, por enquanto, a Meta disse apenas que trabalha diligentemente para proteger seus usuários jovens, mas não comentou a denúncia diretamente.
Usamos tecnologia sofisticada, contratamos especialistas em segurança infantil, reportamos conteúdo ao Centro Nacional para Crianças Desaparecidas e Exploradas e compartilhamos informações e ferramentas com outras empresas e autoridades policiais, incluindo procuradores-gerais do Estado, para ajudar a erradicar predadores.
Meta, em comunicado
Em 2021, Zuckerberg falou pessoalmente sobre a temática infantil. “É muito importante para mim que tudo o que construímos seja seguro e bom para as crianças”, disse.
Em junho, sua companhia criou força-tarefa visando resolver problemas de segurança infantil em suas plataformas após reportagem do próprio WSJ revelar que os algoritmos do Instagram realizava conexão e promoção de contas dedicadas à comissão e compra de conteúdo sexual para menores.
A Meta, por sua vez, disse que removeu mais de 16 mil grupos no Facebook e a expansão de algoritmo de aplicação que identifica contas que se comporta de forma suspeita com crianças, ou que agem de forma a sugerir interesse na exploração infantil.
Já o novo processo foi precedido por grupo de ações coordenadas por outros 41 estados e pelo Distrito de Columbia, movidas no mês de outubro em tribunais federais e estaduais.
Elas alegavam que a Meta construiu intencionalmente seus produtos com recursos viciantes que prejudicam os usuários jovens. Também afirmam que a empresa enganou o público sobre os perigos de uso.
A empresa contestou as alegações e disse trabalhar para apoiar os jovens em suas plataformas.
O procurador-geral do Novo México, Raúl Torrez, indicou que optou por investigar exploração infantil e tráfico humano em seu processo por concluir que as redes da Meta foram além da simples hospedagem de conteúdo de abuso sexual infantil para permitir isso.
Foram citados, ainda, vários casos criminais recentes no Estado, onde pedófilos usaram Instagram e Facebook para preparar crianças, sendo que um único acusado recrutou mais de 100 menores de idade no Facebook.
Condução da investigação
As quatro contas foram criadas conforme as crianças e adolescentes costumam fazer para serem aprovados nas redes sociais: informando serem maiores de idade.
Por exemplo, “Issa Bee” foi cadastrada com data de nascimento de 2002 (tendo 21 anos para a plataforma), mas tinha várias postagens que remetiam a uma criança: a perda do último dente de leite e o primeiro dia na sétima série, por exemplo. A acusação indica que o perfil deveria se parecer com o de uma criança que, possivelmente, estava sendo traficada pela mãe.
Recomendações
O perfil de uma suposta menina de 13 anos, após dois dias que foi criado, recebeu recomendação para seguir conta com 199 mil seguidores que postava abertamente sobre pornografia adulta no Facebook.
Além disso, o Estado indica que, rapidamente, as contas foram abordadas por pedófilos. Algumas dessas contas falsas ingressaram em grupos de namoro que não exigem verificação de idade, frequentemente administradas por adultos que enviavam mensagens privadas às crianças.
Os perfis também teriam sido inundados com pedidos de seguidores de adultos; estes, então, os enviavam elogios desagradáveis, imagens de sexo infantil, convite para grupos privados e, até, ofertas para serem remuneradas em troca de sexo.
A situação foi além: uma das contas-teste foi ingressada em grupo de usuários que buscam novo emprego no Estado. Ela foi “contratada” por um desses membros, que ofereceu um valor caso a “criança” fizesse sexo em um vídeo pornográfico. Esse usuário teria afirmado que aceita crianças com idade a partir dos dez anos.
Dada a gravidade de alguns dos casos de recrutamento para atos pornográficos, o gabinete do procurador-geral os encaminhou às autoridades para possível processo criminal.
O processo indica ainda que, quando as contas-teste sinalizaram à Meta haver conteúdo impróprio por meio dos sistemas de denúncia para usuários, Facebook e Instagram retornavam o contato alegando que as imagens eram aceitáveis.
Entre os conteúdos sinalizados, estavam imagens de menores de idade nuas compartilhadas via bate-papo em grupo ao qual um dos perfis foi adicionado.
Torrez afirma que a Meta ocultou a escala dos perigos que as crianças enfrentam em suas plataformas e que não conseguiu abordar o óbvio tráfico sexual.
Os recursos da plataforma em si não foram projetados paraa evitar essa combinação de prováveis predadores e vítimas. Presumi incorretamente, como muitos pais, que uma empresa grande e bem financiada como a Meta não teria se permitido tornar-se local alternativo para essa atividade.
Raúl Torrez, procurador-geral do Novo México
Tags: