Sistemas de inteligência artificial (IA) foram usados para criar milhares de imagens de abuso sexual infantil. É o que revelou a Internet Watch Foundation (IWF), num relatório publicado na quarta-feira (25). A organização também alertou para o risco da tecnologia “sobrecarregar” a internet.
Para quem tem pressa:
- A Internet Watch Foundation (IWF) revelou que pedófilos estão utilizando sistemas de inteligência artificial (IA) para criar imagens de abuso sexual infantil;
- A IWF identificou e removeu quase três mil dessas imagens apenas no Reino Unido e descobriu sete sites com esse tipo de conteúdo acessíveis na internet aberta;
- Os pedófilos utilizam a IA para alterar e reproduzir imagens de vítimas reais que sofreram violações, bem como para “despir” crianças em fotos comuns para contextualizá-las em cenários de abuso;
- Metade das imagens representavam crianças entre seis e dez anos, enquanto 143 retratavam crianças de três a seis anos e duas imagens representavam bebês com menos de dois anos;
- As denúncias de imagens de abuso e exploração sexual infantil na internet aumentaram 84% entre janeiro e setembro de 2023 em comparação ao mesmo período em 2022, segundo a organização não governamental Safernet.
A IWF informou que identificou e removeu quase três mil imagens de abuso sexual infantil geradas por IA só no Reino Unido. Além disso, a organização descobriu sete sites com imagens de abuso sexual infantil geradas por IA acessíveis na internet aberta.
Leia mais:
- ChatGPT pode ser enganado para criar códigos maliciosos, diz estudo
- Aprenda a usar o ChatGPT: 10 dicas valiosas para criar perguntas precisas
- ChatGPT e IA: o que os chatbots sabem sobre nós e com quem compartilham dados?
Os nossos piores pesadelos estão se tornando realidade. O assustador é estarmos vendo criminosos treinando deliberadamente a IA em imagens de vítimas reais. As crianças que foram violadas no passado estão agora sendo incorporadas em novos cenários porque alguém, em algum lugar, quer ver isto.
Susie Hargreaves, executiva-chefe da IWF, ao The Guardian
IA e abuso infantil
Os pedófilos têm usado a IA para alterar e reproduzir imagens de vítimas reais que sofreram violações. Além disso, usam a tecnologia para “despir” crianças – apagar suas roupas – que aparecem em fotos comuns para contextualizá-las em cenários de abuso.
No relatório divulgado nesta semana, a IWF mostrou os resultados da investigação de 11.108 imagens geradas por IA compartilhadas num fórum de abuso infantil na dark web.
Destas, a organização reporta 2.978 imagens de abuso geradas por inteligência artificial. E, segundo Susie, 2.562 “eram tão realistas que a lei britânica as trata da mesma forma como se fossem imagens reais de abuso”.
Ainda segundo o relatório, metade dessas imagens representava crianças com idades entre os seis e os dez anos. O documento também apontou que 143 imagens retratavam crianças de três a seis anos, enquanto duas imagens retratavam bebês (menores de dois anos).
Mais de 560 imagens foram classificadas como Categoria A – o tipo de imagem mais grave – incluindo violação, tortura sexual e brutalidade.
O relatório do IWF também alerta para o comércio crescente de imagens de abuso sexual geradas por IA, acrescentando que meninas são as mais visadas – elas aparecem em 99% das imagens.
Crescimento de denúncias
As denúncias de imagens de abuso e de exploração sexual infantil na internet cresceram 84% entre janeiro e setembro de 2023, em comparação ao mesmo período em 2022. As informações são da organização não governamental Safernet, que atua na promoção dos direitos humanos na internet desde 2005.
No período analisado, a Safernet recebeu 54.840 novas denúncias de conteúdos com imagens de crianças abusadas sexualmente. Em 2022, foram 29.809 novas denúncias. O presidente da Safernet Brasil, Thiago Tavares, disse, em entrevista à Agência Brasil, que esses dados são referentes a “novos conteúdos ou novas páginas”, que nunca tinham sido denunciadas antes.
Tavares acrescenta:
Isso chama a atenção para o fato de que novos conteúdos e novas imagens estão sendo produzidas e estão sendo disponibilizadas na internet e colocando mais crianças em risco não só para acessar conteúdo dessa natureza mas também de serem vítimas de situações de assédio e de abuso.
Para o presidente da Safernet Brasil, parte desse aumento se deve a um novo fenômeno que tem preocupado muito a organização: a venda de packs (pacotes de imagens). “São imagens autogeradas por adolescentes e vendidas na forma de pacotes em aplicativos de troca de mensagens, em aplicativos como o Discord e Telegram”, explica.
Além disso, a Polícia Federal divulgou dados relacionados a operações que envolvem crimes cibernéticos com crianças e adolescentes como vítimas. Só em 2023, foram realizadas 627 operações dessa natureza – um aumento de quase 70% em comparação a 2022.
Tags: