Um grupo de alunos da Westfield High School, em Nova Jersey (EUA), usou um aplicativo de inteligência artificial (IA) para montar fotos de meninas da escola em imagens pornográficas. Chamada de deepfake, a prática foi descoberta e alertada por algumas das vítimas, que souberam das fotos após um dos garotos decidir contar o motivo do “burburinho” na escola.
Para quem tem pressa:
- Após a denúncia à escola, alunos confessaram que uma ferramenta online alimentada por IA foi utilizada para criar as imagens e depois compartilhá-las com outras pessoas;
- Conforme reportou o WSJ, a instituição também confirmou o incidente num e-mail aos pais, mas uma porta-voz das Escolas Públicas de Westfield recusou-se a fornecer detalhes sobre o número de alunos envolvidos ou confirmar se e qual ação disciplinar foi tomada, alegando confidencialidade;
- Os pais das meninas afetadas pedem por uma resolução, já que as filhas foram expostas, trazendo dor emocional e psicológica;
- Nem todas as meninas sabiam da existência de suas imagens geradas por IA, muitas foram alertadas pela própria escola;
- A polícia foi acionada e investiga o caso.
Leia mais!
- Atriz de Vingadores processa app de IA após “roubo” de voz e imagem
- Cúpula global de IA: China, EUA e UE concordam em trabalhar juntos
- Música dos Beatles criada por IA será lançada hoje
Este é um incidente muito sério. As novas tecnologias tornaram possível a falsificação de imagens e os alunos precisam saber o impacto e os danos que essas ações podem causar a terceiros.
Mary Asfendis, diretora da Westfield High School.
Não sendo só um caso relativamente novo para a polícia, já que vem amparado pelo boom da IA, os pais também debatem sobre aplicar ou não uma medida mais severa.
Estou apavorada com a forma como isso vai vir à tona e quando. Minha filha tem um futuro brilhante e ninguém pode garantir que isso não a impactará profissionalmente, academicamente ou socialmente.
Dorota Mani, uma das mães, ao WSJ.
A polícia de Westfield, cidade de Nova Jersey, investiga o caso, que deve demorar meses para ser concluído. A situação foi parar também no gabinete do estado — principalmente ante a corrida de governos para regular o uso da tecnologia: um senador estadual pediu aos promotores do condado para acompanhar o caso de perto.
Vale lembrar que a situação não entra em conflito apenas com o uso malicioso da IA, mas pode ser baseado também em bullying e assédio digital.
IA nas escolas: caso também ocorreu no Brasil
Não surpreendentemente, está semana uma escola do Brasil, no Rio de Janeiro, também enfrentou a mesma situação. De acordo com a CNN, pais de alunos do Colégio Santo Agostinho receberam uma circular da direção da escola alertando para o uso de ferramentas de IA na criação de montagens de fotos de alunas.
Mais de 20 vítimas do assédio já foram identificadas. O colégio se colocou à disposição das famílias das alunas e afirmou que tomará medidas disciplinares cabíveis, em âmbito escolar. A instituição alertou também que os pais prestem mais atenção na vida virtual dos filhos.
A Polícia Civil foi acionada e o caso é investigado na Delegacia de Proteção à Criança e ao Adolescente.
Tags: