YouTube aperta cerco contra deepfakes em vídeos de true crime

O YouTube não vai mais permitir conteúdo que “simula de forma realista” narração de menores de idade e outras vítimas de crimes sobre como morreram ou a violência que sofreram. A mudança faz parte da atualização nas políticas da plataforma voltadas para cyberbullying e assédio.

Para quem tem pressa:

• O YouTube atualizou suas políticas para proibir conteúdo que “simule de maneira realista” relatos de menores de idade e outras vítimas de crimes sobre como morreram ou a violência sofrida;
• A mudança mira conteúdos sobre crimes reais (“true crime”) no qual deepfakes imitam vítimas (inclusive crianças), algo descrito por famílias de vítimas como “nojento”;
• A violação da nova política resultará na remoção do conteúdo e restrições temporárias nas atividades do canal. As penalidades aumentam com repetidas violações, podendo levar à exclusão do canal;
• Plataformas como YouTube e TikTok têm introduzido políticas para conteúdo gerado por IA, exigindo a rotulação explícita deste tipo de conteúdo para evitar confusão entre os usuários.

A atualização parece mirar num subgênero de conteúdo relacionado a crimes reais (“true crime“): deepfakes com relatos de vítimas sobre a violência sofrida por elas. Alguns vídeos trazem vozes geradas por inteligência artificial (IA) semelhantes a de crianças. Famílias de vítimas retratadas nos vídeos, ouvidas pelo The Mirror, chamaram o conteúdo de “nojento”.

Leia mais:

• YouTube é a rede social mais utilizada por adolescentes nos EUA, aponta pesquisa
• YouTube: 4 dos melhores curtas de terror para ver gratuitamente
• 15 filmes clássicos que dá para assistir de graça no YouTube

IA e true crime no YouTube: o que muda?

A atualização na política do YouTube resultará numa penalidade que remove o conteúdo do canal e limita temporariamente o que o usuário pode fazer na plataforma. 

Um primeiro aviso, por exemplo, limita os usuários de postarem vídeos por uma semana. Se a política for violada novamente dentro de 90 dias, as penalidades aumentam, com a eventual possibilidade do YouTube deletar o canal do usuário.

Plataformas – entre elas, o YouTube – revelaram, nos últimos meses, ferramentas de criação impulsionadas por IA. Junto a elas, vieram novas políticas em torno de conteúdo criado com a tecnologia que poderia confundir os usuários. 

O TikTok, por exemplo, agora exige que os criadores rotulem conteúdo gerado por IA como tal. E o próprio YouTube anunciou política rigorosa em torno de “clones” de voz de músicos feitos com IA – com outro conjunto de regras mais frouxas para outros tipos de “clones”.