Uma startup de inteligências artificiais permite que qualquer um clone vozes em questão de segundos. O problema é que a tecnologia está sendo usada para reproduzir a voz de celebridades falando frases eróticas e até discurso de ódio. 

A empresa se chama 4chan e o software é da ElevenLabs. A ferramenta oferece uma combinação mais potente, com mais velocidade, qualidade e disponibilidade do que as outras versões, segundo o The Verge

publicidade

Leia mais:

O abuso do software foi relatado pela primeira vez pelo Motherboard, que encontrou posters no 4chan compartilhando clipes de voz gerados por IAs que soam como famosos. Emma Watson e Joe Rogan estão na lista.

publicidade
voz
Crédito: LuckyStep/Shutterstock

“Em um exemplo, uma voz gerada que soa como a atriz Emma Watson lê uma seção de Mein Kampf (livro de Adolf Hitler). Em outro, uma voz muito parecida com a de Ben Shapiro faz comentários racistas sobre Alexandria Ocasio-Cortez (política americana).

Joseph Cox, do Motherboard

A ElevenLabs comercializa seu produto com o objetivo de gerar dublagens para TV, séries e até para o YouTube de forma mais rápida. Ela não é a única neste mercado, mas seu software não precisa de muitas edições – permitindo a geração de áudios em tempo real em diversos idiomas diferentes, como neste exemplo: 

Em uma postagem feita no Twitter, a empresa reconheceu os abusos que estavam ocorrendo, observando que havia notado “um número crescente de casos de uso indevido de clonagem de voz”. Afirmou, ainda, que estaria explorando maneiras de mitigar esses problemas e que pode “rastrear qualquer áudio gerado até o usuário”.

publicidade

Já assistiu aos nossos novos vídeos no YouTube? Inscreva-se no nosso canal!