Uma startup de inteligências artificiais permite que qualquer um clone vozes em questão de segundos. O problema é que a tecnologia está sendo usada para reproduzir a voz de celebridades falando frases eróticas e até discurso de ódio.
A empresa se chama 4chan e o software é da ElevenLabs. A ferramenta oferece uma combinação mais potente, com mais velocidade, qualidade e disponibilidade do que as outras versões, segundo o The Verge.
Leia mais:
- Elon Musk bate recorde de homem que mais perdeu dinheiro na história
- Inconsistência contábil de R$20 bilhões da Americanas preocupa analistas
- Reed Hastings não é mais o CEO da Netflix; saiba quem ocupa o cargo
O abuso do software foi relatado pela primeira vez pelo Motherboard, que encontrou posters no 4chan compartilhando clipes de voz gerados por IAs que soam como famosos. Emma Watson e Joe Rogan estão na lista.
“Em um exemplo, uma voz gerada que soa como a atriz Emma Watson lê uma seção de Mein Kampf (livro de Adolf Hitler). Em outro, uma voz muito parecida com a de Ben Shapiro faz comentários racistas sobre Alexandria Ocasio-Cortez (política americana).
Joseph Cox, do Motherboard
A ElevenLabs comercializa seu produto com o objetivo de gerar dublagens para TV, séries e até para o YouTube de forma mais rápida. Ela não é a única neste mercado, mas seu software não precisa de muitas edições – permitindo a geração de áudios em tempo real em diversos idiomas diferentes, como neste exemplo:
Em uma postagem feita no Twitter, a empresa reconheceu os abusos que estavam ocorrendo, observando que havia notado “um número crescente de casos de uso indevido de clonagem de voz”. Afirmou, ainda, que estaria explorando maneiras de mitigar esses problemas e que pode “rastrear qualquer áudio gerado até o usuário”.
Já assistiu aos nossos novos vídeos no YouTube? Inscreva-se no nosso canal!
Fernanda Lopes Soldateli é redator(a) no Olhar Digital
Bruno Capozzi é jornalista, mestre em Ciências Sociais e editor executivo do OD.
