Recentemente, viralizou no X/Twitter e TikTok vídeos falsos de celebridades (já mortas) praticando atos obscenos e fazendo piadas racistas. As mídias foram geradas online via Sora 2: um software da OpenAI que transforma prompts de texto em vídeos realistas. Dentre as figuras públicas vítimas dos vídeos, podemos citar Malcolm X, Robin Williams, Martin Luther King Jr. e Bob Ross.
Inicialmente disponibilizado nos EUA e Canadá, o Sora 2 é a segunda versão de um aplicativo desenvolvido pela OpenAI, a mesma elaboradora do famosíssimo ChatGPT. No app, é possível enviar um prompt de texto para a IA, que se responsabiliza por criar um vídeo curto e mega realista baseado na descrição dada pelo usuário.
O resultado destes vídeos impressionou os internautas norte-americanos e uma febre de mídias, protagonizadas por figuras famosas já falecidas, tornou-se uma febre nas redes sociais.
Para quem tem pressa:
- Internautas lotaram a web com vídeos falsos de figuras famosas norte-americanas (já falecidas) em situações comprometedoras ou fazendo piadas racistas;
- As mídias foram geradas pelo Sora 2, software da OpenAI que transforma texto em vídeos curtos e realistas;
- Familiares lamentam o desrespeito propagado online.
Segundo o Washington Post, vídeos com Michael Jackson, Elvis Presley e Amy Winehouse ficaram tão famosos devido ao realismo que muitos internautas já não sabiam discernir se a mídia era realmente gerada por IA ou não.
Malcolm X, outrora um notável ativista de direitos civis nos Estados Unidos, aparece em uma deepfake fazendo piadas grosseiras, lutando contra Martin Luther King Jr., e falando sobre cometer atos escatológicos em si mesmo.
Leia mais:
- Sora 2 aumenta preocupações sobre o impacto ambiental da IA
- Sora 2 inaugura era da IA em vídeo e reacende debate ambiental
- Qual a diferença entre Sora, Sora 2 e app Sora da OpenAI?
Outro vídeo preocupante mostra Martin Luther King Jr. (um dos principais líderes do movimento contra a segregação racial nos EUA): durante o famoso discurso “I Have a Dream”, ele faz barulhos de macaco.
Em discursos anteriores, a OpenAI já havia relatado que o processo de conversão de texto em vídeo retrataria pessoas reais, sim, mas apenas sob consentimento prévio. Isso, contudo, abriu uma brecha: a utilização de imagem de celebridades, palestrantes e demais figuras históricos já falecidos.
Ilyasah Shabazz, filha de Malcolm X, comentou ao The Washington Post que “não queria ver os vídeos gerados por IA de seu pai” e que “é profundamente desrespeitoso e doloroso ver a imagem do meu pai usada de maneira tão arrogante e insensível quando ele dedicou sua vida à verdade“.
Sobre os incidentes, a OpenAI comentou que sua política “está baseada em fortes interesses de liberdade de expressão na representação de figuras históricas“, no entanto, com a recepção negativa, informaram que os familiares ofendidos com os vídeos terão o direito de solicitar o bloqueio das imagens utilizadas pelo Sora 2.
Tags: