A OpenAI suspendeu a geração de vídeos deepfake retratando Martin Luther King Jr. com seu aplicativo de inteligência artificial Sora 2, após um pedido formal do espólio do líder dos direitos civis.
A decisão ocorre depois que o gerador de vídeos criou conteúdo considerado desrespeitoso e ofensivo, levando a uma onda de críticas nas redes sociais e entre especialistas em ética digital.
O Sora ganhou notoriedade nos Estados Unidos por sua capacidade de criar vídeos hiper-realistas, que passaram a circular com imagens falsas de celebridades e figuras históricas em contextos bizarros ou inapropriados.
Conteúdo bloqueado
- Entre os conteúdos mais polêmicos estavam versões adulteradas do discurso “Eu Tenho um Sonho” e cenas que mostravam Martin Luther King Jr. e Malcolm X discutindo entre si.
- Segundo o Washington Post, um dos clipes chegou a exibir sons racistas simulados, o que provocou repúdio público e motivou o pedido da família King.
- Em resposta, a OpenAI anunciou que bloquearia a criação de vídeos com o ativista, “para fortalecer a proteção de figuras históricas”.
Famílias pedem respeito a legados
A filha do líder, Bernice A. King, fez um apelo nas redes sociais pedindo que as pessoas “parem de usar a imagem de meu pai” em vídeos falsos. O caso ecoa outros protestos semelhantes, como o de Zelda Williams, filha do ator Robin Williams, que pediu o fim de vídeos criados por IA imitando seu pai.
Apesar da decisão de restringir o uso da imagem de King, o Sora 2 ainda permite deepfakes de outras personalidades, como John F. Kennedy, Rainha Elizabeth II e Stephen Hawking, o que mantém o debate sobre os limites éticos da tecnologia.
Em comunicado, a OpenAI declarou reconhecer os “interesses de liberdade de expressão” na representação de figuras históricas, mas afirmou que as famílias devem ter controle sobre a imagem de seus entes falecidos.
A empresa disse estar “em diálogo direto com figuras públicas e proprietários de conteúdo” para definir novos controles e salvaguardas dentro do Sora 2, com o objetivo de evitar o uso indevido da tecnologia.
Tags: