A popularização dos mecanismos de Inteligência Artificial (IA) com o lançamento do ChatGPT trouxe revoluções no mundo da tecnologia, mas também preocupações. Entre elas, o limite da capacidade dos softwares e seu potencial de espalhar conteúdos falsos ou enviesados.
Sam Altman, o CEO da OpenAI e considerado o “pai do ChatGPT”, foi um dos que demonstrou ressalvas quanto ao uso indevido de IA e pediu a regulação da tecnologia. Um dos pontos levantados por Altman — e que preocupa também outros especialistas do setor — é o potencial dos chatbots de influenciar eleições presidenciais, inclusive a dos Estados Unidos de 2024.
Leia mais:
- Deepfakes seguem à solta; ferramentas de detecção não acompanham ritmo
- Como identificar fotos “falsas” criadas por IA
- Como usar o Midjourney para produzir artes feitas com inteligência artificial
Estados Unidos 2024
- Os Estados Unidos já estão ensaiando para a disputa presidencial de 2024 — e a IA já começou a interferir.
- Deepfakes (imagens e áudios de IA que imitam seres humanos) do atual presidente dos EUA, Joe Biden, e da ex-candidata à presidência Hillary Clinton já foram criados e chegaram às redes sociais.
- Nos vídeos falsos, Biden estaria proferindo falas transfóbicas e Clinton, declarando apoio a Ron DeSantis, atual governador da Flórida e principal rival do ex-presidente Donald Trump em uma disputa pela candidatura pelo Partido Republicano.
- Utilizar as ferramentas de IA para forjar falas e espalhar informações falsas pode atrapalhar eleições presidenciais no mundo todo, e os efeitos destrutivos da tecnologia já começam a ser sentidos.
- O próprio Trump chegou a compartilhar em sua rede social Truth Social, no início desse mês, um vídeo falso de um âncora da CNN caçoando do político; o filho do ex-presidente, Donald Trump Jr., repostou o trecho no Twitter.
- O Comitê Nacional Republicano foi outro que espalhou conteúdos falsos: a organização usou ferramentas de vídeo para criar um anúncio de 30 segundos mostrando o que aconteceria se “o presidente mais fraco dos Estados Unidos” fosse reeleito. O vídeo mostra a China invadindo Taiwan e São Francisco sendo fechada pelo crime.
Preocupações com a IA
Formas de falsificar vozes e imagens sempre existiram, mas se tornaram mais fáceis e acessíveis com a Inteligência Artificial. Se antes as clonagens custavam cerca de US$ 10 mil, agora ferramentas como o Midjourney, por exemplo, cria deepfakes convincentes por US$ 60 por mês.
Um membro sênior do Brookings Institution’s Center for Technology Innovation, Darrell West, se preocupa com a capacidade dos eleitores de distinguir o que é falso e verdadeiro.
Vai ser muito difícil para os eleitores distinguir o verdadeiro do falso. E você pode imaginar como os apoiadores de Trump ou de Biden poderiam usar essa tecnologia para fazer o oponente parecer ruim.
Darrell West
Deepfakes
De acordo com a DeepMedia, uma empresa que detecta mídia sintética, houve três vezes mais deepfakes de vídeos e oito vezes mais de voz online este ano em comparação com o mesmo período em 2022.
A estimativa é que sejam mais de 500 mil deepfakes de vídeo e voz compartilhadas mundialmente até o final de 2023.
O que as plataformas têm feito?
- As principais plataformas de mídia social, como Facebook, o Twitter e o YouTube, têm se esforçado para proibir e remover as deepfakes, mas a eficácia desse policiamento varia.
- O próprio CEO da OpenAI, Sam Altman, concordou que as eleições presidenciais são uma “área significativa de preocupação” e pediu a regulamentação da tecnologia.
- A empresa foi uma das poucas que tomou medidas para restringir o uso na política: o DALL-E, o gerador de imagens da companhia, não gera figuras públicas, e a OpenAI proíbe o uso “em escala” de seus produtos para fins políticos.
- Quando solicitado a criar imagens de Trump e Biden, o software responde que fazê-lo “não segue nossa política de conteúdo”.
- Porém, outros políticos dos EUA, incluindo o ex-vice-presidente Mike Pence, podem ser gerados.
- A Midjourney, uma das principais ferramentas usadas nas deepfakes, ainda não têm políticas nesse sentido, mas havia indicado que faria mudanças nas políticas de uso do software antes da eleição, para combater desinformação.
Com informações de Reuters
Tags: