Ao mesmo tempo em que o mundo comemora os avanços da Inteligência Artificial, as autoridades ligam o sinal de alerta para o uso criminoso dessa nova tecnologia.
Uma preocupação quase global hoje é com as deepfakes. São mentiras profundas, se traduzirmos ao pé da letra. Com o auxílio da IA, criminosos conseguem criar vídeos e áudios que copiam a imagem e a voz de uma pessoa e colocam ela falando absurdos. Só que não foi ela quem disse. Foi uma máquina.
O fenômeno não é novo, mas ele evoluiu, assim como as tecnologias desse segmento. E a tendência é de um uso desenfreado dessas ferramentas, principalmente em período eleitoral.
Leia mais
- Eleições 2024 e a era dos deepfakes com IA
- Deepfake: golpista simula reunião e rouba US$ 25 milhões de empresa
- Meta terá equipe dedicada às eleições da UE
Aqui no Brasil, o Tribunal Superior Eleitoral (TSE) aprovou, no fim de fevereiro, algumas resoluções que tratam justamente desses assuntos. Elas passam a valer já nas disputas municipais de outubro deste ano.
A medida repercutiu bastante na imprensa internacional. O site gringo TechXplore, por exemplo, trouxe uma reportagem destacando a batalha do nosso país contra as deepfakes.
O que o TSE decidiu?
- O TSE aprovou resoluções para as eleições municipais de 2024, regulamentando pela primeira vez o uso de IA no pleito.
- As regras incluem proibição de deepfakes, exigência de identificação de conteúdo gerado por IA e restrições ao uso de chatbots e avatares na comunicação com eleitores.
- As novas resoluções dão à Justiça Eleitoral ferramentas para combater desinformação e as chamadas milícias digitais.
- Os candidatos pegos usando tecnologia deepfake na campanha poderão ser impedidos de concorrer ou ter seus mandatos rescindidos, se eleitos.
- O presidente do TSE, Alexandre de Moraes, disse que esses são alguns dos “padrões mais modernos do mundo em relação ao combate à desinformação, às notícias falsas e ao uso ilícito de inteligência artificial”.
- Ele alertou que a tecnologia deepfake poderia “mudar o resultado das eleições”.
- Vale destacar que o ministro vai deixar a Corte em junho.
- Durante as eleições de outubro, o TSE será comandado pela ministra Cármen Lúcia, também do Supremo Tribunal Federal (STF).
Suspeitas de deepfake
As eleições ainda estão longe, mas a Polícia Federal já investiga pelo menos 3 casos suspeitos de deepfake aqui no Brasil.
Um deles envolve o prefeito de Manaus, David Almeida (Avante), que fez uma denúncia à PF no fim do ano passado.
Em um áudio atribuído a ele, a voz do político, emulada por Inteligência Artificial, trata os professores da rede municipal de ensino como “vagabundos” e diz que os servidores “querem um dinheirinho de mão beijada”.
O áudio manipulado foi divulgado em meio a um protesto de profissionais de ensino. Almeida diz que o áudio é falso e tem o objetivo de criar indisposição com a categoria em ano eleitoral.
A PF também analisa casos envolvendo o prefeito de Crissiumal, uma pequena cidade do Rio Grande do Sul, Marco Aurélio Nedel (PL); e o caso de Gustinho Ribeiro (Republicanos), que é deputado federal e marido da prefeita de Lagarto (SE), Hilda Ribeiro.
Em paralelo a essas investigações e às resoluções do TSE, a Câmara dos Deputados e o Senado Federal prometeram acelerar a tramitação de projetos para regulamentar o uso da IA em todas as áreas, não somente no período eleitoral.
Não é exclusividade do Brasil
A tecnologia deepfake também está alarmando especialistas nos Estados Unidos, onde os oponentes do presidente Joe Biden lançaram há alguns meses uma chamada gerada por IA usando o que parecia ser sua voz, convencendo as pessoas a não votarem nas primárias.
O Centro sem fins lucrativos de Combate ao Ódio Digital (CCDH) alertou na quarta-feira da semana passada que várias ferramentas generativas de IA continuam permitindo a criação de imagens enganosas relacionadas a candidatos políticos e à votação.
No caso mais recente, apoiadores do ex-presidente Donald Trump estariam divulgando imagens falsas do republicano ao lado de pessoas negras. O objetivo? Diminuir a rejeição do empresário com essa parcela do eleitorado.
Diante desses episódios, vinte gigantes digitais, incluindo Meta, Microsoft, Google, OpenAI, TikTok e X (antigo Twitter), se uniram no mês passado e assumiram um compromisso de combater o conteúdo de IA concebido para enganar os eleitores.
A eleição presidencial dos EUA, marcada para novembro, será um termômetro interessante para medirmos o quanto as autoridades conseguem enfrentar – e controlar – essas novas tecnologias.
Aguardemos.
Tags: