Com o início da temporada eleitoral, uma preocupante modalidade de fake news ganha destaque no cenário político brasileiro: a utilização de inteligência artificial (IA) para a criação de áudios falsos de políticos. Os estados afetados até o momento são Amazonas, Rio Grande do Sul e Sergipe, onde as autoridades policiais estão investigando suspeitas relacionadas ao uso das chamadas deepfakes, como mostra reportagem do O Globo.
Deepfake é uma técnica avançada de adulteração de áudios e vídeos, na qual o tom, o timbre e até mesmo a maneira de falar de uma pessoa são recriados artificialmente. Essa manipulação dificulta a identificação da falsificação, enganando os eleitores que acreditam estar ouvindo declarações reais dos políticos.
Leia mais:
- Inteligência artificial: conheça os pontos negativos e perigos da IA
- O que é Deep Voice e como se proteger de golpes com voz clonada
- O que são deepfakes e qual a relação com inteligência artificial?
Em Manaus, o prefeito David Almeida (Avante) tornou-se vítima dessa nova prática, denunciando à Polícia Federal (PF) ter sido alvo de deepfake no final do ano passado. No áudio supostamente atribuído a Almeida, a voz, gerada por inteligência artificial, referia-se aos professores da rede municipal de ensino como “vagabundos” e afirmava que os servidores “querem um dinheirinho de mão beijada”.
A PF, tratou o episódio como um laboratório para futuras investigações de crimes eleitorais. Desde a instauração do inquérito em 22 de dezembro do ano passado, dois suspeitos já foram ouvidos, e uma perícia no arquivo digital confirmou a manipulação no áudio.
As investigações seguem em curso, visando estabelecer não apenas a responsabilidade pelos deepfakes, mas também criar um modelo para casos semelhantes que possam surgir durante as disputas municipais deste ano.
As autoridades alertam para a gravidade do uso de inteligência artificial nesse contexto, ressaltando a necessidade de medidas rigorosas para coibir práticas que distorcem a verdade e comprometem a integridade do processo democrático.
Os casos
- David Almeida (Avante) — Prefeito de Manaus (AM)
- Áudio Manipulado: “O que mais tem é professor vagabundo que quer o dinheirinho de mão beijada. Eu não paguei o Fundeb, mas o povo esquece, tu vai ver”.
- Contexto: Divulgado durante protesto de profissionais por abono do Fundeb. Almeida alega que o áudio é falso, visando criar indisposição com a categoria em ano eleitoral.
- Marco Aurélio Nedel (PL) — Prefeito de Crissiumal (RS)
- Áudio Manipulado: “Vou falar do aumento ano que vem (2024) (…) Depois vamos levando na conversa, entendeu? Pessoal com pouco estudo, analfabeto, já ganha demais.”
- Contexto: Compartilhamento de áudio onde o prefeito xinga funcionários do parque de obras. Nedel diz que o áudio é falso e acusa retaliação da oposição, visando o processo eleitoral para sua reeleição.
- Gustinho Ribeiro (Republicanos) — Deputado Federal e Marido da Prefeita de Lagarto (SE), Hilda Ribeiro
- Áudio Manipulado: “Pode arrochar, bote pra f…, eles lá não têm poder nenhum, quem está no poder somos nós.”
- Contexto: Ribeiro alega que foi alvo de montagem por inteligência artificial na gravação, onde a voz atribuída a ele critica adversários políticos. O parlamentar denunciou o caso às autoridades para investigação.
Combate às fake news
A preocupação com a disseminação de conteúdos falsos, especialmente deepfakes, tem mobilizado o Congresso Nacional, o Tribunal Superior Eleitoral (TSE) e o Ministério da Justiça e Segurança Pública em busca de soluções para combater a manipulação de voz e imagens com propósitos enganosos.
Câmara e Senado devem acelerar a tramitação do tema, mas até o momento não ocorreu uma articulação entre as duas Casas para definir qual texto terá prioridade. O presidente da Câmara, Arthur Lira (PP-AL), expressou a intenção de avançar com o assunto logo após o recesso parlamentar.
Ele defende que a regulação desse tipo de conteúdo seja uma responsabilidade do Congresso, questionando a edição de regras pelo TSE.
O TSE está programando audiências públicas para o presente mês, visando a edição de uma resolução que proíba a manipulação de voz e imagens com conteúdo falso.
A proposta inclui até mesmo a possibilidade de cassação de mandato para os responsáveis. Conforme a minuta, a retirada do conteúdo do ar ficará sob a responsabilidade das plataformas, e o uso de IA sem o propósito de gerar desinformação também será regulamentado.
O Ministério da Justiça e Segurança Pública, por meio da secretária de Direitos Digitais, Estela Aranha, está acompanhando e estudando as medidas em tramitação no Congresso e no TSE. Na última semana, Aranha se reuniu com representantes de empresas de softwares para discutir estratégias e soluções referentes ao combate à disseminação de deepfakes.
Tags: