Vozes ‘fake’ geradas por IA inundam o TikTok – e isso é preocupante

Siga o Olhar Digital no Google Discover

Tudo sobre Inteligência Artificial

ver mais

Tudo sobre TikTok

ver mais

Portais que atuam como vigilantes da desinformação notaram um aumento no número de vídeos contendo vozes produzidas (ou emuladas) por inteligência artificial (IA), conforme publicado pelo jornal The New York Times. E as redes sociais – principalmente o TikTok – correm para sinalizar e rotular esse tipo de conteúdo.

Ofertas

Vendido por Amazon

Monitor Gamer AOC AGON G4S 25" 310Hz 0.3ms HDR10 IPS Base Ajustável 25G4S/P

Por R$ 1.479,00

Vendido por Amazon

Tilibra - Estojo Minibox Happy Lilás

De: R$ 38,12
Por: R$ 36,21

Vendido por Amazon

Caneta Gel – CiS Gelyx – Estojo com 6 unidades – Glitter

De: R$ 30,90
Por: R$ 24,96

Vendido por Amazon

Pentel Caneta Izee 4 Cores 1.0 Corpo Branco Tinta Azul Vermelho Verde e Preto SM/BXC470W

De: R$ 15,32
Por: R$ 9,90

Vendido por Amazon

Tilibra - Caderno Brochura Capa Dura 1/4 D+ Rosa 48 Folhas, 317403

De: R$ 11,85
Por: R$ 5,86

Vendido por Amazon

Celular Positivo P26 4G Tela 1,8", Câmera traseira, 48MB RAM 128MB, Bluetooth, Modem Tethering - Preto

Por R$ 139,90

Vendido por Amazon

Mochila Grande E Reforçada Impermeável Para Notebook Antifurto Bolsa Executiva Masculina Feminina Trabalho Viagem Escolar Faculdade Cabo De Aço Saída Usb Saída Fone De Ouvido

De: R$ 149,79
Por: R$ 113,70

Vendido por Amazon

Tilibra D+ - Caderno Brochura Capa Dura, 1/4 Pequeno, 14x20cm, 48 Folhas, Vermelho

De: R$ 11,81
Por: R$ 6,90

Vendido por Amazon

Garmin Relógio Venu 3 Branco 45mm com Monitor Cardíaco de Pulso e GPS

De: R$ 4.699,00
Por: R$ 3.099,00

Vendido por Amazon

eufy Câmera S3 Pro Kit 2+1 por anker, Câmera De Segurança Wi-Fi Externa Sem Fio, 4K, Energia Solar, Visão Noturna MaxColor, Reconhecimento Facial por IA, Compatível com Alexa, Sem taxas mensais

De: R$ 3.499,00
Por: R$ 3.324,00

Vendido por Amazon

eufy HomeBase3, Câmera de segurança, Reconhecimento Facial por IA, Armazenamento Local Expansível até 16TB, Criptografia Avançada, Ecossistema de Segurança eufy, Sem taxas mensais

De: R$ 1.049,00
Por: R$ 799,00

Vendido por Amazon

Bettdow SmartWatch, Relogio Smartwatch Feminino, 1.27" Ecrã tátil, à prova d'água IP68, 100+ Modos Esportivos, chamada Bluetooth, Compatível com Android iOS, voz por IA (Azul)

De: R$ 299,00
Por: R$ 241,44

Vendido por Amazon

Combo Teclado e Mouse sem fio Logitech POP Icon com Teclas e Botões Personalizáveis, Clique Silencioso, Easy-Switch para até 3 dispositivos e Conexão Bluetooth - Grafite

De: R$ 499,90
Por: R$ 388,78

Vendido por Amazon

eufy Câmera S330 (eufyCam 3) 2-Cam Kit por anker, Câmera De Segurança Wi-Fi Externa Sem Fio, 4K, Painel Solar, Forever Power, Reconhecimento Facial IA, Armazenamento Local Até 16TB, Sem Taxa Mensal

De: R$ 2.399,00
Por: R$ 2.159,00

Vendido por Amazon

soundcore Select 4 Go da Anker, Alto-Falante Bluetooth Portátil, 20H de Bateria, IP67 à Prova d'Água e Poeira, Flutuante, Som Potente, Ideal para Ambientes Internos, Externos e Passeios

De: R$ 339,00
Por: R$ 188,99

Vendido por Amazon

WB Smart Tag Localizador Bluetooth, Rastreador Compatível com o Apple Find My, bateria substituível, Localizador de itens para bolsas

De: R$ 88,00
Por: R$ 45,00

Vendido por Amazon

Anker Nano Carregador Portátil, Power Bank Compacto 10000mAh 45W Máx., Bateria Portátil Essencial para Viagens com Cabo Retrátil InstaCord de 70 cm para iPhone 17/16 Series, iPad, Galaxy, Pixel e Mais

De: R$ 399,00
Por: R$ 379,00

Vendido por Amazon

Capa com Teclado Combo Touch para iPad (10ª geração e A16) Com Teclado Retroiluminado Destacável com Suporte, Trackpad Preciso e Tecnologia Smart Connector - Cinza

De: R$ 1.629,90
Por: R$ 1.239,90

Vendido por Amazon

ULANZI VL-200Bi 200W luz de estúdio bicolor, luz de preenchimento COB, iluminação de saída contínua com controle de APP, 2700K-6500K, 6 cenas, montagem Bowens

De: R$ 1.179,00
Por: R$ 943,20

Vendido por Amazon

eufy Câmera S350, Camera de Segurança Wi-Fi, 4K Inteligente com Câmera Dupla, Visão 360°, Zoom 8×, Visão Noturna, Babá Eletrônica, Rastreamento por IA, Compatível com Alexa e HomeBase 3

De: R$ 999,00
Por: R$ 798,99

Vendido por Amazon

WAAW By ALOK Fone de Ouvido Bluetooth SENSE 310 Com Cancelamento de Ruído e Assistente de Voz, 30h de Bateria

De: R$ 329,90
Por: R$ 199,00

Vendido por Amazon

WAAW by ALOK Caixa de Som US 200SB DUO Bluetooth 2 em 1, Resistente à Água, Acabamento Metálico, TWS, 20W RMS

De: R$ 599,90
Por: R$ 476,10

Vendido por Amazon

Eufy Cam E340 Câmera De Segurança Wi-Fi Dual Band (2.4/5GHz) Exterior, 360° PTZ, Gravação 24/7, 2000 Lúmens, Detecção de Movimento + Sirene Integrada, Câmera Dupla, Sem Taxa Mensal, Branco

De: R$ 1.199,00
Por: R$ 1.139,05

Vendido por Amazon

Novo Kindle Paperwhite Signature Edition (32 GB) - O Kindle mais rápido já lançado, com luz frontal autoadaptável, carregamento sem fio e bateria que dura semanas - Cor Preta Metálica

De: R$ 1.199,00
Por: R$ 949,00

Vendido por Amazon

Combo Teclado e Mouse Sem Fio Logitech MK250 Bluetooth com Conectividade Rápida e Fácil, Design Compacto, Mouse Ambidestro, Layout ABNT2, Construção Durável, Compatível com PC e Mac - Rosa

Por R$ 169,90

Vendido por Amazon

Combo Teclado e Mouse sem fio Logitech MK235 com Conexão USB, Pilhas Inclusas e Layout ABNT2

De: R$ 149,90
Por: R$ 119,90

Vendido por Amazon

Anker MagGo Power Bank, Carregador Portátil com Certificação Qi2 de 15W, Compatível com MagSafe, 10.000mAh, Tela Inteligente e Suporte Dobrável, para iPhone 17/15/14/13/12, Inclui Cabo USB-C, Branco

De: R$ 699,00
Por: R$ 398,99

Vendido por Amazon

Mouse Sem Fio Logitech M330 SILENT com Clique Silencioso, Design Destro, Bateria de 18 Meses, Receptor USB, Compatível com Windows, macOS, ChromeOS e Pilha Inclusa - Preto

De: R$ 109,90
Por: R$ 79,90

Vendido por Amazon

Webcam Full HD Logitech Brio 100 com Microfone Integrado, Proteção de Privacidade, Correção Automática de Luz e Conexão USB-C - Grafite

De: R$ 299,90
Por: R$ 222,11

Para quem tem pressa:

• Portais de verificação de desinformação notaram um aumento de vídeos com vozes produzidas por inteligência artificial (IA) nas redes sociais, principalmente no TikTok;
• A NewsGuard, por exemplo, apontou a circulação de um vídeo com uma voz de IA imitando Barack Obama, o ex-presidente dos EUA, na rede social;
• As falsificações de áudio se tornaram uma nova ferramenta para disseminar desinformação online, especialmente antes das eleições de 2024;
• O TikTok exige rótulos para identificar conteúdo de IA como falso, mas os vídeos sinalizados pela NewsGuard ainda não apresentaram esses selos;
• Além do TikTok, conteúdo semelhante foi encontrado no YouTube, Instagram e Facebook.

Isso ocorre à medida que produtores de conteúdo e propagadores de desinformação adotam essas novas ferramentas. Por exemplo, a NewsGuard, uma empresa que monitora desinformação online, apontou recentemente a circulação de um vídeo com uma voz gerada por IA que emulava a de Barack Obama, ex-presidente dos EUA.

Leia mais:

• Deepfakes de IA alarmam celebridades e levantam questões legais
• Aprenda a usar o ChatGPT: 10 dicas valiosas para criar perguntas precisas
• ChatGPT e IA: o que os chatbots sabem sobre nós e com quem compartilham dados?

Vozes fake de IA no TikTok

No vídeo, Obama pode ser ouvido se defendendo contra uma nova teoria conspiratória explosiva sobre a morte súbita de seu ex-chef.

Era uma falsificação convincente, gerada por inteligência artificial usando ferramentas sofisticadas que podem clonar vozes reais para criar marionetes de IA com apenas alguns cliques.

A tecnologia usada para criar vozes de IA ganhou destaque e amplo reconhecimento desde que empresas como a ElevenLabs lançaram uma série de ferramentas no final de 2022.

Desde então, as falsificações de áudio rapidamente se tornaram uma nova arma no campo de batalha da desinformação online, ameaçando impulsionar a desinformação política antes das eleições de 2024.

Além disso, o uso de vozes de IA para compartilhar principalmente fofocas e rumores ofereceu um guia para agentes mal-intencionados que desejam manipular a opinião pública e espalhar falsidades para grandes públicos online.

É uma forma para essas contas conquistarem um público, para ganhar seguidores que podem envolver uma grande audiência. Uma vez que eles têm a credibilidade de ter um grande número de seguidores, podem mergulhar em conteúdos mais conspiratórios.

Jack Brewster, editor da NewsGuard

Outro lado

O TikTok exige rótulos que identifiquem conteúdo realista de IA como falso, mas eles não apareceram nos vídeos sinalizados pela NewsGuard.

O TikTok afirmou ter removido ou deixado de recomendar várias das contas e vídeos por violarem políticas sobre se passar por organizações de notícias e espalhar desinformação prejudicial.

A rede social também removeu o vídeo que usava a voz gerada por IA que imitava ex-presidente Obama, por violar a política de mídia sintética do TikTok, já que continha conteúdo altamente realista não rotulado como alterado ou falso.

O TikTok é a primeira plataforma a fornecer uma ferramenta para os criadores rotularem conteúdo gerado por IA e um membro inaugural de um novo código de boas práticas do setor que promove o uso responsável de mídia sintética.

Jamie Favazza, porta-voz do TikTok

Embora o relatório da NewsGuard tenha se concentrado no TikTok, que tem se tornado cada vez mais uma fonte de notícias, conteúdo semelhante foi encontrado se espalhando no YouTube, Instagram e Facebook, segundo o New York Times.