Erro em IA do TikTok permitiu colocar até discurso nazista em vídeos

Siga o Olhar Digital no Google Discover

Tudo sobre TikTok

ver mais

O TikTok, popular plataforma de compartilhamento de vídeos, recentemente lançou uma nova ferramenta chamada Symphony Digital Avatars. Essa ferramenta utiliza inteligência artificial (IA) para criar avatares digitais realistas que podem ser usados em anúncios e outros conteúdos. No entanto, o lançamento não foi tão suave quanto o esperado.

Ofertas

Vendido por Amazon

Material Dourado Com 74 Peças Pais & Filhos Dourado

De: R$ 11,85
Por: R$ 8,28

Vendido por Amazon

Ar-Condicionado Split HW Elgin Eco Inverter II Wi-Fi 12.000 BTUs R-32 Quente/Frio 220V

De: R$ 2.499,00
Por: R$ 1.998,89

Vendido por Amazon

Freezer Vertical Consul 231 Litros - CVU26FB 110V

De: R$ 3.279,35
Por: R$ 2.498,89

Vendido por Amazon

WAP Ventilador de Torre AIR SILENCE com 4 Ní­veis de Velocidade, Time de até 15 Horas e Desligamento Automático 127V

De: R$ 599,90
Por: R$ 404,90

Vendido por Amazon

MONDIAL Ventilador de Mesa 40cm Super Power, Branco/Azul, 140W, 110V - VSP-40-W

De: R$ 189,90
Por: R$ 129,90

Vendido por Amazon

Climatizador de Ar Digital Midea 127V 60Hz

De: R$ 529,99
Por: R$ 412,69

Vendido por Amazon

Monitor Gamer IPS 24 Polegadas, Full HD, 180Hz, 1ms, HDR400, G-SYNC, 250cd/m², Alto-falantes embutidos, Entradas HDMI/DisplayPort/USB/3.5mm

De: R$ 799,00
Por: R$ 593,00

Vendido por Amazon

Câmera Digital EOS, Canon, Preto, 23 x 14 x 17 cm

De: R$ 3.799,00
Por: R$ 3.598,94

Vendido por Amazon

Câmera digital, vídeo de 5k, câmera de 75 megapixels, transmissão Wi-Fi, foco automático, zoom digital de 18x, tela giratória de 180 graus, cartão SD de 32G,câmera compacta,vlog,fotográfica

De: R$ 699,00
Por: R$ 499,00

Vendido por Amazon

PlayStation DualSense Controle sem fio – Branco

De: R$ 499,90
Por: R$ 369,00

Vendido por Amazon

Robô Aspirador Liectroux XR500 Pro 3 em 1 Aspira Varre Passa Pano Com Aplicativo Compatível Com Alexa e Google Mapeamento Inteligente Salva os Mapas Bivolt

De: R$ 2.489,00
Por: R$ 1.616,02

Vendido por Amazon

MONDIAL Ventilador de Parede 40cm Super Turbo 8 Pás, Preto/Prata, 140W, 110V - VTX-40P-8P

De: R$ 259,90
Por: R$ 179,90

Vendido por Amazon

Notebook ASUS Vivobook 15 X1504VA Intel Core i5 1334U 8GB Ram 512GB SSD Windows 11 Tela 15,6" FHD Silver - NJ1740W

De: R$ 3.599,00
Por: R$ 2.759,00

Vendido por Amazon

Fritadeira Sem Óleo Air Fryer Eos Chef Gourmet 6.2 Litros Compacta Digital Vermelho Eaf60v 110v

De: R$ 299,90
Por: R$ 199,00

Vendido por Amazon

soundcore P20i da Anker Fone de Ouvido Sem Fio, Drivers de 10mm, Graves Potentes, Bluetooth 5.3, 30H de Bateria, Resistência à Água, 2 Microfones IA, App Personalizável

De: R$ 249,00
Por: R$ 166,19

Vendido por Amazon

Philips Walita Preta Fritadeira Airfryer Essential XL Digital, 6.2L de capacidade, Garantia internacional de dois anos, 110V, 2000W (RI9270/90)

De: R$ 899,90
Por: R$ 399,00

Vendido por Amazon

WAP Umidificador de Ar AIR FLOW com Luminária e Difusor de Aromas, 4 Litros, Autonomia de até 12 horas, 20W Bivolt

De: R$ 229,90
Por: R$ 132,00

Vendido por Amazon

CAMERA INSTAX MINI 12 ROSA GLOSS

De: R$ 649,00
Por: R$ 505,00

IA do TikTok Symphony Digital Avatars foi acidentalmente lançada sem filtro

Inicialmente, o TikTok lançou uma versão interna da IA Symphony Digital Avatars sem salvaguardas adequadas. Isso permitiu que os usuários criassem vídeos com conteúdo inadequado, incluindo citações de Hitler e mensagens perigosas. Embora a ferramenta tenha sido projetada para empresas gerarem anúncios usando dublagem com atores pagos e IA, um erro permitiu que qualquer pessoa com uma conta pessoal a experimentasse.

Leia mais:

• Uma tendência arriscada está crescendo entre usuários do TikTok; entenda
• 4 maneiras de filtrar o que você não quer ver no TikTok
• TikTok Lite: saiba tudo sobre o aplicativo
• O que é o Programa Criativo do TikTok e como ganhar dinheiro com ele?

A CNN descobriu o problema e criou vídeos perturbadores usando a ferramenta defeituosa. Isso levou o TikTok a agir rapidamente e remover a versão problemática. Agora, a versão correta da Symphony Digital Avatars inclui uma marca d’água para indicar que o conteúdo foi gerado por IA. Além disso, a empresa reforçou as diretrizes de uso para evitar abusos futuros.

Erro em IA do TikTok já foi corrigido, segundo porta-voz

Laura Perez, porta-voz do TikTok, confirmou que o erro técnico foi resolvido em comunicado enviado ao The Verge. No entanto, preocupações permanecem sobre o potencial de abuso da ferramenta. Afinal, a criação de avatares digitais realistas pode ser usada para disseminar informações falsas, discurso de ódio ou outros conteúdos prejudiciais.

O TikTok diz que está comprometido em melhorar a moderação e garantir que a Symphony Digital Avatars seja usada de maneira responsável. A empresa está ciente de que a IA pode ser uma faca de dois gumes e está trabalhando para encontrar um equilíbrio entre criatividade e segurança.