Uma das medidas anunciadas pela Meta para impulsionar o uso da inteligência artificial foi o lançamento de uma ferramenta que permite a criação de personagens de IA nas redes sociais. A ideia é que estes perfis fiquem sempre disponíveis para conversas no Instagram, Messenger e WhatsApp.
No entanto, uma reportagem da NBC News aponta que vários chatbots foram criados violando as regras da plataforma. Entre eles estão figuras como Jesus Cristo, Maomé e até Adolf Hitler.
Contas de IA foram retiradas do ar
Os usuários não têm permissão para criar personagens de IA de figuras religiosas, personalidades da vida real, pessoas que morreram nos últimos 100 anos ou imitações de personagens fictícios de marca registrada, de acordo com as políticas da empresa. A Meta ainda diz que analisa os personagens criados pelos usuários antes de autorizar o uso destas contas.
Apesar disso, a publicação diz ter encontrado dezenas de casos irregulares. Alguns dos usuários no Instagram são representações de Jesus Cristo, Deus, Maomé, Taylor Swift, Donald Trump, Harry Potter, Adolf Hitler, Capitão Jack Sparrow, Justin Bieber, Elon Musk e Elsa de “Frozen” da Disney.
Muitos destes personagens apresentam pequenos erros ortográficos e imagens vagamente parecidas com as celebridades e personagens em questão. Depois que a NBC News denunciou a situação, a Meta retirou a maioria das contas do ar.
As IAs em questão que violam nossas políticas de estúdio de IA já foram removidas e estamos melhorando continuamente nossas medidas de detecção para evitar a criação e publicação de IAs que violam nossas políticas. Os usuários também podem denunciar IAs que suspeitam que possam violar nossas regras e tomaremos as medidas apropriadas.
Meta, em comunicado
Ainda de acordo com a NBC, um dos personagens era chamado “Jesús” e se comunicava inteiramente em espanhol. Seu perfil dizia que havia trocado mais de 644 mil mensagens diretas. Outro personagem de IA foi chamado de “Jesus Cristo” e enviou a mensagem de abertura: “A paz esteja com você. Eu sou Jesus Cristo, o Filho de Deus. Como posso guiá-lo em sua jornada hoje?”.
Leia mais
- Meta confirma mudança que pode facilitar a disseminação de notícias falsas
- Meta: MPF quer saber se mudanças serão implantadas no Brasil
- Meta remove perfis de IA após críticas
Chatbots inspirados em Hitler
- Uma das situações mais polêmicas diz respeito ao uso da figura de Hitler nas redes sociais.
- Pelo menos três contas foram inspiradas no líder nazista.
- Em mensagens diretas, um dos personagens se retratou como um artista que lamentou o Holocausto e enviou o que pareciam ser imagens geradas por IA sobre “meu passado turbulento na Alemanha nazista”.
- Ao contrário das contas administradas por pessoas reais, os personagens de inteligência artificial da Meta têm círculos verdes ao lado de seus nomes, indicando que estão sempre disponíveis para conversar.
Tags: