Organizações de defesa do consumidor pediram à Comissão Federal de Comércio (FTC) e aos procuradores-gerais dos EUA que investiguem urgentemente a ferramenta “Imagine”, do Grok, criada pela xAI de Elon Musk. As informações são do The Verge.
Lançada no início do mês, a função inclui o modo “Spicy”, que incentiva a produção de conteúdo sexual gerado por IA. Testes mostraram que a ferramenta criou deepfakes de celebridades, como vídeos topless de Taylor Swift, mesmo sem solicitação explícita.
Leia mais:
- Empresa de IA de Musk deve lançar avatar inspirado no Edward Cullen
- Baby Grok: Elon Musk está trabalhando em uma IA só para baixinhos
- Grok: como acessar e usar a IA do X
Entidades apontam riscos
- A carta é liderada pela Consumer Federation of America (CFA) e apoiada por outras 14 entidades.
- O documento alerta que, embora o modo “Spicy” não aceite fotos reais enviadas por usuários, ele ainda pode gerar nudez hiper-realista de pessoas fictícias, mas com aparência semelhante a indivíduos reais.
- Esses conteúdos podem ter impactos nocivos, especialmente para menores.
Temor por “onda de deepfakes”
As entidades também temem que a remoção dessa restrição abra caminho para uma “onda de deepfakes não consensuais”, apontando o histórico de Musk de flexibilizar moderação sob a justificativa de “liberdade de expressão”.
Elas também criticam a fragilidade da verificação etária: um simples pop-up para confirmar se o usuário é maior de 18 anos, com ano de nascimento pré-selecionado como “2000”, o que pode violar a Lei de Proteção à Privacidade Online de Crianças e normas estaduais sobre conteúdo adulto.
O grupo pede apuração sobre possíveis violações da “Lei de Imagens Íntimas Não Consensuais” pela xAI.
Tags: