Recurso polêmico do Grok poderá ser investigado

Organizações de defesa do consumidor pediram à Comissão Federal de Comércio (FTC) e aos procuradores-gerais dos EUA que investiguem urgentemente a ferramenta “Imagine”, do Grok, criada pela xAI de Elon Musk. As informações são do The Verge.

Lançada no início do mês, a função inclui o modo “Spicy”, que incentiva a produção de conteúdo sexual gerado por IA. Testes mostraram que a ferramenta criou deepfakes de celebridades, como vídeos topless de Taylor Swift, mesmo sem solicitação explícita.

Leia mais:

• Empresa de IA de Musk deve lançar avatar inspirado no Edward Cullen
• Baby Grok: Elon Musk está trabalhando em uma IA só para baixinhos
• Grok: como acessar e usar a IA do X

Entidades apontam riscos

• A carta é liderada pela Consumer Federation of America (CFA) e apoiada por outras 14 entidades.
• O documento alerta que, embora o modo “Spicy” não aceite fotos reais enviadas por usuários, ele ainda pode gerar nudez hiper-realista de pessoas fictícias, mas com aparência semelhante a indivíduos reais.
• Esses conteúdos podem ter impactos nocivos, especialmente para menores.

Temor por “onda de deepfakes”

As entidades também temem que a remoção dessa restrição abra caminho para uma “onda de deepfakes não consensuais”, apontando o histórico de Musk de flexibilizar moderação sob a justificativa de “liberdade de expressão”.

Elas também criticam a fragilidade da verificação etária: um simples pop-up para confirmar se o usuário é maior de 18 anos, com ano de nascimento pré-selecionado como “2000”, o que pode violar a Lei de Proteção à Privacidade Online de Crianças e normas estaduais sobre conteúdo adulto.

O grupo pede apuração sobre possíveis violações da “Lei de Imagens Íntimas Não Consensuais” pela xAI.