Siga o Olhar Digital no Google Discover
O Instituto de Defesa de Consumidores (Idec) comunicou nesta segunda-feira (12) que enviou um ofício ao governo pedindo a suspensão do Grok no Brasil por violação de direitos de crianças, adolescentes e mulheres. O órgão também cita reações internacionais ao caso, incluindo investigações em andamento em outros países.
Ofertas
Por: R$ 4,66
Por: R$ 241,44
Por: R$ 241,44
Por: R$ 1.449,99
Por: R$ 3.799,00
Por: R$ 1.999,99
Por: R$ 899,00
Por: R$ 889,00
Por: R$ 79,90
Por: R$ 59,90
Por: R$ 3.324,00
Por: R$ 241,44
Por: R$ 188,99
Por: R$ 949,00
O pedido vem após diversos casos de geração de imagens sexualizadas e pornográficas usando a ferramenta de inteligência artificial da xAI, que funciona integrada ao X (antigo Twitter).
Idec pediu suspensão do Grok no Brasil
O ofício foi enviado aos integrantes do Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, que reúne o Ministério da Justiça e da Segurança Pública, o Ministério dos Direitos Humanos e da Cidadania, a Secretaria de Comunicação Social da Presidência da República e o Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda). O documento pede a adoção de providências cabíveis diante das violações associadas ao uso do Grok no X.
Em comunicado, o Idec cita “evidências robustas de graves e reiteradas violações de direitos fundamentais, especialmente de crianças, adolescentes e mulheres”. O órgão justifica que o Grok tem sido usada para gerar imagens sexualizadas e não consentidas, incluindo de menores de idade.
Os casos são um “defeito grave” na prestação de serviço da rede social e ferem o Código de Defesa do Consumidor (CDC), já que a plataforma não oferece a segurança esperada pelos usuários.
O Idec também pede que o caso seja considerado nos debates sobre a Política Nacional de Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital (o ECA Digital) e na regulação da inteligência artificial, de forma a garantir “proteção reforçada a crianças e adolescentes frente a usos de IA que possam causar danos irreversíveis”.
Reação internacional ao Grok
O Idec cita casos de fora do Brasil, como investigações formais e exigências de retirada de conteúdo na União Europeia, Reino Unido, França e Índia. Segundo o órgão, as ações reforçam o “caráter sistêmico e global” do problema.
Alguns países também já anunciaram a suspensão temporária do Grok pelo mesmo motivo. A Indonésia se tornou o primeiro país a fazê-lo no sábado (11), citando riscos relacionados à geração de conteúdo pornográfico. O Olhar Digital deu os detalhes aqui. Já nesta segunda-feira, foi a vez da Malásia pedir o bloqueio da ferramenta.
No Reino Unido, inclusive, parlamentares não descartam a suspensão do X no país. Confira os detalhes neste link.
O que diz o governo e o X?
O Olhar Digital entrou em contato com os ministérios citados e com a Secretaria de Comunicação Social da Presidência da República.
O Ministério dos Direitos Humanos e da Cidadania demonstrou preocupação com as denúncias, destacando que, apesar do Brasil ter avançado para tornar o ambiente online mais seguro, ainda são necessárias novas ações para acompanhar os avanços das tecnologias. Para a ministra dos Direitos Humanos e da Cidadania, Macaé Evaristo, é inadmissível que o avanço tecnológico ocorra à custa da violação de direitos fundamentais. A nota na íntegra está ao final da publicação.
X, xAI e Elon Musk:
- Com a repercussão negativa, Elon Musk e a xAI afirmaram que podem tomar medidas contra internautas que produzirem conteúdo ilegal;
- A estratégia tem sido questionada por especialistas, já que foca em punições posteriores em vez de implementar barreiras técnicas que impeçam a criação desse tipo de material em primeiro lugar;
- No caso da investigação no Reino Unido, o X se pronunciou com uma declaração anterior dizendo tomar medidas contra conteúdo ilegal na plataforma, através da remoção e suspensão dos posts e das contas associadas. Também afirmou que trabalha com governos e autoridades policiais, conforme necessário.
Diante de repercussão negativa, a xAI começou a limitar quem pode gerar imagens no chatbot, passando a exigir a assinatura do plano pago. No entanto, o site The Verge descobriu que a restrição não é bem o que parece e é possível driblar essa limitação. Veja os detalhes neste link.
Nota do Ministério dos Direitos Humanos e da Cidadania enviada ao Olhar Digital
O Ministério dos Direitos Humanos e da Cidadania (MDHC) manifesta profunda preocupação com as denúncias envolvendo o uso de ferramentas de Inteligência Artificial para a criação e disseminação de imagens com conteúdo erótico e de nudez, inclusive envolvendo mulheres, meninas e crianças.
Para a ministra dos Direitos Humanos e da Cidadania, Macaé Evaristo, é inadmissível que o avanço tecnológico ocorra à custa da violação de direitos fundamentais. “Nenhuma inovação pode se sobrepor à dignidade humana, à proteção integral de crianças e adolescentes e aos direitos das mulheres”, destaca.
O Brasil tem avançado de forma significativa na construção de um ambiente digital mais seguro. A aprovação e sanção do Estatuto da Criança e do Adolescente no Ambiente Digital (ECA Digital), em 2025, representou um marco importante na proteção de crianças e adolescentes frente às violências no meio digital.
No entanto, o MDHC reforça que novos avanços são necessários diante da rápida evolução das tecnologias.
Nesse contexto, o Projeto de Lei nº 2338/2023, que estabelece diretrizes para o uso da Inteligência Artificial no Brasil e já foi aprovado pelo Senado Federal, encontra-se em apreciação na Câmara dos Deputados.
A aprovação e sanção da proposta representam mais um passo essencial para fortalecer a responsabilização das plataformas e garantir maior segurança para mulheres, crianças, adolescentes e para a sociedade como um todo no ambiente digital.
O Ministério reafirma seu compromisso com a defesa dos direitos humanos e ressalta que nenhuma plataforma ou tecnologia pode estar acima das leis brasileiras e do respeito à dignidade humana.
Tags: