ChatGPT cria imagens de abuso infantil e OpenAI responde

Siga o Olhar Digital no Google Discover

Tudo sobre ChatGPT

ver mais

Tudo sobre Inteligência Artificial

ver mais

Tudo sobre OpenAI

ver mais

Usuários do ChatGPT estão tentando persuadir o modelo a se envolver em cenários fictícios de dramatização sexual enquanto publicam material de abuso sexual infantil como parte da narrativa. Outros tentam escrever histórias fictícias em que menores são colocados em situações sexualmente inapropriadas e/ou abusivas. As práticas ilegais foram denunciadas pela própria OpenAI.

Ofertas

Vendido por Amazon

Agenda 2026 Coleção Happy Com Capa Dura Círculos Colors

Por R$ 45,90

Vendido por Amazon

Suporte para 2 Controles de PlayStation 5 PS5, Apoio de Mesa Gamer, Modelo VN

De: R$ 39,92
Por: R$ 37,92

Vendido por Amazon

Pasta Sanfonada DAC A4 Com 12 Divisões All Black Preto

De: R$ 27,90
Por: R$ 22,59

Vendido por Amazon

Carregador Fonte para Notebook Asus 19V 2.37A 45W com Pino Fino 4.0x1.35mm, compatível com VivoBook X543ua X543ma X515 X512 X510U ZenBook 14 UX433FA UX431FA X512F, referência Ad2108020 bivolt

De: R$ 67,44
Por: R$ 59,95

Vendido por Amazon

Garmin Relógio Venu 3 Branco 45mm com Monitor Cardíaco de Pulso e GPS

De: R$ 4.699,00
Por: R$ 3.099,00

Vendido por Amazon

eufy Câmera S3 Pro Kit 2+1 por anker, Câmera De Segurança Wi-Fi Externa Sem Fio, 4K, Energia Solar, Visão Noturna MaxColor, Reconhecimento Facial por IA, Compatível com Alexa, Sem taxas mensais

De: R$ 3.499,00
Por: R$ 3.324,00

Vendido por Amazon

eufy HomeBase3, Câmera de segurança, Reconhecimento Facial por IA, Armazenamento Local Expansível até 16TB, Criptografia Avançada, Ecossistema de Segurança eufy, Sem taxas mensais

De: R$ 1.049,00
Por: R$ 799,00

Vendido por Amazon

Bettdow SmartWatch, Relogio Smartwatch Feminino, 1.27" Ecrã tátil, à prova d'água IP68, 100+ Modos Esportivos, chamada Bluetooth, Compatível com Android iOS, voz por IA (Azul)

De: R$ 299,00
Por: R$ 241,44

Vendido por Amazon

Combo Teclado e Mouse sem fio Logitech POP Icon com Teclas e Botões Personalizáveis, Clique Silencioso, Easy-Switch para até 3 dispositivos e Conexão Bluetooth - Grafite

De: R$ 499,90
Por: R$ 349,90

Vendido por Amazon

eufy Câmera S330 (eufyCam 3) 2-Cam Kit por anker, Câmera De Segurança Wi-Fi Externa Sem Fio, 4K, Painel Solar, Forever Power, Reconhecimento Facial IA, Armazenamento Local Até 16TB, Sem Taxa Mensal

De: R$ 2.399,00
Por: R$ 2.159,00

Vendido por Amazon

soundcore Select 4 Go da Anker, Alto-Falante Bluetooth Portátil, 20H de Bateria, IP67 à Prova d'Água e Poeira, Flutuante, Som Potente, Ideal para Ambientes Internos, Externos e Passeios

De: R$ 339,00
Por: R$ 188,99

Vendido por Amazon

WB Smart Tag Localizador Bluetooth, Rastreador Compatível com o Apple Find My, bateria substituível, Localizador de itens para bolsas

De: R$ 88,00
Por: R$ 45,00

Vendido por Amazon

Anker Nano Carregador Portátil, Power Bank Compacto 10000mAh 45W Máx., Bateria Portátil Essencial para Viagens com Cabo Retrátil InstaCord de 70 cm para iPhone 17/16 Series, iPad, Galaxy, Pixel e Mais

De: R$ 399,00
Por: R$ 379,00

Vendido por Amazon

Capa com Teclado Combo Touch para iPad (10ª geração e A16) Com Teclado Retroiluminado Destacável com Suporte, Trackpad Preciso e Tecnologia Smart Connector - Cinza

De: R$ 1.629,90
Por: R$ 1.239,90

Vendido por Amazon

ULANZI VL-200Bi 200W luz de estúdio bicolor, luz de preenchimento COB, iluminação de saída contínua com controle de APP, 2700K-6500K, 6 cenas, montagem Bowens

De: R$ 1.179,00
Por: R$ 943,20

Vendido por Amazon

eufy Câmera S350, Camera de Segurança Wi-Fi, 4K Inteligente com Câmera Dupla, Visão 360°, Zoom 8×, Visão Noturna, Babá Eletrônica, Rastreamento por IA, Compatível com Alexa e HomeBase 3

De: R$ 999,00
Por: R$ 798,99

Vendido por Amazon

WAAW By ALOK Fone de Ouvido Bluetooth SENSE 310 Com Cancelamento de Ruído e Assistente de Voz, 30h de Bateria

De: R$ 329,90
Por: R$ 205,91

Vendido por Amazon

WAAW by ALOK Caixa de Som US 200SB DUO Bluetooth 2 em 1, Resistente à Água, Acabamento Metálico, TWS, 20W RMS

De: R$ 599,90
Por: R$ 476,10

Vendido por Amazon

Eufy Cam E340 Câmera De Segurança Wi-Fi Dual Band (2.4/5GHz) Exterior, 360° PTZ, Gravação 24/7, 2000 Lúmens, Detecção de Movimento + Sirene Integrada, Câmera Dupla, Sem Taxa Mensal, Branco

De: R$ 1.199,00
Por: R$ 1.139,05

Vendido por Amazon

Novo Kindle Paperwhite Signature Edition (32 GB) - O Kindle mais rápido já lançado, com luz frontal autoadaptável, carregamento sem fio e bateria que dura semanas - Cor Preta Metálica

De: R$ 1.199,00
Por: R$ 949,00

Vendido por Amazon

Combo Teclado e Mouse Sem Fio Logitech MK250 Bluetooth com Conectividade Rápida e Fácil, Design Compacto, Mouse Ambidestro, Layout ABNT2, Construção Durável, Compatível com PC e Mac - Rosa

De: R$ 169,90
Por: R$ 139,90

Vendido por Amazon

Combo Teclado e Mouse sem fio Logitech MK235 com Conexão USB, Pilhas Inclusas e Layout ABNT2

De: R$ 149,90
Por: R$ 119,90

Vendido por Amazon

Anker MagGo Power Bank, Carregador Portátil com Certificação Qi2 de 15W, Compatível com MagSafe, 10.000mAh, Tela Inteligente e Suporte Dobrável, para iPhone 17/15/14/13/12, Inclui Cabo USB-C, Branco

De: R$ 699,00
Por: R$ 398,99

Vendido por Amazon

Mouse Sem Fio Logitech M330 SILENT com Clique Silencioso, Design Destro, Bateria de 18 Meses, Receptor USB, Compatível com Windows, macOS, ChromeOS e Pilha Inclusa - Preto

De: R$ 109,90
Por: R$ 79,90

Vendido por Amazon

Webcam Full HD Logitech Brio 100 com Microfone Integrado, Proteção de Privacidade, Correção Automática de Luz e Conexão USB-C - Grafite

De: R$ 299,90
Por: R$ 199,90

No ano passado, o Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC, na sigla em inglês) dos EUA registrou um aumento de 1.325% no número de incidentes envolvendo inteligência artificial (IA) generativa. Por dia, a entidade recebeu 100 casos de sextorsão financeira. Desde 2021, pelo menos 36 adolescentes tiraram suas próprias vidas por terem sido vítimas do crime.

De acordo com a OpenAI, usuários que tentam gerar material de abuso sexual ou exploração infantil são denunciados ao NCMEC e proibidos de usar os serviços, apesar de alguns contornarem o banimento criando novas contas.

“Notificamos os desenvolvedores e damos a eles a oportunidade de corrigir a situação banindo o usuário problemático de seus aplicativos; se os desenvolvedores não conseguirem corrigir um padrão persistente de comportamento problemático em seus aplicativos, nós os banimos”, diz o comunicado.

A OpenAI vem sendo pressionada por entidades da sociedade civil a criar mecanismos que minimizem a vulnerabilidade de menores de idade na plataforma, considerados insuficientes. Recentemente, a empresa anunciou novos controles parentais que restringem o uso de respostas em voz ou a criação/edição de imagens e desativa as memórias salvas do chatbot, por exemplo.

O que é proibido atualmente no ChatGPT?

Os usuários estão proibidos de utilizar qualquer serviço da OpenAI para atividades ilícitas, incluindo exploração, risco ou sexualização de menores de 18 anos, o que inclui:

• Material de abuso sexual infantil, independentemente de qualquer parte ser gerada por IA; 
• Aliciamento de menores;
• Expor menores a conteúdo impróprio para sua idade, como automutilação gráfica, conteúdo sexual ou violento;
• Promover dietas ou exercícios não saudáveis ​​para menores;
• Envergonhar ou estigmatizar, de qualquer outra forma, o tipo de corpo ou a aparência de menores; 
• Desafios perigosos para menores;
• Jogos de interpretação de papéis sexuais ou violentos para menores de idade e acesso de menores a bens ou atividades com restrição de idade.

A OpenAI diz que os modelos são treinados para não gerar resultados nocivos em texto, imagens, áudio ou vídeo e que tem empregado uma combinação de classificadores contextuais, monitoramento de abuso e revisão interna por especialistas humanos para garantir que o chatbot não responda às solicitações que violem os termos de uso.

“É por isso que apoiamos projetos de lei, como a Lei de Prevenção de Material Abusado Sexualmente Infantil no estado de Nova York. Esta legislação garantiria proteção legal clara para denúncias responsáveis, cooperação e ações proativas destinadas a detectar, classificar, monitorar e mitigar conteúdo prejudicial gerado por IA”, afirmou a empresa.

Leia mais:

• Sora: OpenAI lança nova versão que “ignora” direitos autorais
• ChatGPT vai trabalhar por você enquanto você dorme; entenda
• OpenAI lança controles parentais no ChatGPT

Na vida real…

O principal órgão de investigação de exploração infantil nos EUA contratou uma empresa para criar um software que distingue imagens geradas por IA de materiais que retratam vítimas reais, segundo reportagem do MIT Technology Review. O contrato do Centro de Crimes Cibernéticos do Departamento de Segurança Interna foi fechado com a Hive AI, sediada em São Francisco (EUA).

A empresa se tornou referência em ferramentas de IA que podem ser usadas para moderação de conteúdo, sinalizando violência, spam e material sexual. Sua tecnologia de deepfakes foi vendida para o Exército dos EUA no ano passado, segundo a revista. A Hive AI também é uma das desenvolvedoras do recurso que identifica materiais de abuso infantil em parceria com a Thorn, uma organização sem fins lucrativos de segurança infantil.