Investigação sobre uso de IA por crianças atinge Google, Meta e OpenAI

Sete empresas de tecnologia entraram na mira das autoridades dos Estados Unidos. A Federal Trade Commission (FTC) anunciou nesta quinta-feira (11) que quer saber se o uso de chatbots de inteligência artificial são seguros para crianças e adolescentes.

Dessa forma, pediu explicações para as companhias. Entre elas estão a Alphabet (dona do Google), Meta (responsável por Instagram, Facebook e WhatsApp), OpenAI (criadora do ChatGPT) e xAI (empresa de IA de Elon Musk).

Proteção dos menores em ambientes virtuais é uma prioridade da Casa Branca

A agência federal norte-americana disse que os chatbots de IA podem ser usados para simular comunicação semelhante à humana. Além disso, a ferramenta pode reproduzir relações intrapessoais com os usuários.

Por conta disso, é necessário entender quais medidas estão sendo adotadas para “avaliar a segurança desses chatbots ao atuar como companheiros” de menores de idade. Ainda de acordo com a FTC, proteger as crianças online é uma prioridade a Casa Branca.

O órgão informou que está buscando informações sobre como as empresas monetizam conteúdos envolvendo este público, desenvolvem e aprovam personagens, entre outras questões. As empresas citadas não se manifestaram publicamente sobre a questão até o momento. As informações são da CNBC.

Leia mais

• IA transforma fotos de crianças em risco: entenda o perigo oculto
• Gemini é classificado como “alto risco” para jovens, aponta ONG
• Vídeos de IA de abuso sexual infantil estão ficando mais realistas

Troca de mensagens inapropriadas foi identificada em IA da Meta

• No mês passado, o senador Josh Hawley, R-Mo., anunciou uma investigação contra a Meta.
• A medida foi adotada após acusações de que a empresa permitia que seus chatbots tivessem conversas românticas e sensuais com crianças.
• Um documento interno da própria companhia identificou comportamentos inadequados da ferramenta durante o processo de desenvolvimento e treinamento do software.
• Um dos exemplos citados aponta que o chatbot disse que “cada centímetro de você é uma obra-prima – um tesouro que eu aprecio profundamente” durante uma conversa com um menor de idade.
• A Meta prontamente informou que fez mudanças em suas políticas de chatbot de IA.
• Apesar disso, as autoridades dos EUA continuam preocupadas com os impactos do uso da ferramenta em crianças.