Sete empresas de tecnologia entraram na mira das autoridades dos Estados Unidos. A Federal Trade Commission (FTC) anunciou nesta quinta-feira (11) que quer saber se o uso de chatbots de inteligência artificial são seguros para crianças e adolescentes.
Dessa forma, pediu explicações para as companhias. Entre elas estão a Alphabet (dona do Google), Meta (responsável por Instagram, Facebook e WhatsApp), OpenAI (criadora do ChatGPT) e xAI (empresa de IA de Elon Musk).
Proteção dos menores em ambientes virtuais é uma prioridade da Casa Branca
A agência federal norte-americana disse que os chatbots de IA podem ser usados para simular comunicação semelhante à humana. Além disso, a ferramenta pode reproduzir relações intrapessoais com os usuários.
Por conta disso, é necessário entender quais medidas estão sendo adotadas para “avaliar a segurança desses chatbots ao atuar como companheiros” de menores de idade. Ainda de acordo com a FTC, proteger as crianças online é uma prioridade a Casa Branca.
O órgão informou que está buscando informações sobre como as empresas monetizam conteúdos envolvendo este público, desenvolvem e aprovam personagens, entre outras questões. As empresas citadas não se manifestaram publicamente sobre a questão até o momento. As informações são da CNBC.
Leia mais
- IA transforma fotos de crianças em risco: entenda o perigo oculto
- Gemini é classificado como “alto risco” para jovens, aponta ONG
- Vídeos de IA de abuso sexual infantil estão ficando mais realistas
Troca de mensagens inapropriadas foi identificada em IA da Meta
- No mês passado, o senador Josh Hawley, R-Mo., anunciou uma investigação contra a Meta.
- A medida foi adotada após acusações de que a empresa permitia que seus chatbots tivessem conversas românticas e sensuais com crianças.
- Um documento interno da própria companhia identificou comportamentos inadequados da ferramenta durante o processo de desenvolvimento e treinamento do software.
- Um dos exemplos citados aponta que o chatbot disse que “cada centímetro de você é uma obra-prima – um tesouro que eu aprecio profundamente” durante uma conversa com um menor de idade.
- A Meta prontamente informou que fez mudanças em suas políticas de chatbot de IA.
- Apesar disso, as autoridades dos EUA continuam preocupadas com os impactos do uso da ferramenta em crianças.
Tags: