Siga o Olhar Digital no Google Discover
O que parecia ser um brinquedo inocente revelou-se um sério risco para crianças: um ursinho de pelúcia equipado com IA precisou ser retirado do mercado após pesquisadores descobrirem que ele oferecia conselhos nem um pouco adequados para o público infantil.
O brinquedo, chamado Kumma e criado pela empresa FoloToy, usa um chatbot de IA para responder às interações das crianças — mas, sem limitações, pode oferecer conselhos sexuais e até instruções sobre itens perigosos.
Foi isso o que descobriram pesquisadores do Public Interest Research Group (PIRG), dos Estados Unidos, que testaram três dispositivos infantis com chatbots de IA integrados. O Kumma usa, segundo seus criadores, o GPT-40, modelo de inteligência artificial desenvolvido pela OpenAI.
Leia mais:
- Empresas citam IA para justificar cortes e frear contratações
- Como a inteligência artificial já influencia nosso pensamento crítico
- Entrevista exclusiva: em breve, Brasil vai elevar idade para uso de redes sociais e chatbots
Urso de pelúcia com IA oferece conteúdo inapropriado para crianças
Nos testes, o Kumma forneceu respostas claramente inadequadas para o público infantil. Em uma conversa, o urso deu dicas sobre “como ser um bom beijador” e chegou a explicar diferentes tipos de fetiches. Em outra, apesar de alertar que fósforos são para adultos, ele ensinou passo a passo como acendê-los.
Segundo os pesquisadores, entre todos os brinquedos avaliados, o Kumma foi o que mais ofereceu conteúdos sexualmente explícitos e orientações arriscadas, incluindo referências a facas, comprimidos e fósforos.
Para o grupo, os resultados mostram que a adoção de chatbots em produtos infantis ainda levanta preocupações sérias sobre segurança e controle do que é dito aos usuários.
Produto foi retirado do mercado
Após a divulgação do estudo, a FoloToy anunciou a suspensão temporária das vendas do Kumma. O diretor de marketing da empresa, Hugo Wu, afirmou que será feita “uma auditoria interna de segurança abrangente” para avaliar o que ocorreu e ajustar o produto.
Ele agradeceu aos pesquisadores por apontarem riscos potenciais, dizendo que o alerta ajuda a empresa a corrigir falhas.
Tags: