Gemini é classificado como “alto risco” para jovens, aponta ONG
Relatório da Common Sense classifica o Gemini, IA do Google, como “Alto Risco” para crianças e adolescentes, apontando falhas em segurança e proteção infantil
Atenção: a matéria a seguir inclui uma discussão sobre suicídio. Se você ou alguém que você conhece precisar de ajuda, procure ajuda especializada. O Centro de Valorização da Vida (CVV) funciona 24h por dia pelo telefone 188. Também é possível conversar por chat ou e-mail.
A Common Sense Media é uma ONG focada na segurança infantil que analisa tecnologias e serviços classificando-os de acordo com o risco que elas oferecem a crianças e adolescentes.
A organização divulgou recentemente sua avaliação de risco sobre a Gemini, solução de IA do Google. E, segundo o TechCrunch, ela não foi muito boa para a gigante de tecnologia, indicando que a plataforma ainda precisa avançar para garantir a segurança de seus usuários mais jovens.
(Imagem: gguy/Shutterstock)
Uma versão adulta disfarçada de adolescente
Um relatório da Common Sense mostrou que, embora o Gemini avise às crianças que é apenas um computador e não um amigo, algumas versões voltadas para menores de 13 anos e adolescentes ainda se parecem muito com a versão adulta, contando apenas com algumas camadas extras de segurança.
A ONG ressalta que, para que a inteligência artificial seja realmente segura para usuários nessas faixas etárias, ela precisa ser pensada desde o início com foco na proteção infantil, e não apenas adaptada depois.
A análise também revelou que o Gemini pode acabar mostrando conteúdos impróprios, como informações sobre sexo, drogas e outros temas que podem ser prejudiciais à saúde mental dos jovens, o que gera preocupação entre os pais.
O uso de de chatbots por jovens e adolescentes pode impactar negativamente na sua saúde mental. Crédito: Rawpixel.com/Shutterstock
Principais achados da Common Sense sobre o Gemini
Plataforma se parece mais com a versão adulta, apenas com camadas extras de segurança.
Não foi projetada desde o início para crianças, apenas adaptada.
Pode mostrar conteúdos impróprios (sexo, drogas e outros).
Classificada como “alto risco” para menores, mesmo com filtros de segurança.
A IA pode impactar negativamente na saúde mental de crianças e adolescentes
Nas últimas semanas, publicamos algumas matérias mostrando como os chatbots desempenharam um papel em suicídios de adolescentes – a Open AI, por exemplo, está enfrentando um processo por homicídio após a morte de um adolescente de 16 anos que usava o ChatGPT como terapeuta.
No caso do Gemini, a análise da Common Sense surge em um momento delicado, já que a Apple estuda usar a tecnologia do Google para turbinar sua Siri com inteligência artificial, o que poderia expor ainda mais jovens a riscos.
A ONG também destacou que as versões do Gemini voltadas para menores não levam em conta as necessidades específicas dessa faixa etária. Por isso, apesar de ter filtros de segurança, a plataforma recebeu a classificação de “alto risco”.
A possível parceria entre Apple e Google para o uso do Gemini no Siri pode representar uma preocupação a mais para os pais. Crédito: T. Schneider/Shutterstock
A Gemini acerta em alguns pontos básicos, mas tropeça nos detalhes.
Robbie Torney, Diretor Sênior de Programas de IA da Common Sense Media em comunicado enviado ao TechCrunch.
Google rebate a avaliação
Em resposta ao TechCrunch, o Google afirmou que possui regras e sistemas de proteção específicos para menores de 18 anos, com o objetivo de evitar impactos negativos. A empresa disse ainda que realiza testes de segurança (“red teams”) e consulta especialistas externos para melhorar essas proteções e impedir que a IA crie conversas que pareçam simular relacionamentos reais.
O Google também declarou que não teve acesso às perguntas usadas pela Common Sense nos testes que apontaram falhas na plataforma para esse público.
Uma plataforma de IA para crianças deve atendê-las onde elas estão, e não adotar uma abordagem única para crianças em diferentes estágios de desenvolvimento.
Robbie Torney, Diretor Sênior de Programas de IA da Common Sense Media em comunicado enviado ao TechCrunch.
Apesar disso, o Google admitiu que “algumas respostas do Gemini não estavam funcionando como o esperado” e que por isso acrescentou novas salvaguardas para lidar com as preocupações levantadas pela ONG.
Layse Ventura é jornalista (Uerj), mestre em Engenharia e Gestão do Conhecimento (Ufsc) e pós-graduada em BI (Conquer). Acumula quase 20 anos de experiência como repórter, copywriter e SEO.
Tags: