O Google anunciou uma nova família de modelos de IA, o PaliGemma 2, que pode “identificar” emoções em imagens, gerando legendas detalhadas e respondendo perguntas sobre as pessoas nas fotos.
Embora esse recurso de detecção emocional ainda precise ser ajustado, ele gerou preocupações entre especialistas, que alertam para os riscos de confiar em uma IA para “ler” emoções.
A ideia de detectar emoções com IA tem sido tentada por várias empresas, mas a ciência por trás disso é instável.
Muitos sistemas de detecção de emoções se baseiam no trabalho de Paul Ekman, que sugeriu que todos os seres humanos compartilham seis emoções básicas, mas estudos recentes questionaram essa teoria, apontando diferenças significativas nas expressões emocionais de pessoas de diferentes origens.
Detecção de emoções por IA pode ser prejudicial
- A detecção de emoções tem se mostrado inconsistente e tendenciosa, o que tem levado a crescentes preocupações.
- Estudos já mostraram que modelos podem interpretar expressões de maneira diferente dependendo de fatores como etnia.
- O Google afirma ter feito testes para minimizar viés no PaliGemma 2, mas alguns pesquisadores criticam os métodos usados.
Especialistas também alertam que a interpretação de emoções vai além das expressões faciais e depende de contextos pessoais e culturais. A preocupação é que, se mal implementada, a tecnologia possa ser usada de forma prejudicial, discriminando grupos marginalizados, especialmente em contextos como aplicação da lei ou recursos humanos.
Embora o Google afirme ter feito testes éticos e de segurança, a comunidade continua cética quanto ao impacto desses modelos em uma sociedade cada vez mais dependente da IA.
Leia mais
- O Google precisou mudar resultados de pesquisa na Europa; entenda
- Google enfrenta possíveis restrições de IA após vitória antitruste do governo
- Reino Unido: Apple e Google podem ser investigados
Tags: