Vídeos curtos podem acionar gatilhos emocionais; IA identifica riscos

Tudo sobre Inteligência Artificial

Um estudo publicado na revista Information Systems Research identificou que certos vídeos curtos podem estimular pensamentos suicidas em usuários vulneráveis — e que um novo modelo de inteligência artificial é capaz de sinalizar esse conteúdo antes que ele se espalhe.

A pesquisa surge em um momento de crescente preocupação com a saúde mental dos jovens e maior pressão sobre plataformas como TikTok e similares.

saude mental — Ferramenta oferece às plataformas um alerta precoce em meio à pressão por maior proteção da saúde mental – Imagem: evrymmnt / Shutterstock

Como funciona a ferramenta

O trabalho foi conduzido por pesquisadores dos Estados Unidos e da China, que analisaram como espectadores reagem emocionalmente aos vídeos.
Os autores observaram que comentários deixados logo após o consumo do conteúdo servem como um alerta imediato para potenciais riscos.
“Os comentários são indicadores poderosos de como o vídeo afeta emocionalmente quem assiste”, afirmou Jiaheng Xie, um dos responsáveis pelo estudo.

Com base nisso, a equipe desenvolveu um modelo de tópicos neurais que combina conhecimento médico sobre fatores de risco de suicídio com padrões detectados em vídeos reais.

A ferramenta prevê a probabilidade de novos conteúdos gerarem comentários relacionados a sofrimento emocional, permitindo que moderadores humanos intervenham mais cedo.

Estudo mostra como vídeos curtos afetam jovens — e apresenta IA para frear danos – Imagem: Kaspars Grinvalds / Shutterstock

Leia mais:

Pressão por respostas mais rápidas

O modelo também diferencia o que criadores publicam do que espectadores realmente sentem, além de separar fatores clínicos de tendências sociais, como vídeos de desilusões amorosas ou desafios virais.

Segundo os autores, a ferramenta superou métodos existentes e pode ajudar plataformas a lidar com o aumento da pressão regulatória, processos judiciais e preocupações de especialistas.

Os pesquisadores destacam que a tecnologia deve complementar, e não substituir, o trabalho humano — especialmente em um cenário em que decisões rápidas podem evitar danos maiores.

Moça jovem abrindo o Instagram no celular — Abordagem une dados clínicos e tendências sociais para prever quando um conteúdo merece atenção imediata (Imagem: Tatiana Diuvbanova/Shutterstock)