O YouTube usa algoritmos e moderadores humanos para garantir que os vídeos compartilhados na plataforma não vão contra as políticas da empresa. Mas mesmo assim, ainda não conseguiu evitar o aumento de vídeos relacionados à exploração infantil na plataforma.
Conforme relata o Engadget, os funcionários responsáveis pela moderação afirmam que isso é resultado do mau treinamento da inteligência artificial e do conjunto confuso de diretrizes da empresa.
Os trabalhadores são instruídos a oferecer avaliações de vídeos com base em sua qualidade de produção. Ou seja, mesmo que um vídeo seja perturbador ou violento, os moderadores podem sinalizá-lo, mas devem dizer que é um vídeo de alta qualidade – que é o que acontece com os vídeos de exploração infantil.
Depois da denúncia da existência de vídeos perturbadores voltados para crianças, o YouTube começou a pedir aos avaliadores que decidissem se um vídeo é adequado para espectadores de 9 a 12 anos. No entanto, um moderador afirmou que as regras continuam sendo confusas, a ponto de um clip de música não ser liberado, mas um vídeo contendo violência animal moderada aparentemente poder ser exibidos.
