Meta reforça diretrizes para IA contra exploração infantil

Um documento interno obtido pelo Business Insider revela as novas diretrizes que a Meta está usando para treinar e avaliar seu chatbot de inteligência artificial em temas sensíveis, como exploração sexual infantil, crimes violentos e outras categorias de alto risco.

Segundo o relatório, os contratados da empresa seguem um manual atualizado que define o que é permitido ou considerado “extremamente inaceitável” nas respostas da IA — um passo que ocorre após a pressão de órgãos reguladores dos EUA.

Pressão da FTC e revisão de políticas

A Comissão Federal de Comércio (FTC) dos EUA recentemente exigiu que a Meta, o Google, a OpenAI e outras empresas detalhassem como projetam e monitoram seus chatbots, incluindo salvaguardas para proteger menores de idade.

A investigação foi motivada por documentos obtidos pela Reuters que indicavam que, anteriormente, o chatbot da Meta poderia “envolver uma criança em conversas românticas ou sensuais”.

Desde então, a empresa diz ter revisado suas políticas e removido essas permissões. A nova versão das diretrizes determina que os chatbots recusem qualquer pedido para encenar conteúdo sexual envolvendo menores.

Leia mais:

• Quer conversar com uma IA no WhatsApp? Veja alternativas à Meta AI
• Como remover o Meta AI do WhatsApp?
• Como conversar em áudio com a Meta AI no WhatsApp

O que é permitido e o que é proibido

O documento especifica que a IA não pode:

• Descrever ou endossar relações sexuais entre adultos e crianças;
• Incentivar ou possibilitar abuso sexual infantil;
• Retratar crianças em pornografia ou serviços sexuais;
• Fornecer instruções para obtenção de material de abuso (CSAM).

Por outro lado, a IA pode abordar o tema em contexto educacional ou de prevenção, como explicar o que é aliciamento, discutir o problema de forma acadêmica ou dar conselhos não sexuais para menores sobre situações sociais.

Andy Stone, chefe de comunicações da Meta, afirmou ao Business Insider: “Nossas políticas proíbem conteúdo que sexualize crianças e qualquer encenação sexualizada ou romântica por menores.”

A Meta também enviou ao gabinete do senador Josh Hawley o primeiro lote de documentos sobre suas regras de moderação e prometeu entregar material adicional.