Um documento interno obtido pelo Business Insider revela as novas diretrizes que a Meta está usando para treinar e avaliar seu chatbot de inteligência artificial em temas sensíveis, como exploração sexual infantil, crimes violentos e outras categorias de alto risco.
Segundo o relatório, os contratados da empresa seguem um manual atualizado que define o que é permitido ou considerado “extremamente inaceitável” nas respostas da IA — um passo que ocorre após a pressão de órgãos reguladores dos EUA.
Pressão da FTC e revisão de políticas
A Comissão Federal de Comércio (FTC) dos EUA recentemente exigiu que a Meta, o Google, a OpenAI e outras empresas detalhassem como projetam e monitoram seus chatbots, incluindo salvaguardas para proteger menores de idade.
A investigação foi motivada por documentos obtidos pela Reuters que indicavam que, anteriormente, o chatbot da Meta poderia “envolver uma criança em conversas românticas ou sensuais”.
Desde então, a empresa diz ter revisado suas políticas e removido essas permissões. A nova versão das diretrizes determina que os chatbots recusem qualquer pedido para encenar conteúdo sexual envolvendo menores.
Leia mais:
- Quer conversar com uma IA no WhatsApp? Veja alternativas à Meta AI
- Como remover o Meta AI do WhatsApp?
- Como conversar em áudio com a Meta AI no WhatsApp
O que é permitido e o que é proibido
O documento especifica que a IA não pode:
- Descrever ou endossar relações sexuais entre adultos e crianças;
- Incentivar ou possibilitar abuso sexual infantil;
- Retratar crianças em pornografia ou serviços sexuais;
- Fornecer instruções para obtenção de material de abuso (CSAM).
Por outro lado, a IA pode abordar o tema em contexto educacional ou de prevenção, como explicar o que é aliciamento, discutir o problema de forma acadêmica ou dar conselhos não sexuais para menores sobre situações sociais.
Andy Stone, chefe de comunicações da Meta, afirmou ao Business Insider: “Nossas políticas proíbem conteúdo que sexualize crianças e qualquer encenação sexualizada ou romântica por menores.”
A Meta também enviou ao gabinete do senador Josh Hawley o primeiro lote de documentos sobre suas regras de moderação e prometeu entregar material adicional.
Tags: