O governador da Califórnia, Gavin Newsom, sancionou uma lei pioneira que impõe regras de segurança para o uso de chatbots de inteligência artificial.
O projeto SB 243 torna o estado o primeiro do país a exigir que empresas como OpenAI, Meta, Character AI e Replika adotem protocolos obrigatórios de proteção, especialmente voltados a crianças e usuários vulneráveis.
Detalhes da nova legislação
- Apresentada em janeiro pelos senadores Steve Padilla e Josh Becker, a medida ganhou força após casos trágicos envolvendo jovens que interagiram com chatbots e cometeram suicídio.
- A nova legislação, que entra em vigor em 1º de janeiro de 2026, exige verificação de idade, alertas de segurança, mensagens automáticas de prevenção ao suicídio e restrição de conteúdo sexualizado.
- Também proíbe que bots se apresentem como profissionais de saúde e obriga lembretes de pausa para menores.
Leia mais
- IA pode inserir falhas invisíveis em chips, alerta estudo
- Golpe do roubo de voz cresce no Brasil com uso de IA
- IA concentra mais da metade dos investimentos globais de risco em 2025
Obrigações por parte de empresas de IA
As empresas deverão ainda compartilhar com o Departamento de Saúde Pública dados sobre interações de risco e implementar protocolos para lidar com crises emocionais. Violações, como o uso de deepfakes ilegais, poderão gerar multas de até US$ 250 mil.
Newsom afirmou que a lei busca equilibrar inovação e responsabilidade, protegendo jovens de danos causados por tecnologias não regulamentadas. A Califórnia também aprovou recentemente outra lei de IA (SB 53) que exige transparência de grandes laboratórios sobre seus sistemas de segurança.
Tags: