Legisladores da União Europeia (UE) enfrentam divergências sobre como regular sistemas de inteligência artificial (IA) como o ChatGPT, conforme informaram seis fontes à Reuters. As negociações são cruciais para as discussões finais, programadas para 6 de dezembro.

Para quem tem pressa:

  • Legisladores da União Europeia enfrentam divergências sobre como regular sistemas de inteligência artificial (IA) como o ChatGPT;
  • A IA generativa – tecnologia capaz de “criar” conteúdo – tornou-se um obstáculo central nas discussões, destacando a complexidade de regulamentar esses sistemas avançados;
  • Após dois anos de negociações e aprovação pelo Parlamento Europeu em junho, as regras de IA propostas enfrentam o desafio de alcançar um consenso entre os membros da UE, com o risco de arquivamento do projeto antes das eleições de 2024;
  • Existe um debate sobre como regulamentar modelos fundamentais de IA, com alguns especialistas propondo uma abordagem escalonada baseada no tamanho do modelo, enquanto outros preferem a autorregulação.

A IA generativa – tecnologia capaz de “criar” conteúdo (texto, imagem, vídeo etc) – tornou-se o principal obstáculo nas conversas sobre o “AI Act”, conjunto abrangente de medidas para proteger os consumidores de aplicações potencialmente perigosas da IA, da União Europeia.

Leia mais:

Como parte da série especial de reportagens por conta do aniversário do ChatGPT, que completou um ano em 30 de novembro de 2023, o Olhar Digital publicou um mergulho sobre em que pé está a regulamentação da IA, bem como qual o futuro dessa tecnologia.

publicidade

Regulamentação da IA

Inteligência Artificial
(Imagem: SomYuZu/Shutterstock)

Modelos fundamentais, como o desenvolvido pela OpenAI, apoiada pela Microsoft, são sistemas de IA treinados em grandes conjuntos de dados, capazes de aprender com novas informações para executar diversas tarefas.

Após dois anos de negociações, o projeto de lei foi aprovado pelo Parlamento Europeu em junho. As regras de IA propostas agora precisam ser acordadas em reuniões entre representantes do Parlamento Europeu, do Conselho e da Comissão Europeia.

Especialistas dos países da UE se reunirão nesta sexta-feira (08) para definir sua posição sobre modelos fundamentais, acesso a códigos-fonte, multas e outros tópicos, enquanto os legisladores do Parlamento Europeu também devem finalizar sua postura sobre o tema.

Se não houver acordo, o “AI Act” corre o risco de ser arquivado devido à falta de tempo antes das eleições parlamentares europeias de 2024.

Obstáculos para consenso

Pessoa segurando tablet com cabeça não-humana em cima com sigla de inteligência artificial (IA) na testa
(Imagem: Jirsak/Shutterstock)

Embora alguns especialistas e legisladores tenham proposto uma abordagem escalonada para regular modelos fundamentais, definidos como aqueles com mais de 45 milhões de usuários, outros argumentam que modelos menores podem ser igualmente perigosos.

A maior dificuldade para chegar a um acordo veio da França, Alemanha e Itália, que preferem permitir que os criadores de modelos de IA generativa se autorregulem, em vez de impor regras rígidas.

Em uma reunião dos ministros da economia desses países, em 30 de outubro em Roma, a França convenceu a Itália e a Alemanha a apoiar uma proposta, segundo fontes ouvidas pela Reuters.

Até então, as negociações haviam ocorrido sem problemas, com os legisladores fazendo concessões em várias outras áreas de conflito, como a regulamentação de IA de alto risco.

Críticas

Pessoa prestes a tocar linhas de programação de inteligência artificial
(Imagem: NicoElNino/Shutterstock)

A autorregulação tem sido criticada por parlamentares europeus, pelo comissário da UE Thierry Breton e por diversos pesquisadores de IA. Em uma carta aberta, divulgada recentemente, pesquisadores como Geoffrey Hinton alertaram que a autorregulação é “insuficiente para garantir a segurança dos modelos fundamentais”.

Empresas de IA como a Mistral, baseada na França, e a Aleph Alpha, da Alemanha, criticaram a abordagem escalonada de regulamentação dos modelos fundamentais, conquistando o apoio de seus respectivos países.

Kirsten Rulf, da Boston Consulting Group, destacou a importância da certeza legal para as indústrias europeias, especialmente com o planejamento para o próximo ano e a expectativa em torno do “AI Act” da UE para 2024.

Outras questões pendentes nas negociações incluem a definição de IA, avaliação de impacto nos direitos fundamentais, exceções para aplicação da lei e segurança nacional.

Legisladores também estão divididos sobre o uso de sistemas de IA por agências de aplicação da lei para identificação biométrica de indivíduos em espaços públicos e não conseguiram chegar a um acordo sobre vários desses tópicos em uma reunião em 29 de novembro.