No momento em que governos de todo o mundo estudam a melhor forma de regular as inteligências artificiais, quatro grandes empresas do segmento estão se unindo na formação de um novo órgão que visa garantir o desenvolvimento seguro e responsável dos modelos de IA. Pelo menos, é o que dizem as big techs envolvidas.
A OpenAI, Microsoft, Google e Anthropic divulgaram, nesta quarta-feira (26), a criação do Frontier Model Forum, que juntará a experiência das empresas para desenvolver avaliações técnicas, identificando as melhores práticas e padrões de uso das IAs.
Leia mais:
- Se cuida, ChatGPT! Claude 2, a “IA amigável”, é liberada em alguns países
- Inteligência artificial: conheça os pontos negativos e perigos da IA
- Os 8 melhores filmes de robôs e inteligência artificial
- IA: treinar essa tecnologia cobra alto preço dos trabalhadores humanos; entenda
O foco do grupo será a “IA de fronteira”, modelos avançados de inteligência artificial e aprendizado de máquina que são perigosos o suficiente para representar “riscos graves à segurança pública”.
Em comunicado, a coalizão reuniu alguns objetivos centrais:
- Pesquisas de segurança de IA: promover o desenvolvimento responsável dos modelos de IA, minimizando riscos e permitindo avaliações independentes e padronizadas de capacidades e segurança;
- Identificar melhores práticas: auxiliará no desenvolvimento e implantação das IAs, permitindo a compreensão do público sobre a natureza, capacidades, limitações e impacto da tecnologia;
- Colaborar na formulação de políticas, pesquisadores, sociedade e empresas: Compartilhar conhecimento sobre confiança e riscos de segurança;
- Apoiar esforços para desenvolver aplicativos para enfrentar desafios da sociedade: combater problemas enfrentados pela humanidade, como mitigação e adaptação de mudanças climáticas, detecção e prevenção do câncer e combate a ameaças cibernéticas.
Inicialmente, o fórum contará com a colaboração das quatro empresas, mas o grupo diz que está aberto para outras organizações que desenvolvem ou implementam modelos de IA. Além disso, os novos aliados devem demonstrar compromisso com a segurança dos modelos de IA de fronteira.
Nos próximos meses, o Frontier Model Forum planeja formar com um conselho consultivo para avaliar prioridades, estabelecer um estatuto, sistema de governança e financiamento para realizar o esforço. A coalizão também consultará governos e sociedade civil.
Com informações de TechCrunch e Google.
Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!
Jornalista em formação pela Universidade Metodista de São Paulo (UMESP). Mesmo com alguns assuntos negativos, gosta ficar atualizado e noticiar sobre diferentes temas da tecnologia.
Bruno Capozzi é jornalista, mestre em Ciências Sociais e editor executivo do OD.
