OpenAI e Anthropic assinam acordos para pesquisa e testes de IA

As startups de inteligência artificial OpenAI e Anthropic firmaram acordos com o governo dos Estados Unidos para pesquisa, teste e avaliação de seus modelos de IA, conforme anunciado pelo U.S. Artificial Intelligence Safety Institute e informado pela Reuters.

Esses são os primeiros acordos desse tipo e surgem em um momento de crescente escrutínio regulatório sobre o uso seguro e ético da tecnologia de IA. A Califórnia está prestes a votar em um projeto de lei que visa regulamentar amplamente o desenvolvimento e a implantação de IA no estado.

“Uma IA segura e confiável é essencial para maximizar o impacto positivo da tecnologia. Nossa parceria com o U.S. AI Safety Institute aproveita sua vasta experiência para testar rigorosamente nossos modelos antes de seu lançamento em larga escala”, afirmou Jack Clark, cofundador e chefe de política da Anthropic, que conta com o apoio da Amazon e da Alphabet.

Detalhes dos acordos entre startups de IA e governo dos EUA

• Segundo os acordos, o U.S. AI Safety Institute terá acesso aos novos modelos da OpenAI e da Anthropic antes e depois de sua liberação pública.
• Além disso, haverá colaboração na pesquisa para avaliar as capacidades e os riscos dos modelos de IA.
• “Estamos convencidos de que o instituto desempenha um papel crucial na definição da liderança dos EUA no desenvolvimento responsável da IA e esperamos que nosso trabalho conjunto sirva de referência para o restante do mundo”, disse Jason Kwon, diretor de estratégia da OpenAI, criadora do ChatGPT.

Leia mais:

• Vale a pena pagar pela assinatura do ChatGPT?
• Como usar chat por voz no ChatGPT
• Amazon e Anthropic: parceria está na mira do Reino Unido

“Esses acordos são apenas o início, mas representam um marco importante enquanto buscamos gerenciar o futuro da IA de forma responsável”, afirmou Elizabeth Kelly, diretora do U.S. AI Safety Institute.

O instituto, criado no ano passado como parte de uma ordem executiva da administração do presidente Joe Biden para avaliar os riscos associados a modelos de IA conhecidos e emergentes, também colaborará com o U.K. AI Safety Institute e fornecerá feedback às empresas sobre possíveis melhorias de segurança.