Na próxima sexta-feira (29), sete grandes empresas de IA, incluindo Microsoft, Google e OpenAI, se reunirão na Casa Branca.

A reunião será usado pelas empresas para prometerem, voluntariamente, criar formas de os consumidores identificarem materiais criados por IA generativa e testar suas ferramentas por segurança antes de lançar para todos os usuários. Amazon, Anthropic, Inflection e Meta completam o grupo de participantes.

Leia mais:

Lista de compromissos

  • Desenvolver forma de os consumidores conseguirem identificar conteúdos feitos pela IA generativa, como, por exemplo, com marcas d’água;
  • Engajar especialistas independentes para avaliar a segurança de suas ferramentas antes de liberá-las ao público;
  • Compartilhar informações sobre melhores práticas e tentativas para contornar as salvaguardas com outros participantes do setor, governos e especialistas externos;
  • Permitir terceiros que procurem e reportem vulnerabilidades em seus sistemas;
  • Reportar limitações de suas tecnologias e guiar usos apropriados de ferramentas de IA;
  • Priorizar a pesquisa de riscos societais da IA, incluindo discriminação e privacidade;
  • Desenvolver a IA com objetivo de ajudar na mitigação dos desafios societais, como mudanças climáticas e doenças.

Segurança é primordial

A segurança se tornou a principal preocupação no mundo da IA desde o lançamento do ChatGPT pela OpenAI em novembro de 2022, o que pode responder a simples inserções textuais com respostas sofisticadas, criativas e conversacionais.

publicidade

As maiores companhias de tecnologia e seus investidores estão bombeando bilhões de dólares nos modelos de linguagem larga por trás das IAs generativas.

A tecnologia carrega certo poder em potencial que os principais nomes expressaram receios publicamente sobre avançar com ela muito rapidamente. Em carta aberta divulgada em maio, especialistas da indústria e líderes escreveram que “mitigar o risco de extinção pela IA deve ser prioridade global com outros riscos de escala societal, como a pandemia de Covid-19 e a guerra nuclear”.

Os últimos compromissos são parte de esforço do presidente dos EUA, Joe Biden, para garantir que a IA é desenvolvida com salvaguardas apropriadas enquanto não dificultam a inovação.

O Congresso dos EUA está também considerando regras acerca da IA, embora implementando padrões podem estar meses ou anos distante, enquanto legisladores seguem aprendendo com os especialistas sobre como a tecnologia funciona e os riscos relevantes envolvidos.

Quem deve estar na reunião?

Os executivos que devem participar da reunião na Casa Branca são o CEO da Amazon Web Services, Adam Selipsky, o CEO da Anthropic, Dario Amodei, o chefe de assuntos globais do Google, Kent Walker, o CEO da Inflection, Mustafa Suleyman, o chefe de assuntos globais da Meta, Nick Clegg, o presidente da Microsoft, Brad Smith, e o presidente da OpenAI, Greg Brockman.

O governo Biden disse que já consultou muitos outros países sobre os compromissos voluntários e está trabalhando para garantir que eles complementem os esforços internacionais quando se trata de colocar barreiras em torno da tecnologia.

Levará algum tempo até que o Congresso aprove uma lei para regular a IA. Mas o presidente, para seu grande crédito, também sabe que não temos tempo. A IA está se movendo tão rápido, mais rápido do que qualquer tecnologia que já vimos.

Gina Raimondo, secretária de Comércio dos EUA, em entrevista ao “Squawk on the Street”, da CNBC

Raimondo chamou a promessa de um “primeiro passo”, mas importante.

Essas empresas estão comprometidas com a transparência real, trabalhando com terceiros para testar os modelos, e com o governo dos Estados Unidos para testar os modelos e compartilhar informações. Não subestime o poder dessa transparência e o fato de que eles sabem que estamos assistindo e seus clientes estão assistindo para responsabilizá-los.

Gina Raimondo, secretária de Comércio dos EUA, em entrevista ao “Squawk on the Street”, da CNBC

Com informações de CNBC

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!