A segunda Cúpula de Segurança de IA contou nesta terça-feira (21) com 16 empresas consideradas as referências no desenvolvimento de IA no mundo, e o principal tema em debate foi como conduzir a criação dessas tecnologias com segurança. As informações são da Reuters.
Leia mais:
- Samsung apresenta linha de eletrodomésticos com IA
- IA no mercado financeiro: inovação, desafios e o futuro econômico
- Lei da IA: Conselho da UE aprova regulamentações
O tema vem sendo cada vez mais abordado em um momento em que os reguladores se esforçam para acompanhar a rápida inovação e os riscos emergentes que IAs cada vez mais avançadas podem representadas aos interesses públicos.
Entre as empresas presentes na reunião, estiveram Google, Meta, Microsoft e OpenAI, bem como empresas da China, Coreia do Sul e Emirados Árabes Unidos.
O debate foi apoiado por uma declaração mais ampla das principais economias do Grupo dos Sete (G7), da União Europeia, assim como Singapura, Austrália e Coreia do Sul, dada em uma chamada virtual organizada pelo primeiro-ministro britânico, Rishi Sunak, e pelo presidente sul-coreano, Yoon Suk Yeol.
O gabinete presidencial da Coreia do Sul disse que as nações concordaram em priorizar a segurança, a inovação e a inclusão da IA.
“Devemos garantir a segurança da IA para proteger o bem-estar e a democracia da nossa sociedade”, disse Yoon, observando preocupações com riscos que IAs trazem, como as deepfakes.
Os participantes salientaram a importância da interoperabilidade entre os quadros de governança, os planos para uma rede de institutos de segurança e o envolvimento com organismos internacionais para construir um acordo, tudo em uma primeira reunião para melhor abordar os riscos.
Empresas como Amazon, Samsung, Tencent, Xiaomi e outras comprometeram-se a publicar estruturas de segurança para medir riscos e evitar modelos onde os riscos não pudessem ser suficientemente mitigados, além garantir mais transparência.
“É vital conseguir um acordo internacional sobre as áreas vermelhas onde o desenvolvimento da IA se tornaria inaceitavelmente perigoso para a segurança pública”, disse Beth Barnes, fundadora do METR, um grupo que promove a segurança dos modelos de IA, em resposta à declaração.
Representantes de IA do mundo todo estiveram na Cúpula de Segurança de IA
- A China, que co-assinou o “Acordo de Bletchley” sobre a gestão coletiva dos riscos de IA durante a primeira reunião de novembro, não compareceu à sessão de terça-feira, mas participará pessoalmente numa sessão ministerial nesta quarta-feira, disse um responsável presidencial sul-coreano.
- Elon Musk, representando a Tesla, o ex-CEO do Google Eric Schmidt, o presidente da Samsung Electronics Jay Y. Lee e outros líderes da indústria de IA participaram da reunião.
- A próxima reunião será na França, segundo alegam as autoridades.
Tags: