O CEO da OpenAI – e pai do ChatGPT – Sam Altman, testemunhou, nesta terça-feira (16), perante um comitê do Congresso dos EUA. Executivo respondeu perguntas sobre sua empresa e desdobramentos da explosão da tecnologia de IA (inteligência artificial), a partir do lançamento do chatbot, no final de 2022. “Evento” é consequência da investigação de legisladores sobre como regular novo tipo de tecnologia.
Leia mais:
- OpenAI pode lançar novo modelo de IA de código aberto
- ChatGPT e IA: o que os chatbots sabem sobre nós e com quem compartilham dados?
- Aprenda a usar o ChatGPT: 10 dicas valiosas para criar perguntas precisas
Destaques da audiência:
A maneira como a inteligência artificial está sendo usada e como ela pode ser regulada foi o foco principal da audiência no Congresso. Veja abaixo os principais pontos abordados:
- Richard Blumenthal, presidente do subcomitê de privacidade do Senado, reproduziu declaração manipulada para soar como ele pela IA ao falar sobre possíveis danos da tecnologia;
- Sam Altman, CEO da dona do ChatGPT, disse que a IA tem potencial para resolver “os maiores desafios da humanidade, como a mudança climática e a cura do câncer”;
- Altman e outras duas testemunhas concordaram que regulamentação do governo é “crucial” para futuro da indústria;
- O professor cético em IA, Gary Marcus, disse que os EUA e outros “agiram muito devagar com a regulamentação da mídia social”, mas têm escolhas a fazer agora em relação à IA;
- Marcus propôs uma nova agência em nível de gabinete para regular setor, ideia que Altman também pareceu apoiar;
- Altman disse que avanços da IA afetarão significativamente a força de trabalho, mas modelos atuais são “ferramenta, não criatura”;
- Questionado sobre impacto da IA na música, Altman disse que criadores de conteúdo devem opinar sobre como suas vozes, semelhanças ou conteúdo protegido por direitos autorais são usados para treinar modelos de IA;
- Christina Montgomery, diretora de privacidade e confiança da IBM, disse que regras da UE sobre IA são “reguladas pelo contexto” e fornecem boa pista para os EUA seguirem;
- Blumenthal disse que empresas de IA devem liderar com abordagem “não causar danos”, mas admitiu que não haverá pausa no desenvolvimento da IA até que reguladores possam alcançá-la.
Após interrogatório dos senadores, o presidente do subcomitê, Richard Blumenthal, apontou questões que disse não terem sido levantadas. Entre elas, estavam: monopolização, segurança nacional e especificidades da tal nova agência reguladora, sugerida pelo professor Marcus e apoiada pelo CEO da dona do ChatGPT.
Começo da audiência
Audiência começou com todas as partes aparentemente em acordo sobre necessidade de IA ser regulamentada.
Sam Altman abriu seu depoimento falando sobre avanços positivos possibilitados pelo ChatGPT e outras ferramentas lançadas pela sua empresa. Executivo também disse que sua tecnologia apoia avanços de acessibilidade e pode ajudar a encontrar soluções para “alguns dos maiores desafios da humanidade, como a mudança climática e a cura do câncer”.
Depois, Altman enfatizou que regulamentação do governo é crucial à medida que o setor de IA se desenvolve. O modelo mais recente do ChatGPT foi rigorosamente testado, disse ele, mas “a intervenção regulatória dos governos será crítica para mitigar riscos de modelos cada vez mais poderosos”.
CEO da dona do ChatGPT acrescentou que “é importante que empresas tenham sua própria responsabilidade, não importa o que o governo faça” e que a IA “seja desenvolvida com princípios democráticos em mente”.
Em seguida, entrou a segunda testemunha: Christina Montgomery, diretora de privacidade e confiança da IBM. Ela também disse que avanços recentes na tecnologia e “aumento dramático” na atenção levantaram questões sérias sobre IA, principalmente seus impactos na sociedade e o que deve ser feito sobre problemas como preconceito, desinformação e uso indevido. Segundo ela, essas são as “perguntas certas” a serem feitas.
O professor emérito Gary Marcus foi a última testemunha a dar sua declaração antes do interrogatório começar. Ele disse que nós (enquanto raça humana) construímos máquinas “como touros numa loja de porcelana” e não podemos garantir segurança das pessoas.
Professor também disse que missão inicial da OpenAI dizia que eles estavam comprometidos em beneficiar a humanidade. Mas agora eles estão em dívida com a Microsoft – um dos grandes financiadores da empresa.
Perguntas sobre IA, ChatGPT e afins
Confira abaixo os pontos questionados pelos senadores durante a audiência:
- Desenvolvimento de IA
Questionado sobre qual seria seu maior pesadelo em relação aos desenvolvimentos de IA, Altman disse que “espera que haja impacto significativo nos empregos, mas é difícil prever exatamente qual será esse impacto”.
Executivo também disse que é importante pensar no GPT-4 – atualização mais recente do ChatGPT – “como uma ferramenta, não uma criatura”. “É uma ferramenta sobre a qual as pessoas têm muito controle [sobre como usá-la]”, acrescentou. Altman ressaltou que é uma ferramenta para tarefas, ao invés de empregos.
- Responsabilização das empresas
Um dos senadores apontou que empresas de mídia social podem ser responsabilizadas por problemas em suas plataformas – e pergunta como isso pode se aplicar à IA. Altman disse que “ainda não sabe” a resposta, mas gostaria de colaborar com o governo para resolver isso. Ele acrescenta que uma “estrutura de responsabilidade” em torno do uso da tecnologia de IA é importante.
- Impactos na arte e criação de conteúdo
Em seguida, uma senadora perguntou como músicos e outros criadores de conteúdo podem esperar que seus trabalhos sejam usados para treinar futuros modelos de IA. O CEO da dona do ChatGPT respondeu que proprietários de conteúdo devem receber “benefícios significativos” se seus trabalhos forem usados para treinar modelos de IA. E acrescentou que eles também devem ter poder de impedir uso de suas músicas e imagens protegidas por direitos autorais, bem como de suas vozes e semelhanças.
- Efeito da IA na democracia
Depois, outro senador disse estar preocupado com potencial do uso da IA para minar fé nos valores democráticos e na sociedade livre. E perguntou a Montgomery, da IBM, se os EUA deviam seguir o exemplo da UE (União Europeia). Ela respondeu que a Lei de IA da Europa equivale a “regulamentação de precisão” ou “regulação por contexto”. Diretora da IBM acrescentou que existem “regras diferentes para riscos diferentes”, tornando a lei um bom modelo para os EUA basearem futuras ações regulatórias.
- Regulamentação da IA
Houve muita discussão sobre regulamentação na audiência. Mas exatamente o que regulamentar e como funcionaria são as principais questões que permanecem.
Senadores sugeriram tópicos específicos sobre privacidade, questionando dados nos quais modelos de IA são treinados. Gary Marcus, um professor especializado em IA, disse ao comitê que acreditava que a melhor maneira de regulamentar seria criar uma nova agência governamental. “Minha opinião é que provavelmente precisamos de uma organização em nível de gabinete nos EUA para resolver isso”, disse ele.
Porém, a diretora da IBM, Christina Montgomery, discordou. “Não queremos desacelerar a regulamentação para lidar com riscos reais no momento”, disse ela. “Temos autoridades reguladoras existentes que deixaram claro que têm a capacidade de regular em seus respectivos domínios”, acrescentou.
Então, um senador apontou que essas organizações não eram financiadas o suficiente para fazer isso. E o CEO da dona do ChatGPT concordou que regulamentação é necessária e pediu aos senadores dos EUA que regulamentem a inteligência artificial.
Contexto
Altman está no centro do boom da IA graças ao chatbot de IA da OpenAI, o ChatGPT, além de ser um dos líderes mais influentes dessa área. Tanto que já se reuniu com funcionários da Casa Branca, junto a outros CEOs de gigantes da tecnologia (por exemplo, Microsoft e Google), para conversar sobre riscos da IA, no começo de maio.
Na audiência realizada no Congresso, Altman atuou quase como um porta-voz para empresas que avançam para implantar chatbots e outras ferramentas baseadas em IA para o público.
Quem é Sam Altman?
Samuel Altman tem 38 anos, cresceu em St. Louis, cidade no Missouri, e começou a programar quando criança. Ele começou uma graduação na Universidade Stanford, na Califórnia. Mas desistiu, em 2005, para lançar o aplicativo Loopt.
App foi um dos primeiros de mídia social que antecedeu a ampla adoção de smartphones. Altman vendeu a empresa sete anos depois e disse a si mesmo que sua primeira tentativa de ser um empreendedor tinha sido um fracasso. Então, começou a trabalhar na Y Combinator, incubadora de startups que ajudou empresas de tecnologia em estágio inicial a crescer e arrecadar dinheiro.
Esse trabalho o colocou no centro do boom do capital de risco e ele se tornou pupilo de líderes de tecnologia (por exemplo, o fundador do LinkedIn, Reid Hoffman). Eventualmente, Altman passou a administrar a Y Combinator e construir sua própria reputação como investidor de risco e mentor de outros fundadores.
Em 2018, ele se interessou pela política. Altman considerou se candidatar para governador da Califórnia e, no ano seguinte, a arrecadar fundos para o candidato democrata à indicação presidencial Andrew Yang. Além disso, ele doou para a campanha eleitoral do atual presidente dos EUA, Joe Biden.
Com informações de BBC e The Washington Post
Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!
Tags: