IA cresce, mas equipes de ética de big techs diminuem

Tudo sobre Inteligência Artificial

Ao passo que a Inteligência Artificial (IA) se tornou o novo foco das big techs, as equipes responsáveis pelas pesquisas relacionadas à ética do setor têm se tornado cada vez menores. Isso, quando existem.

Ofertas

Vendido por Amazon

Pasta Sanfonada DAC A4 Com 12 Divisões All Black Preto

De: R$ 27,90
Por: R$ 22,59

Vendido por Amazon

Carregador Fonte para Notebook Asus 19V 2.37A 45W com Pino Fino 4.0x1.35mm, compatível com VivoBook X543ua X543ma X515 X512 X510U ZenBook 14 UX433FA UX431FA X512F, referência Ad2108020 bivolt

De: R$ 67,44
Por: R$ 59,95

Vendido por Amazon

Garmin Relógio Venu 3 Branco 45mm com Monitor Cardíaco de Pulso e GPS

De: R$ 4.699,00
Por: R$ 3.099,00

Vendido por Amazon

eufy Câmera S3 Pro Kit 2+1 por anker, Câmera De Segurança Wi-Fi Externa Sem Fio, 4K, Energia Solar, Visão Noturna MaxColor, Reconhecimento Facial por IA, Compatível com Alexa, Sem taxas mensais

De: R$ 3.499,00
Por: R$ 3.324,00

Vendido por Amazon

eufy HomeBase3, Câmera de segurança, Reconhecimento Facial por IA, Armazenamento Local Expansível até 16TB, Criptografia Avançada, Ecossistema de Segurança eufy, Sem taxas mensais

De: R$ 1.049,00
Por: R$ 799,00

Vendido por Amazon

Bettdow SmartWatch, Relogio Smartwatch Feminino, 1.27" Ecrã tátil, à prova d'água IP68, 100+ Modos Esportivos, chamada Bluetooth, Compatível com Android iOS, voz por IA (Azul)

De: R$ 299,00
Por: R$ 241,44

Vendido por Amazon

Combo Teclado e Mouse sem fio Logitech POP Icon com Teclas e Botões Personalizáveis, Clique Silencioso, Easy-Switch para até 3 dispositivos e Conexão Bluetooth - Grafite

De: R$ 499,90
Por: R$ 349,90

Vendido por Amazon

eufy Câmera S330 (eufyCam 3) 2-Cam Kit por anker, Câmera De Segurança Wi-Fi Externa Sem Fio, 4K, Painel Solar, Forever Power, Reconhecimento Facial IA, Armazenamento Local Até 16TB, Sem Taxa Mensal

De: R$ 2.399,00
Por: R$ 2.159,00

Vendido por Amazon

soundcore Select 4 Go da Anker, Alto-Falante Bluetooth Portátil, 20H de Bateria, IP67 à Prova d'Água e Poeira, Flutuante, Som Potente, Ideal para Ambientes Internos, Externos e Passeios

De: R$ 339,00
Por: R$ 188,99

Vendido por Amazon

WB Smart Tag Localizador Bluetooth, Rastreador Compatível com o Apple Find My, bateria substituível, Localizador de itens para bolsas

De: R$ 88,00
Por: R$ 45,00

Vendido por Amazon

Anker Nano Carregador Portátil, Power Bank Compacto 10000mAh 45W Máx., Bateria Portátil Essencial para Viagens com Cabo Retrátil InstaCord de 70 cm para iPhone 17/16 Series, iPad, Galaxy, Pixel e Mais

De: R$ 399,00
Por: R$ 379,00

Vendido por Amazon

Capa com Teclado Combo Touch para iPad (10ª geração e A16) Com Teclado Retroiluminado Destacável com Suporte, Trackpad Preciso e Tecnologia Smart Connector - Cinza

De: R$ 1.629,90
Por: R$ 1.239,90

Vendido por Amazon

ULANZI VL-200Bi 200W luz de estúdio bicolor, luz de preenchimento COB, iluminação de saída contínua com controle de APP, 2700K-6500K, 6 cenas, montagem Bowens

De: R$ 1.179,00
Por: R$ 943,20

Vendido por Amazon

eufy Câmera S350, Camera de Segurança Wi-Fi, 4K Inteligente com Câmera Dupla, Visão 360°, Zoom 8×, Visão Noturna, Babá Eletrônica, Rastreamento por IA, Compatível com Alexa e HomeBase 3

De: R$ 999,00
Por: R$ 798,99

Vendido por Amazon

WAAW By ALOK Fone de Ouvido Bluetooth SENSE 310 Com Cancelamento de Ruído e Assistente de Voz, 30h de Bateria

De: R$ 329,90
Por: R$ 205,91

Vendido por Amazon

WAAW by ALOK Caixa de Som US 200SB DUO Bluetooth 2 em 1, Resistente à Água, Acabamento Metálico, TWS, 20W RMS

De: R$ 599,90
Por: R$ 476,10

Vendido por Amazon

Eufy Cam E340 Câmera De Segurança Wi-Fi Dual Band (2.4/5GHz) Exterior, 360° PTZ, Gravação 24/7, 2000 Lúmens, Detecção de Movimento + Sirene Integrada, Câmera Dupla, Sem Taxa Mensal, Branco

De: R$ 1.199,00
Por: R$ 1.139,05

Vendido por Amazon

Novo Kindle Paperwhite Signature Edition (32 GB) - O Kindle mais rápido já lançado, com luz frontal autoadaptável, carregamento sem fio e bateria que dura semanas - Cor Preta Metálica

De: R$ 1.199,00
Por: R$ 949,00

Vendido por Amazon

Cis Cola Em Bastão Fix 34 Gramas, Blister

De: R$ 9,60
Por: R$ 7,60

Vendido por Amazon

Estojo Escolar Organizador Box Grande Para Lapis Feminino Masculino Material Escolar (Azul)

Por R$ 38,70

Vendido por Amazon

Compasso Escolar 106-S, CIS, 18.7700, Estojo c/1 sortido (Não é possível escolher cor)

De: R$ 31,40
Por: R$ 21,77

Vendido por Amazon

Ecolapis Cor Pastel F.Castell 10 Cores, Faber-Castell, 120510P, Multicor, pacote de 10

De: R$ 21,00
Por: R$ 16,63

Vendido por Amazon

Tilibra - Estojo Box Académie Cinza

De: R$ 106,90
Por: R$ 59,95

Vendido por Amazon

Estojo Escolar Box Grande Organizador com Divisórias e Alça - Estojo Necessaire Unissex Capacidade Ampla para Lápis, Canetas, Material Escolar (Preto)

Por R$ 34,90

Vendido por Amazon

Chamequinho Papel A4, 75 g, 100 Folhas, Verde Sulfite

De: R$ 9,90
Por: R$ 7,20

Vendido por Amazon

Combo Teclado e Mouse Sem Fio Logitech MK250 Bluetooth com Conectividade Rápida e Fácil, Design Compacto, Mouse Ambidestro, Layout ABNT2, Construção Durável, Compatível com PC e Mac - Rosa

De: R$ 169,90
Por: R$ 139,90

Vendido por Amazon

Combo Teclado e Mouse sem fio Logitech MK235 com Conexão USB, Pilhas Inclusas e Layout ABNT2

De: R$ 149,90
Por: R$ 119,90

Vendido por Amazon

Anker MagGo Power Bank, Carregador Portátil com Certificação Qi2 de 15W, Compatível com MagSafe, 10.000mAh, Tela Inteligente e Suporte Dobrável, para iPhone 17/15/14/13/12, Inclui Cabo USB-C, Branco

De: R$ 699,00
Por: R$ 398,99

Vendido por Amazon

Mouse Sem Fio Logitech M330 SILENT com Clique Silencioso, Design Destro, Bateria de 18 Meses, Receptor USB, Compatível com Windows, macOS, ChromeOS e Pilha Inclusa - Preto

De: R$ 109,90
Por: R$ 79,90

Vendido por Amazon

Webcam Full HD Logitech Brio 100 com Microfone Integrado, Proteção de Privacidade, Correção Automática de Luz e Conexão USB-C - Grafite

De: R$ 299,90
Por: R$ 199,90

Apesar da competição acirrada por inovações no setor da Inteligência, a diminuição dos funcionários da área vem em meio a demissões em massa nas companhias de tecnologia. O Twitter, Amazon Twitch e Microsoft foram três que liberaram ou realocaram toda a equipe de ética para IA.

Leia mais:

O caso da Twitch

Depois de 12 anos online, em 2022, a Twitch percebeu que tinha um problema: a rede é tendenciosa, e mulheres e pessoas negras acusaram a plataforma de sexismo e racismo, como parte de um problema social mais amplo.
Os críticos disseram que os algoritmos de recomendação por IA da própria Twitch perpetuavam esses preconceitos e ampliavam o problema.
Em resposta, a empresa subsidiária da Amazon montou uma equipe de IA para examinar especificamente esses algoritmos, e passou a realizar pesquisas demográficas para identificar os casos.
Na semana passada, porém, as poucas pessoas que compunham a equipe de ética de IA ou foram demitidas, como parte de uma demissão em massa, ou realocadas em outros setores da empresa.

Um ex-funcionário da Twitch, que preferiu se manter anônimo, comentou o caso para o The Washington Post.

Queríamos tornar o Twitch mais igualitário e também mais seguro para criadores de todas as origens. Isso é um passo atrás.
Ex-funcionário da Twitch

Outros casos e consequências

A Twitch não foi a única a reduzir sua equipe de ética.
Em novembro de 2022, Elon Musk fez o mesmo no Twitter, em um esforço maior de cortar três quartos do quadro de funcionários.
Em janeiro, a Microsoft cortou toda a equipe de Ética e Sociedade, como parte de uma enorme rodada de demissões; o grupo liderava as pesquisas sobre IA responsável na empresa.
O movimento de diminuição de equipes de ética vem em um momento de intensa competição entre empresas do setor por inovação, mas mostra que a ética desses programas não é a prioridade.
Especialistas em IA ética afirmam que a separação dessas equipes podem resultar no lançamento de produtos nocivos, antes mesmo de suas consequências e riscos serem examinados.
A líder da equipe META do Twitter (uma acrônimo para Machine Learning Ethics, Transparency, and Accountability), Rumman Chowdhury, foi demitida em novembro por Musk após realizar programas inovadores, como o “bias bounty”, que localiza parcialidades no sistema do aplicativo.
Ela afirma que a ética da IA é “um centro de custo, não um centro de receita” e que empresas inteligentes sabem que isso (não investir em ética) custará caro a longo prazo, mas estão pensando mais no agora.
Chowdhury também defende que pode haver vantagens em integrar ética da IA no desenvolvimento de produtos. Empresas de tecnologia como Microsoft e Meta investiram pesado em tecnologia para detalhar os impactos sociais dos seus produtos.

Já a cientista da computação que liderou a equipe de ética de IA do Google, Timnit Gebru, foi demitida de forma polêmica em dezembro de 2020 e se manifestou.

Para mim, parece que eles estão em uma corrida e só querem vencer a corrida, e qualquer um que esteja fazendo qualquer outra coisa é inútil.
Timnit Gebru

Após a saída do Google, ela iniciou uma ONG dedicada a pesquisar danos da IA e buscar soluções. Gebru disse ao The Washington Post que vê as equipes de ética das big techs como “vitrines”, que são rapidamente deixadas de lado quando há cortes de custos.

Contexto da IA e ética

Além de acontecer simultaneamente com o avanço da IA e as demissões em massa, a redução nas equipes de ética vem em meio a uma onda de IA generativa. Essa nova forma de tecnologia é capaz de gerar conteúdo, interagir com o ser humano e realizar tarefas. O ChatGPT, da OpenAI, o gerador de imagens Midjourney e o Bard, chatbot do Google, são alguns exemplos.

Agora, as pessoas estão expostas e em contato com ferramentas que, antes, ficavam reclusas a laboratórios de testes das big techs. Em contrapartida, a preocupação das empresas é a de ficar para trás em relação aos lançamentos, o que diminui a cautela com a ética, já que não há mais tempo de realizar pesquisas internas e receber feedbacks para entender as reações da IA.

Reação das big techs

Na terça-feira, 28 de março, acadêmicos e líderes empresariais assinaram uma carta pedindo que empresas de IA suspendessem o treinamento de novos chatbots. O dono e CEO do Twitter, Elon Musk, o cofundador da Apple Steve Wozniak, e o veterano de pesquisas de IA Yoshua Bengio foram alguns dos que assinaram.

A carta defendia que “poderosos sistemas de IA devem ser desenvolvidos apenas quando estivermos confiantes de que seus efeitos serão positivos e seus riscos serão administráveis”.

Futuro da IA generativa

A carta de Musk e de outros líderes mostra a preocupação com os riscos da IA generativa.
Chowdhury, porém, defende que focar nas questões a longo prazo pode tirar a atenção do que acontece agora.
Para ela, a questão não é se a IA se desenvolverá para matar humanos, mas se, conforme os programas amadurecem e são amplamente adotados, não passarão a ter problemas — como falas preconceituosas ou outras questões sociais, parte de um contexto maior.
Esses tipos de problemas já adiaram lançamentos de outras ferramentas de IA, como chatbot Tay, da Microsoft, de 2016. O programa rapidamente começou a proferir comentários racistas e a negar o holocausto.
A mesma coisa aconteceu com o Bing, também da Microsoft: o chatbot passou a adotar um tom agressivo e uma persona alternativa, chamada de “Sydney“, além de inventar informações, misturar mentiras com fatos e contradizer o ser humano.

Para o ex-funcionário da Twitch, os pesquisadores e membros de equipes de ética de IA que permanecerem nas big techs terão que se adaptar e mostrar a seus empregadores que esse conhecimento ajudará a evitar problemas no futuro. Consequentemente, será feita uma economia financeira.