Futuro da IA em perigo? Debandada na OpenAI preocupa

Tudo sobre Inteligência Artificial

Tudo sobre OpenAI

A equipe “Superalignment” da OpenAI, responsável por desenvolver estratégias para gerir sistemas de IA “superinteligentes”, enfrentou dificuldades significativas. Inicialmente prometido 20% dos recursos computacionais da empresa, o grupo teve muitas solicitações negadas. E a impediu de cumprir sua função.

Ofertas

Vendido por Amazon

Notebook Dell Inspiron I15-I1300-A60P 15.6" Full HD 13ª Gen Intel Core i5 16GB 1TB SSD Win 11 Preto Carbono

Por R$ 3.955,69

Vendido por Amazon

Monitor Gamer AOC AGON G4S 25" 310Hz 0.3ms HDR10 IPS Base Ajustável 25G4S/P

Por R$ 1.479,00

Vendido por Amazon

Tilibra - Estojo Minibox Happy Lilás

De: R$ 38,12
Por: R$ 36,21

Vendido por Amazon

Caneta Gel – CiS Gelyx – Estojo com 6 unidades – Glitter

De: R$ 30,90
Por: R$ 24,96

Vendido por Amazon

Pentel Caneta Izee 4 Cores 1.0 Corpo Branco Tinta Azul Vermelho Verde e Preto SM/BXC470W

De: R$ 15,32
Por: R$ 9,90

Vendido por Amazon

Tilibra - Caderno Brochura Capa Dura 1/4 D+ Rosa 48 Folhas, 317403

De: R$ 11,85
Por: R$ 5,86

Vendido por Amazon

Celular Positivo P26 4G Tela 1,8", Câmera traseira, 48MB RAM 128MB, Bluetooth, Modem Tethering - Preto

Por R$ 139,90

Vendido por Amazon

Mochila Grande E Reforçada Impermeável Para Notebook Antifurto Bolsa Executiva Masculina Feminina Trabalho Viagem Escolar Faculdade Cabo De Aço Saída Usb Saída Fone De Ouvido

De: R$ 149,79
Por: R$ 113,70

Vendido por Amazon

Tilibra D+ - Caderno Brochura Capa Dura, 1/4 Pequeno, 14x20cm, 48 Folhas, Vermelho

De: R$ 11,81
Por: R$ 6,90

Vendido por Amazon

Garmin Relógio Venu 3 Branco 45mm com Monitor Cardíaco de Pulso e GPS

De: R$ 4.699,00
Por: R$ 3.099,00

Vendido por Amazon

eufy Câmera S3 Pro Kit 2+1 por anker, Câmera De Segurança Wi-Fi Externa Sem Fio, 4K, Energia Solar, Visão Noturna MaxColor, Reconhecimento Facial por IA, Compatível com Alexa, Sem taxas mensais

De: R$ 3.499,00
Por: R$ 3.324,00

Vendido por Amazon

eufy HomeBase3, Câmera de segurança, Reconhecimento Facial por IA, Armazenamento Local Expansível até 16TB, Criptografia Avançada, Ecossistema de Segurança eufy, Sem taxas mensais

De: R$ 1.049,00
Por: R$ 799,00

Vendido por Amazon

Bettdow SmartWatch, Relogio Smartwatch Feminino, 1.27" Ecrã tátil, à prova d'água IP68, 100+ Modos Esportivos, chamada Bluetooth, Compatível com Android iOS, voz por IA (Azul)

De: R$ 299,00
Por: R$ 241,44

Vendido por Amazon

Combo Teclado e Mouse sem fio Logitech POP Icon com Teclas e Botões Personalizáveis, Clique Silencioso, Easy-Switch para até 3 dispositivos e Conexão Bluetooth - Grafite

De: R$ 499,90
Por: R$ 388,78

Vendido por Amazon

eufy Câmera S330 (eufyCam 3) 2-Cam Kit por anker, Câmera De Segurança Wi-Fi Externa Sem Fio, 4K, Painel Solar, Forever Power, Reconhecimento Facial IA, Armazenamento Local Até 16TB, Sem Taxa Mensal

De: R$ 2.399,00
Por: R$ 2.159,00

Vendido por Amazon

soundcore Select 4 Go da Anker, Alto-Falante Bluetooth Portátil, 20H de Bateria, IP67 à Prova d'Água e Poeira, Flutuante, Som Potente, Ideal para Ambientes Internos, Externos e Passeios

De: R$ 339,00
Por: R$ 188,99

Vendido por Amazon

WB Smart Tag Localizador Bluetooth, Rastreador Compatível com o Apple Find My, bateria substituível, Localizador de itens para bolsas

De: R$ 88,00
Por: R$ 45,00

Vendido por Amazon

Anker Nano Carregador Portátil, Power Bank Compacto 10000mAh 45W Máx., Bateria Portátil Essencial para Viagens com Cabo Retrátil InstaCord de 70 cm para iPhone 17/16 Series, iPad, Galaxy, Pixel e Mais

De: R$ 399,00
Por: R$ 379,00

Vendido por Amazon

Capa com Teclado Combo Touch para iPad (10ª geração e A16) Com Teclado Retroiluminado Destacável com Suporte, Trackpad Preciso e Tecnologia Smart Connector - Cinza

De: R$ 1.629,90
Por: R$ 1.239,90

Vendido por Amazon

ULANZI VL-200Bi 200W luz de estúdio bicolor, luz de preenchimento COB, iluminação de saída contínua com controle de APP, 2700K-6500K, 6 cenas, montagem Bowens

De: R$ 1.179,00
Por: R$ 943,20

Vendido por Amazon

eufy Câmera S350, Camera de Segurança Wi-Fi, 4K Inteligente com Câmera Dupla, Visão 360°, Zoom 8×, Visão Noturna, Babá Eletrônica, Rastreamento por IA, Compatível com Alexa e HomeBase 3

De: R$ 999,00
Por: R$ 798,99

Vendido por Amazon

WAAW By ALOK Fone de Ouvido Bluetooth SENSE 310 Com Cancelamento de Ruído e Assistente de Voz, 30h de Bateria

De: R$ 329,90
Por: R$ 199,00

Vendido por Amazon

WAAW by ALOK Caixa de Som US 200SB DUO Bluetooth 2 em 1, Resistente à Água, Acabamento Metálico, TWS, 20W RMS

De: R$ 599,90
Por: R$ 476,10

Vendido por Amazon

Eufy Cam E340 Câmera De Segurança Wi-Fi Dual Band (2.4/5GHz) Exterior, 360° PTZ, Gravação 24/7, 2000 Lúmens, Detecção de Movimento + Sirene Integrada, Câmera Dupla, Sem Taxa Mensal, Branco

De: R$ 1.199,00
Por: R$ 1.139,05

Vendido por Amazon

Novo Kindle Paperwhite Signature Edition (32 GB) - O Kindle mais rápido já lançado, com luz frontal autoadaptável, carregamento sem fio e bateria que dura semanas - Cor Preta Metálica

De: R$ 1.199,00
Por: R$ 949,00

Vendido por Amazon

Combo Teclado e Mouse Sem Fio Logitech MK250 Bluetooth com Conectividade Rápida e Fácil, Design Compacto, Mouse Ambidestro, Layout ABNT2, Construção Durável, Compatível com PC e Mac - Rosa

De: R$ 169,90
Por: R$ 155,44

Vendido por Amazon

Combo Teclado e Mouse sem fio Logitech MK235 com Conexão USB, Pilhas Inclusas e Layout ABNT2

De: R$ 149,90
Por: R$ 119,90

Vendido por Amazon

Anker MagGo Power Bank, Carregador Portátil com Certificação Qi2 de 15W, Compatível com MagSafe, 10.000mAh, Tela Inteligente e Suporte Dobrável, para iPhone 17/15/14/13/12, Inclui Cabo USB-C, Branco

De: R$ 699,00
Por: R$ 398,99

Vendido por Amazon

Mouse Sem Fio Logitech M330 SILENT com Clique Silencioso, Design Destro, Bateria de 18 Meses, Receptor USB, Compatível com Windows, macOS, ChromeOS e Pilha Inclusa - Preto

De: R$ 109,90
Por: R$ 79,90

Vendido por Amazon

Webcam Full HD Logitech Brio 100 com Microfone Integrado, Proteção de Privacidade, Correção Automática de Luz e Conexão USB-C - Grafite

De: R$ 299,90
Por: R$ 222,11

Dificuldades e debandadas em equipe importante da OpenAI

A equipe “Superalignment” da OpenAI, destinada a gerir sistemas de IA “superinteligentes”, enfrentou dificuldades significativas, incluindo negações frequentes de solicitações de recursos computacionais prometidos, o que impediu o cumprimento de sua função;
Vários membros da equipe, incluindo o co-líder Jan Leike, ex-pesquisador da DeepMind, e Ilya Sutskever, cofundador da OpenAI, deixaram a empresa devido a frustrações com a falta de prioridade dada à segurança e preparação para futuras gerações de IA;
A equipe “Superalignment” contribuiu significativamente para a segurança de modelos de IA e publicou pesquisas importantes, mas enfrentou dificuldades para obter investimentos necessários à medida que lançamentos de produtos se tornaram prioritários. A saída de Sutskever e Leike resultou em John Schulman assumindo os projetos da equipe;
A OpenAI decidiu não manter uma equipe dedicada à segurança da IA, integrando esses pesquisadores em várias divisões. Este rearranjo interno levanta dúvidas sobre o compromisso da OpenAI com a segurança no desenvolvimento de IA “superinteligente”, uma preocupação dada a potencialidade perigosa dessa tecnologia.

Esse cenário levou à demissão de vários membros, incluindo o co-líder Jan Leike, ex-pesquisador da DeepMind. Durante seu tempo na OpenAI, Leike desempenhou um papel crucial no desenvolvimento de projetos como o ChatGPT, GPT-4 e InstructGPT.

Leia mais:

A debandada de lideranças importantes na OpenAI

Leike expressou sua frustração e as razões para sua saída numa série de postagens no X (antigo Twitter) na sexta-feira (17). Ele criticou a liderança da OpenAI por não priorizar a segurança e a preparação para as futuras gerações de modelos de IA.

Confira abaixo o “fio” de postagens de Leike no X:

Yesterday was my last day as head of alignment, superalignment lead, and executive @OpenAI.
— Jan Leike (@janleike) May 17, 2024

Ilya Sutskever, cofundador da OpenAI e líder da equipe “Superalignment”, também deixou a empresa nesta semana. Formada em julho com a meta de resolver os principais desafios técnicos para controlar IA “superinteligente” em quatro anos, a equipe também contribuiu significativamente para a segurança dos modelos de IA.

Durante sua existência, a equipe publicou pesquisas importantes de segurança e direcionou milhões de dólares em subsídios para pesquisadores externos. No entanto, à medida que os lançamentos de produtos se tornaram prioritários, a equipe enfrentou dificuldades crescentes para obter os investimentos necessários para suas iniciativas cruciais.

Conflito entre CEO e cofundador da OpenAI aumenta turbulência

Sam Altman, CEO da OpenAI, em evento — (Imagem: photosince/Shutterstock)

Um conflito entre Sutskever e o CEO da OpenAI, Sam Altman, adicionou turbulência interna. Após uma tentativa falha de destituir Altman, que teve o apoio de importantes investidores como a Microsoft e dos próprios funcionários, Sutskever não retornou ao trabalho, deixando um vácuo na liderança.

Com a saída de figuras chave como Leike e Sutskever, John Schulman, outro cofundador da OpenAI, assumiu os projetos da equipe “Superalignment”.

A empresa decidiu não manter uma equipe dedicada, integrando esses pesquisadores em várias divisões, o que suscita preocupações sobre o enfraquecimento do foco em segurança na pesquisa de IA.

Este rearranjo interno levanta dúvidas sobre o compromisso da OpenAI com a segurança no desenvolvimento de IA “superinteligente”, uma preocupação dada a potencialidade perigosa dessa tecnologia.