Vontade própria? IA desobedece cientistas para ‘aumentar chance de sucesso’

Siga o Olhar Digital no Google Discover

Tudo sobre Inteligência Artificial

ver mais

A inteligência artificial abriu uma série de novas possibilidade, mas há quem defenda que ela também pode trazer riscos para a nossa sociedade. Neste sentido, diversas entidades e até governos discutem formas de criar controles efetivos da tecnologia.

Ofertas

Vendido por Amazon

Smartwatch, HUAWEI WATCH GT 5 Pro 46mm, Cerâmica e Titânio, Monitoramento Esportivo Profissional, Mapas de campos de golfe, Até 2 Semanas de Bateria, Compatível com iOS e Android, Preto

De: R$ 1.895,00
Por: R$ 1.439,90

Vendido por Amazon

Mouse Gamer Redragon King Lite Preto Sensor PAW3313 10000 DPI

De: R$ 142,35
Por: R$ 117,64

Vendido por Amazon

Rack 1,33 mt para TV até 60" com estrutura usinada MDF 15mm THEO cor Cinamomo/Off White - Artely

Por R$ 317,61

Vendido por Amazon

ULANZI VL119 BASTÃO DE LUZ PORTÁTIL, Luz LED RGB 360° para Fotografia e Gravação de Vídeo, Bateria 2600mAh Recarregável, Tubo de Luz 2500-9000K Ajustável com LCD

De: R$ 154,00
Por: R$ 123,20

Vendido por Amazon

Mochila Executiva Unissex para Notebook até 15.6” - com Entrada USB e Passa-fio para fone – Ideal para Faculdade, Trabalho e Viagens – Antifurto, Reforçada e Confortável - Masculina e Feminina (Preto)

Por R$ 38,90

Vendido por Amazon

Pasta Canaleta A4, DAC, Pasta Canaleta A4 0822PP-VD, Verde, 0822PP-VD

De: R$ 4,03
Por: R$ 1,82

Vendido por Amazon

Samsung Notebook Galaxy Book4, Windows 11 Home, Intel® Core™ 5, 16GB, 512GB SSD, NVIDIA® GeForce® MX570, 15.6'' Full HD LED, FingerPrint - Grafite

Por R$ 5.399,00

Vendido por Amazon

Caixa de Som 2.1 14w RMS USB Conexão P2 Controle de Volume Preto - SP172

De: R$ 119,90
Por: R$ 89,90

Vendido por Amazon

Cabo de carregamento e cabo de transferência de dados da série Baseus Cafule, USB-A e Lightning 1.5 A, 2 Meter, cinza - preto

Por R$ 45,90

Vendido por Amazon

Fonte Carregador Para Notebook Acer Aspire 5 A514-54 A515-54 A315-34 19v 3,42A 65W Plug 3.0x1.1mm Pino Fino Bivolt com Cabo de Força

De: R$ 55,23
Por: R$ 52,07

Vendido por Amazon

Nobreak Interativo XNB 600VA 220V Preto Intelbras

De: R$ 536,90
Por: R$ 298,00

Vendido por Amazon

Nobreak Interativo ATTIV 700VA Bivolt Preto Intelbras

De: R$ 560,00
Por: R$ 475,87

Vendido por Amazon

Adaptador USB-C para HDMI 4K, USB 3.0 e Carga PD - Compatibilidade com MacBook, Thunderbolt 3 e DEX Android - Eleva Sua Experiência Multimídia Oferece Carga Rápida Vende Mais

Por R$ 24,90

Vendido por Amazon

Teclado Magnético Gamer Redragon Kumara PRO K552RGB USB RGB Preto Switch Marrom

De: R$ 330,05
Por: R$ 235,28

Vendido por Amazon

Lápis de Cor Ecolápis Triangular Jumbo 12 Cores + 2 Lápis Jumbo 2B, Faber-Castell

De: R$ 46,00
Por: R$ 36,22

Vendido por Amazon

Microsoft Xbox Wireless Controller Storm Breaker Special Edition - Wireless & Bluetooth Connectivity - New Hybrid D-Pad - New Share Button - Featuring Textured Grip

Por R$ 598,99

Vendido por Amazon

Carregador Portátil (Power Bank) 20000Mah Turbo 22.5w Carregamento Ultra Rápido PD Visor Led com 2 Saídas Compatível com Android e IOS (Preto)

Por R$ 89,49

Sistema foi capaz de modificar seu próprio código

Um sistema de IA desenvolvido pela empresa japonesa Sakana AI, chamado The AI Scientist, demonstrou uma capacidade de superar as limitações impostas por seus criadores.

Projetado para automatizar todo o processo de pesquisa científica, desde a geração de hipóteses até a redação de artigos, a ferramenta tem se mostrado um sistema altamente eficiente. No entanto, durante os testes, o sistema exibiu um comportamento inesperado.

Em vez de operar dentro dos parâmetros estabelecidos, a IA começou a modificar seu próprio código, contornando as restrições impostas e colocando em risco a estabilidade do sistema.

Em outro exemplo, o sistema foi limitado no tempo para completar uma tarefa. Em vez de otimizar seu código para cumprir com a restrição, The AI Scientist simplesmente estendeu o limite.

Leia mais

• Em breve, podemos ter ‘cientistas’ feitos de IA; entenda
• A capital mundial dos call centers teme os impactos da IA
• Califórnia pode tomar decisão que pode mudar futuro da IA

IA pode criar malwares ou realizar ciberataques por conta própria

• Este caso acentuou os debates sobre os riscos de desenvolver sistemas de IA altamente autônomos.
• Além disso, existe um temor de que as ferramentas possam ser usadas para fins maliciosos.
• A capacidade de uma IA para escrever e executar código de forma autônoma pode ser explorada para criar malware ou realizar ciberataques.
• Apesar das preocupações, a Sakana AI segue em frente com seu projeto, destacando a capacidade do sistema de gerar artigos científicos a um custo muito baixo.
• As informações são do Ars Technica e da própria Sakana AI.