A tecnologia “OpenAI” vem sendo empregada para promover pedofilia e abuso infantil no jogo de RPG “AI Dungeon”, um projeto experimental que estabelece algoritmos de inteligência artificial (IA) para a criação autônoma de um enredo aos moldes de “Dungeons and Dragons”.
Segundo informações da Wired a startup Latitude, que criou o projeto, identificou no último mês alguns usuários que vinham manipulando a direção narrativa para que os algoritmos da OpenAI criem personagens que se envolvem sexualmente com menores de idade no jogo.
Leia mais:
- GPT-3: o mais poderoso sistema de inteligência artificial já criado
- Novo sistema de IA gera textos convincentes capazes de enganar humanos
- Elon Musk reforça pedido de regulamentação da inteligência artificial
O jogo “AI Dungeon” coloca você e outros jogadores em um ambiente sem muitas explicações, oferecendo uma ambientação mínima e permitindo que você vá jogando e descobrindo objetivos e mecanismos de progresso. À medida que você avança, os algoritmos vão criando e adaptando a história em tempo real.
Com as ações indevidas de diversos jogadores, a Latitude já anunciou atualizações de moderação que impedem que certos termos sejam aceitos pela OpenAI, tentando acabar com ações que representem pedofilia no RPG.
Além disso, funcionários da empresa manualmente encontraram e marcaram as partidas mais preocupantes. Embora isso seja uma saída óbvia, muitos dos jogadores de “AI Dungeon” não aprovaram a medida, acusando a Latitude de violar a privacidade de seus usuários e abusar de seus poderes.
“As decisões pertinentes à moderação de conteúdo são difíceis em alguns casos, mas não neste”, disse o CEO da OpenAI, Sam Altman. “Esse não é o futuro da IA que nós queremos”.
As reclamações dos usuários são variadas: uma boa parcela diz que o sistema automatizado de marcação de violações é rígido demais – alguns afirmam terem sido posicionados para moderação por expressões como “um computador de oito anos”.
Enquanto as reclamações aparecem, a Latitude confirmou que as mudanças serão mantidas, mas que a empresa continuará a suportar a conteúdo violento ou sexual – desde que, bem, eles tenham apenas o envolvimento (e consentimento) de “adultos”, não “crianças”.
Já assistiu aos nossos novos vídeos no YouTube? Inscreva-se no nosso canal!
Tags: