A integração do DALL-E 3 do Bing, desenvolvida pela Microsoft em parceria com a OpenAI, foi alvo de controvérsia devido à criação de arte apresentando personagens animados muito conhecidos e as Torres Gêmeas.
Alguns usuários conseguiram contornar as medidas de segurança da ferramenta e geraram imagens questionáveis, incluindo personagens famosos pilotando um avião em direção às Torres Gêmeas. Em resposta, a Microsoft bloqueou algumas palavras-chave relacionadas às torres, mas ainda é possível obter as imagens com algumas alterações nas palavras.
Leia mais:
- Qual o melhor programa para ver a temperatura do PC? Veja 5 opções grátis
- Qual navegador é melhor: Chrome ou Edge?
- LuzIA: agora, IA que está no WhatsApp te diz se vai chover ou não
Entenda a polêmica
- A OpenAI, responsável pelo desenvolvimento do DALL-E 3, havia prometido que não geraria imagens a partir de solicitações que envolvessem nomes proeminentes;
- A Microsoft está trabalhando para melhorar seus sistemas e evitar a criação de conteúdo prejudicial;
- Alguns repórteres do The Verge conseguiram gerar imagens semelhantes às descritas, mas, após entrar em contato com a Microsoft, o termo “torres gêmeas” foi bloqueado.
Segurança da IA generativa
A empresa não detalhou como funcionam as medidas de segurança e não comentou sobre o bloqueio recente do conteúdo relacionado às torres. No entanto, é possível contornar as restrições alterando as palavras da solicitação. A OpenAI reconheceu que suas medidas de segurança não são perfeitas e estão sendo constantemente aprimoradas.
Além disso, foi relatado que pessoas estão orientando outras no uso de ferramentas gratuitas, como o Bing Chat, para criar e distribuir imagens racistas. É importante ressaltar que as medidas de bloqueio de conteúdo podem estar chegando tarde demais.
My AI, chatbot do Snapchat, pode ser banido do Reino Unido; entenda
O Information Commissioner’s Office (ICO) alertou, nesta sexta-feira (6), o Snapchat para o uso do My AI, seu chatbot de IA, por crianças e adolescentes. Segundo o órgão fiscalizador de dados do Reino Unido, o aplicativo tem falhado em avaliar adequadamente os riscos de privacidade, o que pode resultar no banimento da tecnologia no país.
Leia a matéria completa aqui
Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!
Tags: