Shane Jones, engenheiro de inteligência artificial (IA) da Microsoft, manifestou preocupação após testar o Copilot Designer, ferramenta de geração de imagens alimentada pela tecnologia da OpenAI. Sua preocupação veio por conta do conteúdo perturbador gerado pelo sistema.

Para quem tem pressa:

  • Shane Jones, engenheiro de IA da Microsoft, expressou preocupações após testar o Copilot Designer, ferramenta com tecnologia da OpenAI, devido a imagens perturbadoras geradas que incluem sexualização, violência e consumo de substâncias por menores de idade;
  • Ao tentar reportar os problemas internamente, Jones foi aconselhado a contatar a OpenAI, mas não recebeu resposta. Após compartilhar suas preocupações no LinkedIn, foi instruído pelo departamento jurídico da Microsoft a remover sua publicação;
  • Jones destacou os riscos da IA generativa, especialmente em relação ao seu potencial para criar conteúdo inapropriado e seu impacto nas eleições, devido à falta de restrições claras para a geração de conteúdo violento ou perturbador;
  • Diante das falhas nos controles de conteúdo e de proteção de direitos autorais, Jones solicita uma revisão independente dos processos da Microsoft para relatar incidentes de IA responsável, além de mudanças na ferramenta Copilot Designer para assegurar a segurança dos usuários e mitigar riscos.
Ícone do Copilot da Microsoft
(Imagem: Robert Way/Shutterstock)

Durante testes, Jones encontrou imagens problemáticas – entre elas: sexualização, representações de violência e consumo de substâncias por menores de idade. Apesar das descobertas alarmantes, ao relatá-las internamente na Microsoft, Jones foi direcionado a contatar a OpenAI. E não obteve resposta. As informações são da CNBC.

Leia mais:

Posteriormente, o engenheiro compartilhou suas preocupações publicamente no LinkedIn, mas foi instruído pelo departamento jurídico da Microsoft a tirar a postagem do ar. Jones também levou suas preocupações para senadores e a Comissão Federal de Comércio (FTC, na sigla em inglês) dos EUA.

publicidade

Preocupações sobre a IA da Microsoft

Ilustração de tecla Copilot num computador com IA
(Imagem: Microsoft)

Jones está preocupado com as implicações da IA generativa, especialmente considerando a proximidade das eleições em diversos países. O engenheiro nota a falta de barreiras na tecnologia emergente, destacando a capacidade do modelo de gerar conteúdo violento sem limites claros.

O aplicativo Android do Copilot Designer é classificado como seguro para todas as idades, apesar das preocupações de Jones. O engenheiro reportou que a ferramenta pode gerar imagens problemáticas sobre temas como viés político, consumo de álcool e drogas por menores, e estereótipos religiosos. Essa, digamos, postura desafia a classificação de idade da ferramenta e a abordagem da Microsoft em relação à IA responsável.

microsoft copilot
(Imagem: Tada Images/Shutterstock)

O engenheiro também destacou o uso indevido de personagens protegidos por direitos autorais, como os da Disney, em contextos impróprios. Para Jones, isso sinaliza falhas nos controles de proteção da ferramenta Copilot Designer e questões de direitos autorais.

Por isso, o engenheiro apela por uma revisão independente dos processos de relatório de incidentes de IA responsável da Microsoft. Jones também pede por mudanças significativas na ferramenta para mitigar riscos e garantir a segurança dos usuários.