Shane Jones, engenheiro de inteligência artificial (IA) da Microsoft, manifestou preocupação após testar o Copilot Designer, ferramenta de geração de imagens alimentada pela tecnologia da OpenAI. Sua preocupação veio por conta do conteúdo perturbador gerado pelo sistema.
Para quem tem pressa:
- Shane Jones, engenheiro de IA da Microsoft, expressou preocupações após testar o Copilot Designer, ferramenta com tecnologia da OpenAI, devido a imagens perturbadoras geradas que incluem sexualização, violência e consumo de substâncias por menores de idade;
- Ao tentar reportar os problemas internamente, Jones foi aconselhado a contatar a OpenAI, mas não recebeu resposta. Após compartilhar suas preocupações no LinkedIn, foi instruído pelo departamento jurídico da Microsoft a remover sua publicação;
- Jones destacou os riscos da IA generativa, especialmente em relação ao seu potencial para criar conteúdo inapropriado e seu impacto nas eleições, devido à falta de restrições claras para a geração de conteúdo violento ou perturbador;
- Diante das falhas nos controles de conteúdo e de proteção de direitos autorais, Jones solicita uma revisão independente dos processos da Microsoft para relatar incidentes de IA responsável, além de mudanças na ferramenta Copilot Designer para assegurar a segurança dos usuários e mitigar riscos.
Durante testes, Jones encontrou imagens problemáticas – entre elas: sexualização, representações de violência e consumo de substâncias por menores de idade. Apesar das descobertas alarmantes, ao relatá-las internamente na Microsoft, Jones foi direcionado a contatar a OpenAI. E não obteve resposta. As informações são da CNBC.
Leia mais:
- Microsoft pode lançar seus primeiros ‘PCs de IA’ este mês
- Microsoft Copilot: o que é e como usar inteligência artificial?
- Microsoft Copilot Pro ou ChatGPT Plus: o que vale mais a pena?
Posteriormente, o engenheiro compartilhou suas preocupações publicamente no LinkedIn, mas foi instruído pelo departamento jurídico da Microsoft a tirar a postagem do ar. Jones também levou suas preocupações para senadores e a Comissão Federal de Comércio (FTC, na sigla em inglês) dos EUA.
Preocupações sobre a IA da Microsoft
Jones está preocupado com as implicações da IA generativa, especialmente considerando a proximidade das eleições em diversos países. O engenheiro nota a falta de barreiras na tecnologia emergente, destacando a capacidade do modelo de gerar conteúdo violento sem limites claros.
O aplicativo Android do Copilot Designer é classificado como seguro para todas as idades, apesar das preocupações de Jones. O engenheiro reportou que a ferramenta pode gerar imagens problemáticas sobre temas como viés político, consumo de álcool e drogas por menores, e estereótipos religiosos. Essa, digamos, postura desafia a classificação de idade da ferramenta e a abordagem da Microsoft em relação à IA responsável.
O engenheiro também destacou o uso indevido de personagens protegidos por direitos autorais, como os da Disney, em contextos impróprios. Para Jones, isso sinaliza falhas nos controles de proteção da ferramenta Copilot Designer e questões de direitos autorais.
Por isso, o engenheiro apela por uma revisão independente dos processos de relatório de incidentes de IA responsável da Microsoft. Jones também pede por mudanças significativas na ferramenta para mitigar riscos e garantir a segurança dos usuários.
Tags: