Aumenta a procura por detectores de textos gerados por IA

Tudo sobre Inteligência Artificial

A popularização do uso da inteligência artificial criou um problema. A tecnologia está sendo cada vez mais usada para a produção de textos, por exemplo. Isso, no entanto, coloca em risco a autenticidade e a originalidade, especialmente em ambientes acadêmicos. Por isso, cresce também a demanda por detectores de textos gerados por IA.

Detectores de textos gerados por IA

A função destes mecanismos é analisar vários recursos linguísticos, como estrutura de frases, escolha de palavras e elementos estilísticos.
Essas ferramentas geralmente usam algoritmos de aprendizado de máquina treinados em grandes conjuntos de dados para reconhecer padrões típicos de textos produzidos por inteligência artificial.
Textos gerados por inteligência artificial têm maior probabilidade de fazer sentido e serem lidos sem problemas, mas também são mais previsíveis.
Já a escrita humana tende a apresentar maior complexidade, com linguagem mais criativa, mas também pode conter erros de digitação ou de gramática.
Outro padrão que pode ser avaliado é a variação na estrutura e comprimento das frases.
Um texto com poucas variações deste tipo tem alta probabilidade de ter sido gerado por IA.
Um com maior variação, por sua vez, provavelmente foi escrito por um humano.

IA coloca em risco a autenticidade e a originalidade dos textos (Imagem: Thapana_Studio/Shutterstock)

Leia mais

Precisão destas ferramentas ainda é discutível

A precisão desses detectores, no entanto, pode variar significativamente dependendo da complexidade do texto, da língua, e da sofisticação da IA que o gerou. Uma das principais questões discutidas no meio acadêmico é o potencial para falsos positivos e falsos negativos.

Falsos positivos ocorrem quando um detector identifica incorretamente um texto escrito por humanos como gerado por IA, enquanto falsos negativos acontecem quando o conteúdo gerado por IA é classificado erroneamente como escrito por humanos. Estes erros podem ter implicações graves, particularmente em contextos acadêmicos em função de acusações de plágio.

Neste cenário, é fundamental que haja melhorias e atualizações contínuas nos algoritmos de detecção. Até o momento, entretanto, é difícil encontrar uma ferramenta que identifique de forma 100% confiável textos gerados por IA e por humanos.

Vários experimentos podem ser conduzidos para avaliar o desempenho dos detectores de IA atualmente em uso, revelando resultados muito diferentes entre si. Alguns detectores mostram altas taxas de precisão em ambientes controlados, mas têm dificuldades em identificar textos humanizados ou parafraseados gerados por IA. Esta variabilidade destaca a necessidade de testes e validação contínuos das ferramentas de detecção. As informações são do The Conversation.