No começo do ano a OpenAI, dona do ChatGPT, anunciou a criação de uma ferramenta que poderia ajudar muitas pessoas, principalmente os professores e profissionais da área de educação, mas que acabou sendo descontinuada recentemente. Trata-se de um detector de conteúdo, chamado de AI Classifier, que descobre se um texto foi gerado por inteligências artificiais generativas.
Nos últimos dias, a OpenAI desligou discretamente a ferramenta por conta da sua baixa taxa de precisão. Não houve uma explicação mais aprofundada, apenas uma nota adicionada à postagem do blog que falava sobre a ferramenta pela primeira vez.
“Estamos trabalhando para incorporar mais feedback e atualmente pesquisando técnicas de proveniência mais eficazes para texto. Nos comprometemos a desenvolver e implantar mecanismos que permitam aos usuários entender se o conteúdo de áudio ou visual é gerado por IA”, escreveu a OpenAI.
Novas ferramentas que permitem o uso de IA cada vez mais sofisticadas ficam on-line quase diariamente e, com isso, uma indústria de detectores também estão surgindo no mercado.
A OpenAI anunciou o lançamento de seu detector de conteúdo gerado por IA, alegando que poderia distinguir entre texto escrito por um humano e uma IA. Mesmo assim, a OpenAI chamou o detector de “não totalmente confiável”, acrescentando que as avaliações em um “conjunto de desafios” de textos em inglês identificaram corretamente 26% do texto escrito por IA como “provavelmente escrito por IA”, enquanto rotulava incorretamente o texto escrito por humanos como escrito por IA em 9% das vezes.
Eles também disseram que as limitações do detector de IA incluem não ser confiável em textos com menos de 1.000 caracteres. Rotulando incorretamente textos escritos por humanos como escritos por IA e classificadores baseados em redes neurais, com desempenho ruim fora de seus dados de treinamento.
Um setor que está extremamente interessado em detectar com precisão conteúdos feitos por IA, é a educação. Desde o lançamento do ChatGPT em novembro, os educadores emitiram o alerta de que alunos estão usando o chatbot para escrever redações .
“Reconhecemos que a identificação de texto escrito por IA tem sido um ponto importante de discussão entre os educadores, e igualmente importante é reconhecer os limites e impactos dos classificadores de texto gerados por IA na sala de aula”, disse a OpenAI, acrescentando que a empresa continuará ampliando o alcance a medida que aprende.
