Sistema TURNITIN contra textos produzidos por IA generativa.

2023-03-15

A empresa norte-americana Turnitin informou que irá lançar até abril um novo software capaz de detectar textos produzidos por ferramentas de inteligência artificial (IA) generativa como o ChatGPT. A ideia é que a solução seja incorporada ao seu software homônimo de detecção de plágio, que é utilizado por mais de 15 mil instituições de ensino superior no mundo. Segundo a companhia, a nova ferramenta tem precisão de até 97% e uma taxa muito baixa de falsos positivos, menos de 1 para 100. Desde o lançamento do ChatGPT, em novembro de 2022, empresas de todo o mundo têm se esforçado para desenvolver ferramentas capazes de identificar textos produzidos por IA generativa. Mas muitas soluções lançadas até aqui são imprecisas. “Nosso modelo foi treinado especificamente para redação acadêmica e se baseia em um banco de dados abrangente, que não se restringe a conteúdos disponíveis para o público”, disse Annie Chechitelli, diretora de produtos da Turnitin, segundo o site da empresa. Mike Sharples, professor emérito de tecnologia educacional da Open University, do Reino Unido, disse à revista Times Higher Education que o desenvolvimento da ferramenta é fundamental para a Turnitin manter a competitividade de seu software. Adverte, porém, que a baixa taxa de falso positivo ainda precisa ser verificada de forma independente. Taxas elevadas de falso positivo são um dos pontos fracos dos softwares lançados para detectar textos feitos pelo ChatGPT – a chance de que um aluno seja falsamente acusado de usar inteligência artificial para fazer trabalhos escolares põe em xeque a credibilidade das ferramentas. Os testes com o novo Turnitin serão fundamentais para recomendar ou não seu uso. “Será que ele pode ser enganado se houver pequenos ajustes no texto?  E se o usuário passar o texto por outra ferramenta de IA para que seja reformulado?”, indagou Sharples, em sua conta no Twitter.