Pangram: Aplicativo de IA que detecta textos gerados por chatbots é testado
Ferramenta demonstra alta precisão, mas enfrenta desafios na identificação de imagens geradas por IA
O aplicativo Pangram, que utiliza inteligência artificial para detectar textos gerados por chatbots, foi testado pelo jornalista Brian X. Chen, do The New York Times. Durante uma semana, Chen realizou diversos experimentos, incluindo a análise de ensaios pessoais e textos gerados por IA que imitavam sua escrita, além de publicações do LinkedIn e Reddit. O Pangram, que custa US$ 20 mensais, demonstrou alta precisão, identificando corretamente em 9.999 de cada 10 mil casos se um texto foi gerado por IA, segundo a empresa. Um estudo independente da Universidade de Chicago também confirmou a eficácia quase perfeita da ferramenta. No entanto, o Pangram ainda enfrenta desafios na identificação de imagens geradas por IA, um meio mais poderoso de disseminar desinformação online.
O lançamento do Pangram reflete uma crescente necessidade de combater a proliferação de conteúdo gerado por IA, que já representa cerca de 50% dos artigos online, segundo alguns estudos. A ferramenta surge como uma resposta ao esgotamento causado por conteúdo de baixa qualidade, marcado por padrões repetitivos e falta de autenticidade. A precisão do Pangram, destacada tanto pela empresa quanto por estudos independentes, posiciona-o como um possível 'antivírus' do futuro, essencial para proteger os usuários de desinformação. No entanto, sua incapacidade de identificar imagens geradas por IA revela uma lacuna crítica, especialmente considerando o poder persuasivo das imagens na disseminação de falsas informações. A evolução dessa tecnologia será crucial para manter a integridade do conteúdo online num mundo cada vez mais dominado por IA.