Como saber se um texto foi escrito por IA?

Resposta rápida: não existe hoje uma forma 100% confiável de saber se um texto foi escrito por IA. Os detectores automáticos erram com frequência — a própria OpenAI desativou seu detector em 2023 por baixa precisão — e tendem a acusar injustamente quem escreve em um idioma que não é o nativo. O mais seguro é combinar sinais: checar fatos e fontes, observar o estilo, comparar com textos anteriores do autor e, quando possível, conversar com ele sobre o conteúdo.

Este artigo faz parte da série “IA em 3 níveis”, que responde às perguntas mais buscadas sobre inteligência artificial no Google por brasileiros (segundo dados do Google Trends divulgados pelo TecMundo). Cada resposta vem em três versões: para crianças, para adultos iniciantes e para especialistas.

Neste artigo

• Explicando para crianças
• Explicando para adultos que estão começando
• Explicando para especialistas em tecnologia
• Perguntas relacionadas
• Fontes e leituras recomendadas

Como saber se um texto foi escrito por IA? Explicando para crianças

Descobrir se um texto foi feito por uma IA é como tentar adivinhar se um desenho foi feito à mão ou copiado de um papel transparente: às vezes dá para perceber, mas muitas vezes é bem difícil!

Algumas pistas: textos de IA costumam ser muito arrumadinhos, usam sempre o mesmo tipo de frase e falam de forma bem geral, sem contar coisas que aconteceram de verdade com quem escreveu. Mas atenção: essas pistas não são provas. Tem gente que escreve assim também!

Por isso, o melhor jeito é perguntar e conversar. E, se você usar a IA para ajudar na lição, conte para o professor. Ser honesto é sempre a melhor escolha.

Como saber se um texto foi escrito por IA? Explicando para adultos que estão começando

Existem sites que prometem identificar textos gerados por IA, mas eles não devem ser usados como prova. Em 2023, a OpenAI, criadora do ChatGPT, tirou do ar seu próprio detector por causa da baixa taxa de acerto: ele identificava corretamente apenas 26% dos textos escritos por IA. Um estudo da Universidade Stanford também mostrou que detectores populares classificaram erroneamente como “feitos por IA” muitas redações de pessoas que não eram falantes nativas de inglês.

Sinais que podem indicar uso de IA (mas não comprovam):

• Fatos inventados, citações sem fonte ou referências bibliográficas que não existem — este é o sinal mais objetivo, pois pode ser verificado;
• Estilo genérico: estrutura muito previsível, frases de efeito repetidas, ausência de exemplos pessoais ou detalhes concretos;
• Mudança brusca de estilo em relação a outros textos da mesma pessoa;
• Resquícios de conversa com o chatbot, como “Claro! Aqui está o texto…”.

Na escola ou no trabalho, a melhor estratégia é combinar evidências: pedir rascunhos e histórico de edição, conversar com o autor sobre as escolhas do texto e estabelecer regras claras sobre quando o uso de IA é permitido. Para entender por que a IA escreve desse jeito, leia como funciona a inteligência artificial.

A pesquisa acadêmica confirma essa cautela. Um estudo europeu publicado no International Journal for Educational Integrity (Weber-Wulff et al., 2023) testou 14 ferramentas de detecção e concluiu que nenhuma era precisa nem confiável: todas ficaram abaixo de 80% de acurácia, e o desempenho piorava ainda mais quando o texto gerado por IA era levemente editado ou parafraseado.

Como saber se um texto foi escrito por IA? Explicando para especialistas em tecnologia

A detecção de texto gerado por máquina se divide em três famílias de abordagem, todas com limitações relevantes:

• Classificadores supervisionados treinados para distinguir texto humano de sintético: degradam fora da distribuição de treino (novos modelos, domínios, idiomas) e apresentam taxas de falso positivo inaceitáveis para decisões de alto impacto;
• Métodos zero-shot baseados em estatísticas do modelo — perplexidade, burstiness e curvatura da log-probabilidade (como o DetectGPT): exigem acesso ou aproximação ao modelo gerador e são sensíveis à temperatura de amostragem; textos humanos formulaicos ou de escritores não nativos têm baixa perplexidade e geram falsos positivos (Liang et al., 2023);
• Marca d’água (watermarking) na geração: enviesar a amostragem de tokens com uma chave secreta (“listas verdes”) permite detecção estatística com garantias formais (Kirchenbauer et al., 2023). O Google DeepMind aplica essa ideia em produção com o SynthID, disponibilizado em código aberto para texto. A limitação: só funciona se o fornecedor aplicar a marca, e paráfrase ou tradução reduzem o sinal.

Há também resultados teóricos indicando que, à medida que a distribuição dos modelos se aproxima da humana, o desempenho de qualquer detector tende ao acaso, e que ataques de paráfrase recursiva quebram detectores e marcas d’água (Sadasivan et al., 2023). Por isso, a tendência regulatória e da indústria é migrar de “detectar” para comprovar procedência: credenciais de conteúdo assinadas criptograficamente, como o padrão C2PA, e obrigações de transparência para conteúdo sintético, previstas no AI Act europeu. Em contextos educacionais e de compliance, a recomendação é tratar escores de detectores como indício fraco, nunca como evidência conclusiva.

Do lado técnico, o DetectGPT (Mitchell et al., ICML 2023) é a referência para detecção zero-shot baseada na curvatura da probabilidade, e o artigo de Dathathri et al. publicado na Nature (2024) descreve o SynthID-Text, primeira marca d’água para texto implantada em escala em um produto comercial (o Gemini), com avaliação em cerca de 20 milhões de respostas.

Perguntas relacionadas

Continue a série “IA em 3 níveis”:

• O que é inteligência artificial?
• Como funciona a inteligência artificial?
• Como usar a inteligência artificial no dia a dia?
• Como surgiu a inteligência artificial e quem criou?

Fontes e leituras recomendadas

• OpenAI — New AI classifier for indicating AI-written text (atualização de 2023)
• Liang et al. — GPT detectors are biased against non-native English writers (2023)
• Kirchenbauer et al. — A Watermark for Large Language Models (2023)
• Sadasivan et al. — Can AI-Generated Text be Reliably Detected? (2023)
• Google DeepMind — SynthID
• C2PA — Coalition for Content Provenance and Authenticity

Livros e artigos acadêmicos

• WEBER-WULFF, Debora et al. Testing of detection tools for AI-generated text. International Journal for Educational Integrity, v. 19, 26, 2023. arXiv:2306.15666
• LIANG, Weixin et al. GPT detectors are biased against non-native English writers. Patterns, v. 4, n. 7, 2023. arXiv:2304.02819
• MITCHELL, Eric et al. DetectGPT: Zero-Shot Machine-Generated Text Detection using Probability Curvature. ICML, 2023. arXiv:2301.11305
• KIRCHENBAUER, John et al. A Watermark for Large Language Models. ICML, 2023. arXiv:2301.10226
• DATHATHRI, Sumanth et al. Scalable watermarking for identifying large language model outputs. Nature, v. 634, p. 818–823, 2024. DOI: 10.1038/s41586-024-08025-4

Imagem de destaque: Unsplash via Wikimedia Commons (CC0 – domínio público).