O detector de IA Pangram recebeu US$ 9 milhões e lançou ferramentas para identificar textos, imagens e conteúdos mistos produzidos com inteligência artificial.
A startup americana Pangram quer ajudar empresas, escolas, jornalistas e leitores a diferenciar material humano de conteúdo criado por sistemas de inteligência artificial.
O investimento chega enquanto textos automáticos, imagens sintéticas e campanhas de desinformação se espalham por redes sociais, sites e plataformas de publicação.
A empresa também apresentou novos modelos para analisar diferentes níveis de uso de IA, incluindo textos escritos por pessoas e posteriormente revisados por ferramentas automáticas.
As informações foram divulgadas pelo TechCrunch, que também testou os recursos e encontrou bons resultados, mas identificou falhas pontuais na classificação.
Pangram aposta no crescimento da detecção de IA
Com sede em Nova York, a Pangram foi criada há cerca de dois anos por Max Spero e Bradley Emi, formados em inteligência artificial e aprendizado de máquina pela Universidade Stanford.
A empresa levantou US$ 9 milhões em uma rodada liderada pela Menlo Ventures. Haystack, ScOp, Script Capital e Cadenza também participaram do aporte.
O dinheiro será usado para ampliar os sistemas de análise de conteúdo. A companhia lançou o Pangram 4, seu novo modelo de detecção de texto, e o Pangram Image, voltado para imagens.
Segundo a startup, o Pangram 4 tem mais de 99% de precisão para encontrar textos escritos ou revisados com ajuda de inteligência artificial.
O sistema também foi projetado para reconhecer programas conhecidos como humanizadores de IA. Essas ferramentas tentam alterar um texto automático para fazê-lo parecer escrito por uma pessoa.
Max Spero afirmou ao TechCrunch que saber a origem de um conteúdo pode mudar a forma como o leitor avalia a informação.
“É extremamente valioso saber se aquilo que você está vendo foi gerado por IA ou não”, disse o executivo, em tradução para o português.
Segundo ele, um texto jornalístico produzido por uma pessoa pode ser recebido com mais confiança, enquanto um material gerado por máquina exige atenção especial para possíveis erros e informações inventadas.
Como funciona o modelo de texto
O sistema da Pangram foi treinado com dezenas de milhões de documentos conhecidos como humanos. Depois, a empresa criou uma versão sintética de cada material.
Essa réplica mantém tema, tamanho e estilo do documento original, mas é escrita por um modelo de linguagem avançado. A comparação ajuda o sistema a identificar escolhas comuns de textos produzidos por IA.
A startup afirma que o detector não depende de metadados escondidos, marcas d’água ou simples comparação de cópias. A análise considera padrões de estilo e distribuição das palavras.
O objetivo não é apenas dizer se um texto foi totalmente criado por uma máquina. A ferramenta também tenta medir quanto a inteligência artificial participou da produção.
Isso inclui situações em que uma pessoa escreve o conteúdo e depois pede a um chatbot para corrigir a gramática, reorganizar frases ou melhorar o estilo.
Spero considera que o uso de IA pode ser aceitável, desde que seja informado. Para ele, a transparência é mais importante do que proibir completamente essas ferramentas.
A Pangram oferece acesso pela internet por US$ 20 por mês e também disponibiliza uma extensão para o navegador Chrome.
A extensão identifica publicações em tempo real no X, LinkedIn, Substack, Reddit e Medium. Ela ainda mostra uma estimativa da proporção de conteúdo humano e automático na tela.
A companhia também vende acesso por API, permitindo que outras empresas integrem o detector aos próprios serviços.
Detecção de imagens e limites do sistema
Pangram Image analisa imagens geradas por diferentes modelos
O Pangram Image está disponível inicialmente em uma prévia para pesquisadores. A previsão da empresa é liberar o recurso de forma mais ampla nas semanas seguintes ao lançamento.
A ferramenta tenta identificar imagens criadas por diferentes sistemas de IA. Esse é um diferencial em relação a verificações baseadas em marcas d’água, que geralmente funcionam apenas com imagens produzidas por seus próprios modelos.
O detector analisa a distribuição dos pixels e procura diferenças estatísticas discretas entre fotografias reais e imagens sintéticas.
De acordo com Spero, o sistema pode reconhecer uma imagem artificial mesmo quando ela aparece dentro de uma fotografia real, como em uma tela, um cartaz ou uma publicação impressa.
Nos testes descritos pelo TechCrunch, o recurso identificou imagens artificiais realistas e ilustrações. Também apontou corretamente uma imagem gerada por IA inserida em uma foto real.
Houve, porém, pelo menos um caso em que uma fotografia de uma imagem criada por IA foi classificada como conteúdo humano.
Testes mostram bons resultados, mas também falsos positivos
O TechCrunch testou o detector de texto com materiais gerados pelo ChatGPT e pelo Claude. Os dois conteúdos foram identificados com facilidade.
As tentativas de editar os textos para deixá-los mais naturais também raramente enganaram o sistema. Prompts criados para fazer os chatbots evitarem detectores tiveram resultado semelhante.
Por outro lado, algumas frases completamente reescritas por uma pessoa foram classificadas como produzidas por IA. Isso mostra que a ferramenta ainda pode cometer falsos positivos.
Em um texto jornalístico revisado por ChatGPT e Claude, o sistema indicou 13% de assistência de IA. A avaliação foi considerada próxima do uso real, embora algumas frases humanas também tenham sido sinalizadas.
Quando o mesmo artigo foi enviado integralmente em sua versão original, o resultado apontou 100% de conteúdo humano.
O teste com uma newsletter pessoal apresentou uma separação mais clara entre os trechos escritos pelo autor e aqueles criados pelos chatbots para imitar seu estilo.
Spero declarou que a taxa de erro da Pangram é de aproximadamente um documento humano incorretamente classificado como IA a cada 10 mil.
Mesmo assim, o próprio desempenho observado indica que detectores não devem ser tratados como prova definitiva. O resultado precisa ser analisado junto com contexto, histórico de edição e outras evidências.
Empresas e instituições já usam a tecnologia
A disputa por esse mercado inclui serviços como Winston AI, Originality.ai, Copyleaks e GPTZero. Todos tentam atender à demanda por ferramentas capazes de identificar conteúdo automático.
A preocupação já chegou a universidades, editoras, empresas e tribunais. Textos com referências inventadas por chatbots podem causar prejuízos, sanções e perda de credibilidade.
Em um caso citado na reportagem, um político canadense leu em voz alta uma instrução criada por IA durante um discurso para parlamentares, provocando críticas.
Também houve situações envolvendo advogados que apresentaram citações falsas produzidas pelo ChatGPT em processos judiciais.
O arquivo aberto arXiv passou a prever punições para envios que apresentem sinais de falta de revisão humana, como referências alucinadas e comentários automáticos esquecidos no documento.
A política pode levar a uma suspensão de um ano para autores que não verificarem corretamente as respostas dos modelos de linguagem.
A Substack integrou a tecnologia da Pangram para mostrar aos leitores se autores de newsletters usam IA na produção dos textos.
Entre os demais clientes da API estão Quora, escolas, universidades, editoras, agentes literários e empresas de recrutamento, segundo Spero.
O executivo afirma que não quer transformar o detector em uma ferramenta de perseguição contra quem usa IA. A intenção seria criar um mecanismo de defesa contra o excesso de conteúdo automático.
“O futuro que vejo é a proliferação contínua do conteúdo de IA”, disse Spero. “Se não favorecermos ativamente o conteúdo humano, veremos cada vez mais material automático, até que o sinal humano seja sufocado.”
Com informações de techcrunch
Aviso legal
Este conteúdo foi produzido com o apoio de ferramentas de Inteligência Artificial, sendo posteriormente revisado, validado e aprimorado por Lc Palauro . Em conformidade com os critérios definidos em nossa Política Editorial , garantindo precisão, clareza e confiabilidade nas informações apresentadas.
