A tentativa de identificar automaticamente textos produzidos por inteligência artificial ganhou um novo capítulo após pesquisadores e desenvolvedores demonstrarem que a marca d’água associada ao Claude pode perder eficácia quando o conteúdo passa por alterações posteriores. A descoberta reacende uma discussão importante sobre os limites dos sistemas usados para reconhecer materiais gerados por IA.
O mecanismo adotado no Claude não funciona como uma etiqueta visível no documento. Trata-se de uma assinatura estatística incorporada às escolhas de palavras do texto, que pode ser analisada posteriormente por sistemas de detecção. Segundo as informações divulgadas pela InfoMoney, a tecnologia utilizada é o SynthID, desenvolvido pelo Google DeepMind.
Como funciona a identificação usada pelo Claude
A lógica é diferente de uma marca d’água tradicional, que costuma permanecer anexada ao arquivo. No caso do Claude, o sistema modifica de maneira sutil determinados padrões de escolha de palavras, criando uma característica estatística que pode ser reconhecida posteriormente.
Isso significa que a identificação depende, em parte, da permanência dessas características no texto. Quando o conteúdo é alterado de forma significativa, a assinatura pode ficar menos evidente ou deixar de ser reconhecida.
Essa limitação é justamente o ponto que passou a chamar atenção após a divulgação de testes independentes.
Alterações posteriores podem enfraquecer o sinal
Os testes mencionados na reportagem mostram que reescritas e transformações realizadas por outros sistemas de IA podem reduzir a capacidade de identificação. O mesmo vale para determinadas alterações estruturais e conversões entre idiomas.
O ponto central não é que a tecnologia tenha sido completamente inutilizada. O problema está na dependência de um padrão que pode mudar quando o conteúdo original deixa de ser preservado.
Por isso, a marca d’água deve ser entendida como uma camada de identificação, e não como uma prova absoluta de autoria por inteligência artificial.
O episódio mostra um problema maior para a indústria
A discussão vai além do Claude. À medida que textos, imagens, vídeos e áudios gerados por IA se tornam mais comuns, cresce também a necessidade de mecanismos confiáveis para indicar origem, histórico e alterações de um conteúdo.
Esse desafio é reconhecido por iniciativas como a Coalition for Content Provenance and Authenticity, conhecida como C2PA, que trabalha com padrões para registrar a procedência e o histórico de mídias digitais.
A principal diferença é que sistemas de proveniência de conteúdo podem registrar informações sobre a origem e as etapas pelas quais um arquivo passou, enquanto uma marca d’água estatística depende da preservação de determinadas características do próprio conteúdo.
A C2PA também prevê mecanismos que ajudam a recuperar informações de proveniência quando os metadados deixam de acompanhar diretamente o arquivo, inclusive por meio de técnicas de ligação indireta.
A pressão regulatória aumenta
A adoção desse tipo de identificação também está relacionada à evolução das regras sobre inteligência artificial. A reportagem aponta que a utilização do recurso no Claude ocorre em um contexto de novas exigências de transparência previstas pelo AI Act da União Europeia.
O objetivo dessas regras é facilitar a identificação de determinados conteúdos criados ou manipulados por sistemas de IA. A dificuldade está em transformar essa exigência em uma tecnologia que continue confiável depois que o material circula por diferentes plataformas, editores e serviços.
Esse é um dos maiores desafios técnicos da área. Uma solução que funciona perfeitamente no momento da geração pode apresentar limitações depois de sucessivas edições.
Detectar IA não é o mesmo que provar autoria
Existe uma diferença importante entre dizer que um sistema encontrou sinais compatíveis com geração por IA e afirmar que determinado texto foi definitivamente produzido por uma máquina.
Essa distinção é fundamental porque métodos automáticos podem produzir resultados incorretos. Um conteúdo escrito por uma pessoa pode apresentar características semelhantes às identificadas por um detector, enquanto um material gerado por IA pode perder essas características após modificações.
Por isso, qualquer ferramenta de detecção deve ser utilizada com cautela, especialmente em situações nas quais a identificação pode influenciar decisões acadêmicas, profissionais ou editoriais.
Marcas d’água precisam fazer parte de um sistema maior
A principal conclusão desse episódio é que nenhuma técnica isolada deve ser tratada como solução definitiva para identificar conteúdo gerado por IA.
Marcas d’água, metadados, assinaturas criptográficas, informações de proveniência e sistemas de análise podem desempenhar funções diferentes. O caminho mais sólido tende a ser a combinação dessas camadas, principalmente em ambientes onde a autenticidade do conteúdo é relevante.
A própria evolução das especificações da C2PA mostra que a indústria está tentando criar padrões capazes de acompanhar o conteúdo ao longo de seu ciclo de vida digital.
O que muda para quem usa inteligência artificial
Para o usuário comum, a discussão reforça uma ideia importante: um selo de identificação não transforma automaticamente um conteúdo em uma prova incontestável de origem.
O histórico de edição, os metadados disponíveis e a forma como o material foi produzido continuam importantes. Em conteúdos relevantes, a origem deve ser analisada considerando várias evidências, e não apenas um detector.
A tecnologia de identificação de IA ainda está evoluindo. O caso envolvendo o Claude mostra que criar um sinal difícil de remover e, ao mesmo tempo, confiável em diferentes ambientes é uma tarefa muito mais complexa do que simplesmente inserir uma marca no texto.
Um desafio que deve crescer nos próximos anos
A quantidade de conteúdos produzidos por inteligência artificial tende a continuar aumentando, enquanto plataformas e governos buscam formas de tornar essa produção mais transparente.
Nesse cenário, a disputa não será apenas entre sistemas que geram conteúdo e sistemas que tentam identificá-lo. Haverá também uma corrida para estabelecer padrões capazes de preservar informações sobre origem, autenticidade e histórico de edição.
O caso do Claude é um lembrete de que a tecnologia ainda está em fase de amadurecimento. A identificação automática pode ser útil, mas precisa ser tratada como parte de um sistema mais amplo de proveniência e transparência digital, e não como um mecanismo infalível.
Com olhar atento às tendências de IA, segurança digital e ao mercado de dispositivos móveis, Jhonny Almeida transforma temas complexos em conteúdos claros e práticos. É responsável pela curadoria e pela precisão técnica dos artigos do Em Dia News, garantindo ao leitor informações sempre atualizadas e relevantes.