ChatGPT Terá Marca d’água Invisível em Textos na UE

A marca d’água do ChatGPT será utilizada em textos gerados pelo serviço na União Europeia. A OpenAI anunciou a adoção da tecnologia textGrain para tornar conteúdos produzidos por seus modelos identificáveis por sistemas de detecção. A mudança está relacionada às exigências de transparência do AI Act, a legislação de inteligência artificial da União Europeia.

A implementação será feita de forma gradual. Segundo a OpenAI, textos elegíveis produzidos pelo ChatGPT e pelo Codex na União Europeia receberão o sinal nas próximas semanas.

A empresa também permitirá que clientes da API ativem a marca d’água para determinados modelos globalmente. Nesse caso, o recurso permanece opcional.

Como funciona a marca d’água do ChatGPT?

A tecnologia textGrain não adiciona símbolos, caracteres escondidos ou espaços invisíveis ao texto.

Em vez disso, o sistema altera de maneira sutil o padrão estatístico utilizado pelo modelo para escolher palavras e partes de palavras durante a geração do conteúdo. Ao analisar uma sequência suficientemente longa, um detector pode procurar esse padrão e calcular a probabilidade de que um modelo da OpenAI tenha produzido ou processado o texto.

Para quem lê, portanto, não existe uma marca visual indicando que determinado texto foi produzido por inteligência artificial.

A marca d’água identifica quem escreveu o texto?

Não. A OpenAI esclarece que o sinal não determina autoria, propriedade ou responsabilidade legal pelo conteúdo.

A presença da marca pode indicar que um sistema da OpenAI provavelmente gerou ou processou o texto, mas não revela quem utilizou a ferramenta nem quanto de participação humana houve na produção.

Além disso, a ausência do sinal não comprova que um texto foi escrito por uma pessoa.

Anthropic também adota marca d’água no Claude

A Anthropic também anunciou o uso de marca d’água nos textos produzidos por modelos do Claude. A empresa afirma que a medida faz parte da adequação ao AI Act e utiliza uma abordagem baseada na tecnologia SynthID-Text, desenvolvida pelo Google DeepMind.

Assim como no caso da OpenAI, o sinal é invisível para o leitor. A Anthropic afirma ainda que a tecnologia não contém informações capazes de identificar o usuário, a organização ou a conversa.

Marca d’água de IA não é um detector perfeito

Apesar da novidade, a tecnologia possui limitações. Textos muito curtos ou com poucas possibilidades de escolha entre palavras são mais difíceis de identificar.

Alterações substanciais, como reescritas, paráfrases e traduções, também podem reduzir a capacidade de detecção do sinal. A própria OpenAI destaca que a marca d’água deve ser entendida como um sinal de procedência, e não como uma prova absoluta de autoria.

A medida representa mais uma etapa na tentativa de aumentar a transparência sobre conteúdos produzidos por inteligência artificial, especialmente no mercado europeu.