A OpenAI começou a implementar uma marca d’água invisível e legível por máquinas em textos e códigos produzidos por seus modelos de inteligência artificial. A tecnologia será disponibilizada inicialmente para usuários elegíveis da União Europeia (UE) e deve chegar, nas próximas semanas, ao ChatGPT e ao Codex em todos os planos. O recurso não será adotado globalmente neste primeiro momento.

A novidade faz parte dos esforços da empresa para aumentar a rastreabilidade de conteúdos gerados por IA e atender às exigências de transparência previstas pela Lei de IA da União Europeia, o EU AI Act. A legislação determina que conteúdos produzidos por sistemas de IA generativa sejam identificáveis de maneira legível por máquinas.

Leia também:

• • Papa Leão XIV questiona o que diferencia a arte humana daquela criada por IA
  • Google ganha disputa sobre resumos de IA que tiram cliques de sites
  • Novo MacBook Pro pode ser mais fino e leve e ganhar tela OLED e touchscreen

Como funciona a marca d’água da OpenAI

A tecnologia, chamada textGrain, foi desenvolvida pela própria OpenAI. Em vez de inserir uma informação visível no conteúdo, o sistema adiciona um sinal estatístico às escolhas de palavras feitas pelo modelo durante a geração do texto.

O padrão não altera a aparência do material para quem o lê, mas pode ser reconhecido por um software desenvolvido para essa finalidade. Dessa forma, um detector consegue verificar se determinado conteúdo contém uma marca d’água associada à OpenAI.

Segundo a empresa, o textGrain apresentou desempenho igual ou superior ao de outras técnicas de marca d’água para conteúdos gerados por IA, incluindo o SynthID, desenvolvido pelo Google DeepMind. A OpenAI também afirma que pretende disponibilizar a tecnologia em código aberto, permitindo que outras organizações pesquisem e desenvolvam soluções a partir do sistema.

Marca d’água não significa detecção garantida

Apesar da proposta, a tecnologia não é capaz de identificar todos os conteúdos gerados por IA de maneira confiável. A própria OpenAI destaca que o desempenho varia de acordo com o tipo e o tamanho do material analisado.

Textos curtos, por exemplo, são mais difíceis de identificar e apresentam uma taxa de sucesso de aproximadamente 80%. Conteúdos matemáticos também representam um desafio maior para o sistema. Além disso, alterações e edições realizadas depois da geração podem reduzir a eficácia da marca d’água.

A empresa ressalta ainda que resultados positivos obtidos em condições ideais não significam necessariamente que a tecnologia terá o mesmo desempenho em situações reais. A ressalva é relevante porque textos publicados na internet costumam passar por revisões, traduções, adaptações e outras alterações antes de chegarem ao público.

O que o sistema não consegue identificar

A marca d’água também tem limitações quanto ao tipo de informação que pode fornecer. A presença do sinal não permite verificar se as informações contidas no texto são verdadeiras nem determinar quem é o proprietário do conteúdo.

O sistema também não mede quanto um ser humano participou da produção do material e não pode comprovar que um texto foi escrito por uma pessoa. Da mesma forma, a marca d’água não revela qual usuário gerou o conteúdo, nem permite acessar prompts ou conversas privadas associadas à geração.

Na prática, portanto, a tecnologia funciona como um mecanismo de identificação da origem do conteúdo produzido pelos modelos da OpenAI, e não como uma ferramenta capaz de reconstruir o processo de criação ou determinar a participação humana.

Detector terá acesso limitado

A OpenAI não pretende disponibilizar o detector publicamente neste primeiro momento. Pesquisadores e organizações especializadas poderão solicitar acesso à ferramenta, que será concedido inicialmente caso a caso.

O detector deverá informar apenas se identificou uma marca d’água da OpenAI. A restrição está relacionada aos riscos de falsos positivos, quando um conteúdo é classificado incorretamente como gerado por IA, e de falsos negativos, quando uma marca d’água existente não é identificada.

A estratégia indica que a empresa pretende tratar a tecnologia como uma ferramenta de pesquisa e verificação controlada antes de ampliar seu acesso.

Marca d’água também chegará a outros mercados

Embora o lançamento para usuários do ChatGPT e do Codex comece pela União Europeia, a tecnologia não ficará restrita ao continente. Clientes da API da OpenAI poderão optar pelo uso de marca d’água em determinados modelos, com disponibilidade global.

A empresa também trabalha com parceiros de computação em nuvem para oferecer a possibilidade de inserir a marca d’água em conteúdos produzidos por seus modelos por meio desses serviços.

Tecnologia acompanha novas regras da União Europeia

A implementação está diretamente relacionada ao EU AI Act. O Artigo 50 da legislação estabelece que provedores de sistemas de IA generativa devem garantir que conteúdos gerados ou manipulados por IA sejam identificáveis por mecanismos legíveis por máquinas.

Empresas que já atuavam no mercado receberam um período para se adequar às novas exigências, com 2 de dezembro como data-limite mencionada no cronograma. A regra não se aplica apenas à OpenAI: outras empresas de tecnologia, como Anthropic, Microsoft, Google e Meta, também estão sujeitas às exigências europeias.

A Anthropic, por exemplo, já havia anunciado uma iniciativa semelhante baseada em uma tecnologia do Google DeepMind. O movimento mostra como a identificação de conteúdos produzidos por IA começa a ganhar importância à medida que ferramentas generativas passam a participar de um número maior de atividades digitais.