OpenAI adota carimbo d'água para identificar textos gerados pelo ChatGPT

OpenAI Adota Carimbo D'água para Identificar Textos Gerados pelo ChatGPT

A OpenAI, detentora do ChatGPT, anunciou recentemente a implementação de um sistema de marca-d'água invisível no texto gerado pela inteligência artificial. Este recurso, chamado textGrain, visa atender às regras de transparência estabelecidas pelo AI Act europeu, que exige que conteúdos produzidos por sistemas de IA possam ser identificados por máquinas.

A medida está em linha com a estratégia adotada por outras empresas de IA, como a Anthropic, dona do Claude, que também já implementou uma marca-d'água para textos em seu sistema. Os sistemas da OpenAI e da Anthropic alteram discretamente as probabilidades de escolha de palavras nos modelos, criando um padrão estatístico ao longo do texto que pode ser detectado por ferramentas específicas.

O textGrain, tecnologia desenvolvida pela OpenAI, atua durante a geração do conteúdo. A empresa afirma que a tecnologia modifica levemente as probabilidades de escolha de palavras, formando um padrão estatístico ao longo do texto que pode ser identificado por detetores de IA sem inserir informações visíveis no conteúdo.

Atualmente, o carimbo não é aplicado automaticamente aos usuários no Brasil. A OpenAI anunciou que o lançamento do textGrain será restrito à União Europeia em um primeiro momento, embora clientes da API em qualquer país possam ativar a tecnologia voluntariamente em modelos compatíveis.