O que é o Watermarking de IA?
O watermarking de IA refere-se a técnicas que incorporam sinais identificáveis — watermarks — em conteúdo gerado por sistemas de IA. O objetivo é permitir que o conteúdo gerado por IA seja detetado e verificado como tal, rastreando a proveniência até ao sistema ou organização que o gerou. O watermarking pode ser aplicado a texto gerado por LLM, imagens, áudio e vídeo, embora as abordagens técnicas variem por modalidade.
Abordagens Técnicas
Para texto, o watermarking LLM manipula o processo de seleção de token durante a geração para criar padrões estatísticos que são detetáveis por análise mas imperceptíveis para os leitores. Para imagens, o watermarking esteganográfico incorpora sinais invisíveis nos padrões de pixel que persistem através de operações de compressão e transformação comuns. O watermarking criptográfico usa funções de hash para criar marcas robustas à modificação intencional.
Relevância Empresarial e Regulatória
O AI Act da UE e regulamentações similares crescentemente requerem que conteúdo gerado por IA seja identificável como tal — o watermarking é um mecanismo técnico para alcançar este requisito. Para marcas que publicam conteúdo gerado por IA, o watermarking fornece rastreabilidade que apoia a conformidade regulatória. Para detetar uso não autorizado de conteúdo proprietário, o watermarking pode ajudar a estabelecer a proveniência em disputas legais. Note que o watermarking robusto e a boa qualidade de output são por vezes difíceis de conciliar — investimento em investigação contínua está a melhorar tanto a detectabilidade como a robustez.