Què és la marca d'aigua d'IA?
La marca d'aigua d'IA (AI Watermarking) abasta tècniques que incrusten senyals invisibles o difícils d'eliminar en continguts generats per IA — text, imatges, àudio o vídeo. Aquestes senyals permeten identificar l'origen de la IA en els continguts, rastrejar infraccions de drets d'autor i combatre la desinformació.
Enfoques tecnològics
Per a les marques d'aigua en text, es modifiquen patrons estadístics en les probabilitats dels tokens (p. ex., llistes de tokens verds/roigs). Per a les imatges, s'afegeixen pertorbacions imperceptibles als dades de píxels. Les marques d'aigua criptogràfiques incrusten firmes digitals. C2PA (Content Authenticity Initiative) és un estàndard emergent per a dades de procedència del contingut. La robustesa davant atacs (retall, compressió, paràfrasi) és un camp de recerca actiu.
Relevància empresarial
En el context regulatori de la Llei d'IA de la UE, les marques d'aigua per a certs tipus de contingut d'IA podrien esdevenir obligatòries. Per a empreses de mitjans, editorials i creadors de contingut, les marques d'aigua ofereixen protecció contra infraccions de drets d'autor. Les empreses que utilitzen contingut generat per IA en producció en massa han de implementar el seguiment de procedència de forma primerenca.