Τι είναι το Watermarking ΤΝ;
Το watermarking ΤΝ είναι η τεχνική ενσωμάτωσης αόρατων (ή ακουστά μη αντιληπτών) σημάτων σε περιεχόμενο που παράγεται από ΤΝ — κείμενο, εικόνες, ήχο, βίντεο — για να επιτρέπει την ανίχνευση αυτού του περιεχομένου ως AI-generated. Αποτελεί σημαντικό εργαλείο για καταπολέμηση παραπληροφόρησης και deepfakes.
Για κείμενο: στατιστικές τεχνικές ενσωματώνουν μοτίβα στη λεξιλογική επιλογή. Για εικόνες: κρυπτογραφικά «fingerprints» ενσωματώνονται στα pixels.
Κανονιστική Ώθηση
Ο EU AI Act και εκτελεστικές εντολές στις ΗΠΑ απαιτούν σήμανση AI-generated περιεχομένου. Μεγάλοι πάροχοι ΤΝ όπως Google, OpenAI και Adobe έχουν δεσμευτεί σε watermarking standards μέσω της Coalition for Content Provenance and Authenticity (C2PA).
Περιορισμοί
Τα watermarks μπορούν να αφαιρεθούν ή να αλλοιωθούν με επιθέσεις. Ισορροπία μεταξύ ανιχνευσιμότητας και αντοχής σε χειρισμούς είναι ενεργό ερευνητικό πρόβλημα. Δεν υπάρχει ακόμα καθολικά αποδεκτό πρότυπο.