Στο πλαίσιο εφαρμογής του ευρωπαϊκού Κανονισμού για την Τεχνητή Νοημοσύνη, οι εταιρείες ΑΙ υποχρεούνται πλέον να σημαδεύουν με «υδατογραφήματα» τις εικόνες, τα βίντεο και τα κείμενα που παράγονται με τα προϊόντα τους, ένα πρώτο μέτρο κατά του λεγόμενου AI Slop και των deepfake που κάνουν δυσδιάκριτα τα όρια ανάμεσα στην αλήθεια και το ψέμα.
Το «υδατογράφημα» είναι σε αυτή την περίπτωση μια αόρατη ψηφιακή υπογραφή που προστίθεται αυτόματα στο συνθετικό περιεχόμενο ώστε να μην παραπλανώνται οι χρήστες. Σε περίπτωση παράβασης, οι εταιρείες αντιμετωπίζουν πρόστιμο που μπορεί να φτάσει τα 15 εκατ. δολάρια ή το 3% του παγκόσμιου τζίρου τους.
Το μέτρο είναι υποχρεωτικό για τα νέα μοντέλα που κυκλοφορούν μετά τις 2 Αυγούστου, ενώ για τα ήδη διαθέσιμα μοντέλα η προθεσμία λήγει τον Δεκέμβριο.
Ορισμένες εταιρείες ήδη συμμορφώνονται με τη νέα απαίτηση, τουλάχιστον εν μέρει. Η Google ανέπτυξε και χρησιμοποιεί από το 2023 την τεχνολογία υδατογραφήματος SynthID για τα κείμενα που δημιουργούνται από το μοντέλο Gemini, ενώ η OpenAI υιοθέτησε το ίδιο σύστημα για τις εικόνες και τα αρχεία ήχου που παράγονται από τα μοντέλα της.
Την Δευτέρα, ένα αντίστοιχο μέτρο ανακοινώθηκε από την Anthropic, η oποία θα ενσωματώνει ψηφιακό υδατογράφημα στα κείμενα που παράγει το Claude.
Για τον χρήστη, πάντως, η ψηφιακή αυτή υπογραφή θα είναι αόρατη. «Δεν θα μπορείτε να το δείτε και δεν αλλάζει το νόημα, την ποιότητα ή την αναγνωσιμότητα της απάντησης του Claude» ανέφερε η Anthropic. «Επειδή το υδατογράφημα αποτελεί μέρος του κειμένου, θα μεταφέρεται μαζί με το κείμενο όταν αυτό αντιγράφεται και επικολλάται αλλού» είπε.
Εργαλεία ελέγχου για την ΑΙ
Το υδατογράφημα κειμένου βασίζεται σε έναν αλγόριθμο που τροποποιούν τον τρόπο με τον οποίο το μοντέλο επιλέγει λέξεις. Η διαδικασία αυτή αφήνει στο παραγόμενο κείμενο ένα στατιστικά ανιχνεύσιμο ίχνος.
Μέχρι στιγμής, πάντως, η Anthropic δεν έχει διαθέσει εργαλεία που θα επέτρεπαν στους χρήστες να ελέγχουν για την ύπαρξη υδατογραφήματος.
Εργαλεία ανίχνευσης συνθετικών εικόνων και ήχου προσφέρουν πάντως η OpenAI και η Google.
Τέτοια εργαλεία θα μπορούσαν να χρησιμοποιηθούν από μεγάλες πλατφόρμες όπως το YouTube προκειμένου να αναγνωρίζουν το συνθετικό περιεχόμενο και να προσθέτουν τη σήμανση που απαιτεί η ευρωπαϊκή νομοθεσία.
Είναι ωστόσο απίθανο να μπορέσει η τεχνολογία του υδατογραφήματος να σταματήσει πλήρως τη διάδοση παραπλανητικού ή ψευδούς περιεχομένου –στην περίπτωση του Claude, για παράδειγμα, ένας κακόβουλος χρήστης θα μπορούσε να αλλάξει αρκετά το κείμενο –ενδεχομένως χρησιμοποιώντας άλλα μοντέλα ΑΙ- ώστε να μην αναγνωρίζεται πλέον ως συνθετικό.
Σε κάθε περίπτωση, πάντως, η νομική απαίτηση της ΕΕ είναι ένα πρώτο βήμα για την αντιμετώπιση του παραπλανητικού συνθετικού περιεχομένου, δεδομένου ότι οι ΗΠΑ δείχνουν απρόθυμες να παρέμβουν στη βιομηχανία ΑΙ.
Παρά την άρνηση της αμερικανικής κυβέρνησης να λάβει μέτρα, εξάλλου, η ΕΕ κατάφερε να προστατεύσει καλύτερα την ιδιωτικότητα με το GDPR και, μέσω του νέου Κανονισμού για τις Ψηφιακές Υπηρεσίες, ανάγκασε τις μεγάλες πλατφόρμες να λάβουν μέτρα κατά του επιβλαβούς και παράνομου περιεχομένου.
