Η τεχνολογική αγορά κινείται όλο και περισσότερο προς μηχανισμούς που επιτρέπουν να αναγνωρίζεται πότε κάποιο περιεχόμενο έχει δημιουργηθεί ή τροποποιηθεί με AI, είτε μέσω ορατών ετικετών είτε μέσω αόρατων, μηχανικά αναγνώσιμων σημάνσεων. Η λογική είναι κατανοητή: όσο αυξάνεται η παραγωγή συνθετικού περιεχομένου, τόσο μεγαλύτερη γίνεται η ανάγκη για διαφάνεια. Ο προβληματισμός αρχίζει στο επόμενο βήμα: αν κάθε εμπλοκή της AI έχει πράγματι τέτοια σημασία ώστε να πρέπει να επισημαίνεται, ή αν, σε ορισμένες περιπτώσεις, η ίδια η ταμπέλα λέει περισσότερα απ’ όσα δικαιολογεί η χρήση της τεχνολογίας.
Ο AI Act επιχειρεί να κάνει αυτή τη διάκριση. Οι πάροχοι generative AI οφείλουν να ενσωματώνουν μηχανικά αναγνώσιμη σήμανση σε περιεχόμενο που δημιουργείται ή τροποποιείται από τα συστήματά τους. Η υποχρέωση όμως δεν εφαρμόζεται όταν το AI εκτελεί βοηθητική λειτουργία συνήθους επιμέλειας χωρίς ουσιώδη μεταβολή του περιεχομένου, ενώ οι ορατές γνωστοποιήσεις προς το κοινό αφορούν ειδικότερες περιπτώσεις, όπως deepfakes και ορισμένα κείμενα δημόσιου ενδιαφέροντος χωρίς ανθρώπινο έλεγχο ή συντακτική ευθύνη. Η ίδια η ευρωπαϊκή ρύθμιση, δηλαδή, αναγνωρίζει ότι δεν έχουν όλες οι χρήσεις AI την ίδια βαρύτητα.
Η δημόσια συζήτηση, αντίθετα, συχνά τείνει να τα βάζει όλα στο ίδιο καλάθι. Το «AI slop» έχει γίνει εύχρηστος χαρακτηρισμός για τη μαζική παραγωγή χαμηλής ποιότητας συνθετικού περιεχομένου, και όχι χωρίς λόγο. Υπάρχουν εικόνες, βίντεο και κείμενα που παράγονται χωρίς ουσιαστικό έλεγχο, ανακυκλώνονται μαζικά και μπορούν να παραπλανήσουν ανθρώπους που δυσκολεύονται να αναγνωρίσουν ότι αυτό που βλέπουν δεν είναι πραγματικό. Η ανάγκη προστασίας του κοινού είναι υπαρκτή. Άλλο όμως αυτό και άλλο να εξελιχθεί η χρήση AI, ανεξάρτητα από τη μορφή και την έκτασή της, σε αυτόματο λόγο καχυποψίας.
Γιατί το «χρησιμοποιήθηκε AI» μπορεί να σημαίνει εντελώς διαφορετικά πράγματα. Μπορεί να αφορά μία ψεύτικη φωτογραφία πραγματικού γεγονότος, φτιαγμένη από το μηδέν, ή ένα κείμενο που παράχθηκε χωρίς ανθρώπινο έλεγχο. Μπορεί όμως να σημαίνει ότι διορθώθηκε η σύνταξη, έγινε μια μετάφραση, οργανώθηκαν σημειώσεις, συνοψίστηκε ένα μεγάλο έγγραφο ή προτάθηκε ένας τίτλος. Η τεχνολογία συμμετείχε σε όλες αυτές τις περιπτώσεις. Η επίδρασή της στο αποτέλεσμα, η ανθρώπινη ευθύνη και ο κίνδυνος για τον αποδέκτη, είναι όμως εντελώς διαφορετικοί.
Αυτό είναι που μία απλή ετικέτα δυσκολεύεται να αποδώσει. Μια ένδειξη μπορεί να μας πληροφορεί ότι υπήρξε κάποια συμμετοχή τεχνητής νοημοσύνης, αλλά όχι απαραίτητα ποια ήταν αυτή, πόσο καθόρισε το αποτέλεσμα, ή αν άλλαξε ουσιαστικά την αξιοπιστία του. Και όταν αυτές οι διαφορετικές περιπτώσεις συμπιέζονται κάτω από την ίδια ταμπέλα, δημιουργείται ο κίνδυνος η πληροφορία να μετατραπεί σε χαρακτηρισμό. Ο αναγνώστης μπορεί να μη διαβάζει πλέον «χρησιμοποιήθηκε AI», αλλά «αυτό είναι λιγότερο αυθεντικό, λιγότερο αξιόπιστο ή χαμηλότερης ποιότητας».
Εδώ βρίσκεται και η παγίδα της γενικευμένης σήμανσης. Αν μάθουμε να αντιμετωπίζουμε κάθε αναφορά σε AI ως προειδοποιητικό σήμα, μπορεί να καταλήξουμε να συγχέουμε το εργαλείο με την ποιότητα και την αυτοματοποίηση με την εξαπάτηση. Ένα εξ ολοκλήρου ανθρώπινο κείμενο μπορεί να είναι πρόχειρο, ανακριβές ή παραπλανητικό. Ένα κείμενο στο οποίο χρησιμοποιήθηκε AI μπορεί να έχει ελεγχθεί διεξοδικά από άνθρωπο που αναλαμβάνει πλήρως την ευθύνη του. Η προέλευση ενός εργαλείου δεν αποτελεί από μόνη της μέτρο αξιοπιστίας.
Αυτό δεν σημαίνει ότι η σήμανση είναι περιττή. Στα deepfakes, στις συνθετικές απεικονίσεις γεγονότων, στην πλαστοπροσωπία ή σε αυτοματοποιημένο περιεχόμενο δημόσιου ενδιαφέροντος χωρίς ουσιαστικό ανθρώπινο έλεγχο, η γνωστοποίηση αποτελεί κρίσιμο στοιχείο διαφάνειας. Οι μηχανικά αναγνώσιμες σημάνσεις μπορούν επίσης να αποτελέσουν χρήσιμη τεχνική υποδομή για ανίχνευση και λογοδοσία. Η πρόκληση είναι να χρησιμοποιούνται για να προσθέτουν ουσιαστική πληροφορία, και όχι για να δημιουργούν μία νέα, απλουστευτική κατηγορία περιεχομένου.
Το τζίνι έχει βγει από το λυχνάρι, και το λυχνάρι έχει σπάσει. Η τεχνητή νοημοσύνη ενσωματώνεται ήδη στη συγγραφή, στην εικόνα, στη μετάφραση, στην αναζήτηση, στο λογισμικό και στην επιμέλεια. Το πραγματικό στοίχημα δεν είναι να χωρίσουμε ότι παράγεται σε δύο καθαρές κατηγορίες, «ανθρώπινο» και «AI». Είναι να καταλαβαίνουμε πότε η τεχνολογία επηρεάζει ουσιαστικά τη φύση, την αξιοπιστία ή την ευθύνη του περιεχομένου. Η διαφάνεια έχει αξία όταν μας βοηθά να κατανοήσουμε καλύτερα αυτό που βλέπουμε. Όταν η ετικέτα μετατρέπεται σε ετυμηγορία, αρχίζει να δημιουργεί το δικό της πρόβλημα.
Το άρθρο δημοσιεύθηκε στο περιοδικό InfoCom
