Αν αυτή τη στιγμή κάνεις μια αναζήτηση στο Google με τους όρους «facebook ai moderation», το πρώτο αποτέλεσμα στο οποίο καταλήγεις είναι ένα άρθρο του ίδιου του Facebook, μέσα στην πλατφόρμα του, το οποίο εξηγεί πώς η εταιρεία χρησιμοποιεί τεχνητή νοημοσύνη για να κάνει moderation στο περιεχόμενο. «How Facebook uses artificial intelligence to moderate content», ο τίτλος του. Στην πραγματικότητα, ο τρόπος με τον οποίο το Facebook χρησιμοποιεί το AI είναι η ντροπή της τεχνητής νοημοσύνης. Και εξηγούμαι.
Στο προαναφερθέν άρθρο, λοιπόν, διαβάζουμε για τον τρόπο με τον οποίο η Meta διαχειρίζεται το περιεχόμενο που δημοσιεύεται, με στόχο την τήρηση των «Προτύπων Κοινότητας». Η διαδικασία, όπως αναφέρεται, βασίζεται σε έναν συνδυασμό AI και ανθρώπινης αξιολόγησης, όπου το σύστημα εντοπίζει αυτόματα και αφαιρεί παραβατικό υλικό προτού καν γίνει αναφορά από χρήστες. Σε περιπτώσεις που το περιεχόμενο είναι οριακό ή αμφιλεγόμενο, το σύστημα το παραπέμπει σε εξειδικευμένες ομάδες ανθρώπων, οι αποφάσεις των οποίων βοηθούν τη μηχανική μάθηση να εξελίσσεται και να γίνεται ακριβέστερη με την πάροδο του χρόνου.
Επιπλέον, εξηγείται ότι το περιεχόμενο που δεν παραβιάζει άμεσα τους κανόνες, αλλά θεωρείται προσβλητικό ή ακατάλληλο, ενδέχεται να περιορίζεται ως προς τη διάδοσή του ή να επισημαίνεται ως ευαίσθητο. Σύμφωνα με την εταιρεία, «καθώς οι κοινωνικές νόρμες και η γλώσσα αλλάζουν, οι πολιτικές της πλατφόρμας αναπροσαρμόζονται διαρκώς για να διασφαλίζεται ένα ασφαλές περιβάλλον έκφρασης». Τέλος, υπογραμμίζεται το δικαίωμα των χρηστών να ζητήσουν επανεξέταση της απόφασης, εάν θεωρούν ότι το περιεχόμενό τους αφαιρέθηκε λανθασμένα. Όλα αυτά ακούγονται καλά και όμορφα ως εδώ.
Πριν από μερικές ημέρες λοιπόν, μέσω του Facebook Messenger, έστειλα σε συνεργάτη μου το παρακάτω μήνυμα: «αύριο στείλε στον (όνομα λογιστή) το τιμολόγιο». Τι εννοούσα; Πολύ απλά, μετά από μια συνεργασία, έπρεπε να κοπεί ένα τιμολόγιο. Ο συνεργάτης περίμενε να τον ενημερώσω για το πότε θα έπρεπε να γίνει αυτό. Έφτασε η ώρα, του έστειλα το μήνυμα. Αυτό ήταν και το τελευταίο μήνυμα που έστειλα μέσω της πλατφόρμας. Ελάχιστα λεπτά μετά από αυτό, το Facebook πήρε μια απόφαση: να μου μπλοκάρει για επτά ημέρες τη δυνατότητα αποστολής μηνυμάτων μέσω του Messenger, τόσο από το προσωπικό μου προφίλ όσο και από τις σελίδες που διαχειρίζομαι.
Γιατί συνέβη αυτό; Γιατί, πολύ απλά, «κάτι που έστειλα ήταν εναντίον των κανόνων του μέσου». Αναλυτικότερα, η πλατφόρμα με ενημέρωσε πως «απαγορεύεται αυστηρά κάθε απόπειρα συλλογής ευαίσθητων πληροφοριών από τρίτους». Συγκεκριμένα, δεν επιτρέπεται η προσπάθεια απόκτησης πρόσβασης σε λογαριασμούς ή δεδομένα άλλων χρηστών -ανεξάρτητα από το αν υπάρχει σχετική συγκατάθεση ή όχι- ούτε η παρότρυνση ατόμων να αποκαλύψουν τα προσωπικά τους στοιχεία σύνδεσης, όπως ονόματα χρήστη και κωδικούς πρόσβασης. Επιπλέον, υπογραμμίζεται η απαγόρευση χρήσης τακτικών «phishing» με σκοπό την υποκλοπή δεδομένων, στο πλαίσιο της προστασίας της ιδιωτικότητας και της ασφάλειας των μελών της κοινότητας.
Με απλά λόγια, το Facebook, μετά από 15+ χρόνια στην πλατφόρμα χωρίς ούτε μια προειδοποίηση ή κακή χρήση, θεώρησε πως προσπάθησα να αποσπάσω κάποια προσωπική πληροφορία μέσω του Messenger, ακόμη και να κάνω «phishing», επειδή είπα σε κάποιον να στείλει ένα τιμολόγιο. Παράλληλα, η εταιρεία με ενημερώνει πως, επειδή ζω στην Ευρωπαϊκή Ένωση, πέρα από τη δυνατότητα που υπάρχει να ζητήσω review της απόφασης (δεν υπάρχει καμία τέτοια δυνατότητα και κανένα τέτοιο κουμπί ή επιλογή, όσο και αν έψαξα), μπορώ να πάω στα δικαστήρια για να ανατρέψω την απόφαση (δεν νομίζω να μπει εύκολα κάποιος σε αυτή τη διαδικασία για το Messenger) ή να αποταθώ σε ένα πιστοποιημένο όργανο διευθέτησης διαφορών. Εννοείται πως δεν θα κάνω τίποτα από τα δύο τελευταία και ούτε θα βασανιστώ για να βρω πώς γίνεται το πρώτο.
Πού θέλω να καταλήξω; Με μια εξαιρετικά γρήγορη αναζήτηση, βρήκα πως τα έσοδα της Meta για το 2025 αναμένεται να αγγίξουν ή και να ξεπεράσουν τα 200 δισεκατομμύρια δολάρια, ενώ τα συνολικά καθαρά κέρδη εκτιμάται ότι θα κυμανθούν γύρω στα 56-58 δισεκατομμύρια δολάρια. Την ίδια στιγμή, τον περασμένο Νοέμβριο, μάθαμε πως η Meta Platforms δρομολογεί μια επένδυση-μαμούθ ύψους 600 δισεκατομμυρίων δολαρίων στις ΗΠΑ, με στόχο την ανάπτυξη υποδομών και τη δημιουργία θέσεων εργασίας στον τομέα της τεχνητής νοημοσύνης. Ο Mark Zuckerberg, επιδιώκοντας το ορόσημο της «υπερνοημοσύνης», δεσμεύτηκε για την κατασκευή γιγαντιαίων data centers. Είναι, λοιπόν, μια εταιρεία πολλών δισεκατομμυρίων, που επενδύει εκατοντάδες δισεκατομμύρια στο AI.
Στην πραγματικότητα, όμως, είναι μια πλατφόρμα που δείχνει να έχει αφεθεί στα χέρια κάποιας τεχνητής νοημοσύνης, ειδικά από τη στιγμή που συνεχίζουν να υπάρχουν έσοδα και κέρδη από τις διαφημίσεις. Το μόνο που έχω να πω είναι πως, ως άνθρωπος που ασχολείται με την τεχνητή νοημοσύνη κάθε μέρα, είναι απογοητευτικό το ότι μια εταιρεία αυτού του μεγέθους βασίζει τόσο σημαντικές αποφάσεις —όπως είναι το moderation, ακόμη και η φραγή της επικοινωνίας— σε συστήματα AI τα οποία είναι τόσο χαμηλού επιπέδου, χωρίς κανέναν επανέλεγχο ή δυνατότητα ανθρώπινης παρέμβασης. Είναι ντροπή για την τεχνολογική ανάπτυξη που έχει υπάρξει όλα αυτά τα χρόνια.
Ίσως η Meta θα έπρεπε να επενδύσει μερικά από αυτά τα δισεκατομμύρια στην κοινή λογική, πριν κυνηγήσει την υπερνοημοσύνη.
