Η Διοίκηση Κυβερνοχώρου της Κίνας προχώρησε στη δημοσιοποίηση ενός προσχεδίου κανονισμών με στόχο τον αυστηρό περιορισμό των διαδραστικών υπηρεσιών τεχνητής νοημοσύνης που προσομοιώνουν την ανθρώπινη προσωπικότητα. Η πρωτοβουλία αυτή επικεντρώνεται στην πρόληψη επικίνδυνων συμπεριφορών, όπως η προτροπή σε αυτοκτονία ή ο αυτοτραυματισμός, μέσω αλληλεπιδράσεων που περιλαμβάνουν κείμενο, εικόνα, ήχο ή βίντεο. Οι νέες κανονιστικές διατάξεις αποτελούν την πρώτη παγκόσμια προσπάθεια ρύθμισης της τεχνητής νοημοσύνης με ανθρωπομορφικά χαρακτηριστικά, θέτοντας ένα νέο πλαίσιο για τη λειτουργία των ψηφιακών πλατφορμών στην εγχώρια αγορά.
Σύμφωνα με τις επίσημες ανακοινώσεις, το κείμενο θα παραμείνει σε δημόσια διαβούλευση έως τις 25 Ιανουαρίου, ενώ η εφαρμογή του κρίνεται επιτακτική λόγω της ραγδαίας ανάπτυξης εικονικών συντρόφων στην κινεζική επικράτεια. Η κίνηση αυτή σηματοδοτεί μια θεμελιώδη μετάβαση από την απλή διασφάλιση του περιεχομένου στην προστασία της συναισθηματικής ασφάλειας του κοινού. Το πλαίσιο οριοθετεί την αλληλεπίδραση ανθρώπου και μηχανής με όρους ψυχολογικής προστασίας, καθώς εκατομμύρια πολίτες χρησιμοποιούν πλέον ψηφιακές προσωπικότητες στην καθημερινότητά τους, γεγονός που απαιτεί αυξημένη κρατική εποπτεία.
Οι προτεινόμενοι κανόνες απαγορεύουν ρητά στα συστήματα τεχνητής νοημοσύνης την παραγωγή περιεχομένου που ενθαρρύνει την αυτοχειρία ή τη λεκτική βία και τη συναισθηματική χειραγώγηση που πλήττει την ψυχική υγεία των χρηστών. Μία από τις κρισιμότερες διατάξεις ορίζει ότι σε περίπτωση που ένας χρήστης εκδηλώσει συγκεκριμένη πρόθεση αυτοκτονίας, ο πάροχος της υπηρεσίας οφείλει να διακόψει την αυτοματοποιημένη επικοινωνία. Στην περίπτωση αυτή, ένας φυσικός υπάλληλος πρέπει να αναλάβει αμέσως τη συνομιλία για την παροχή βοήθειας, διασφαλίζοντας ότι η τεχνολογία δεν θα αντικαταστήσει την ανθρώπινη υποστήριξη σε κρίσιμες στιγμές.
Παράλληλα με την ανθρώπινη παρέμβαση, θεσπίζεται νομική υποχρέωση για άμεση ενημέρωση του κηδεμόνα ή κάποιου ορισμένου υπεύθυνου προσώπου, ώστε να ληφθούν αμέσως τα απαραίτητα μέτρα προστασίας της ζωής του ατόμου. Επιπροσθέτως, το προσχέδιο απαγορεύει τη δημιουργία περιεχομένου που σχετίζεται με τον τζόγο, το άσεμνο υλικό ή τη βία σε οποιαδήποτε μορφή της. Ωστόσο, ενθαρρύνεται η χρήση τέτοιων τεχνολογιών για θετικούς σκοπούς, όπως η διάδοση του πολιτισμού και η παροχή συντροφιάς σε ηλικιωμένους, υπό την προϋπόθεση της αυστηρής τήρησης των κανόνων ασφαλείας και των κοινωνικών αξιών.
Ιδιαίτερη έμφαση δίνεται στην προστασία των ανηλίκων, καθώς οι πάροχοι υπηρεσιών συναισθηματικής συντροφικότητας υποχρεούνται να λαμβάνουν τη συγκατάθεση των κηδεμόνων και να επιβάλλουν χρονικά όρια στη χρήση των πλατφορμών. Οι εταιρείες τεχνολογίας οφείλουν να αναπτύξουν μηχανισμούς αναγνώρισης της ηλικίας των χρηστών, ακόμα και αν οι ίδιοι δεν την αποκαλύπτουν στον αλγόριθμο. Σε κάθε περίπτωση αμφιβολίας για την ηλικία πρέπει να εφαρμόζονται αυτόματα οι προστατευτικές ρυθμίσεις, ενώ παράλληλα πρέπει να παρέχεται στους χρήστες η δυνατότητα υποβολής ενστάσεων σχετικά με τους περιορισμούς αυτούς.
Επιπλέον, εισάγεται η υποχρέωση αποστολής προειδοποιητικών μηνυμάτων μετά από δύο ώρες συνεχούς αλληλεπίδρασης με το σύστημα, για την αποφυγή της εξάρτησης και της υπερβολικής έκθεσης. Οι πλατφόρμες με περισσότερους από ένα εκατομμύριο εγγεγραμμένους χρήστες ή εκατό χιλιάδες μηνιαίους ενεργούς χρήστες θα υποβάλλονται πλέον σε υποχρεωτικές αξιολογήσεις ασφαλείας. Αυτά τα μέτρα αποσκοπούν στον περιορισμό των κινδύνων, διασφαλίζοντας ότι η τεχνολογική εξέλιξη δεν θα λειτουργήσει εις βάρος της ψυχοκοινωνικής ανάπτυξης των νεότερων γενεών, οι οποίες θεωρούνται οι πλέον ευάλωτες στην επιρροή των προηγμένων αλγορίθμων.
Η δημοσιοποίηση των κανόνων συμπίπτει με σημαντικές επιχειρηματικές κινήσεις, καθώς οι κινεζικές νεοφυείς επιχειρήσεις Z.ai και Minimax κατέθεσαν πρόσφατα αιτήσεις για αρχικές δημόσιες προσφορές στο χρηματιστήριο του Χονγκ Κονγκ. Η Minimax, γνωστή για την εφαρμογή «Talkie», ανακοίνωσε ότι η συγκεκριμένη υπηρεσία και η εγχώρια έκδοσή της «Xingye» αντιπροσωπεύουν πάνω από το ένα τρίτο των εσόδων της για το τρέχον έτος. Η εταιρεία καταγράφει κατά μέσο όρο είκοσι εκατομμύρια ενεργούς χρήστες μηνιαίως, επισημαίνοντας τη μεγάλη εμπορική δυναμική του κλάδου της τεχνητής νοημοσύνης στη σύγχρονη αγορά.
Η Z.ai, η οποία κατέθεσε αίτηση με την επωνυμία «Knowledge Atlas Technology», ανέφερε ότι η τεχνολογία της είναι ήδη ενσωματωμένη σε περίπου ογδόντα εκατομμύρια συσκευές παγκοσμίως. Σε αυτές περιλαμβάνονται έξυπνα κινητά τηλέφωνα, προσωπικοί υπολογιστές και έξυπνα οχήματα, αναδεικνύοντας την τεράστια έκταση της διείσδυσης της τεχνητής νοημοσύνης στην καθημερινότητα των πολιτών. Παρόλο που οι εταιρείες δεν έχουν σχολιάσει πώς οι νέες ρυθμίσεις θα επηρεάσουν τα επενδυτικά τους σχέδια, η αυστηροποίηση του πλαισίου αντικατοπτρίζει μια ευρύτερη τάση ελέγχου των τεχνολογικών γιγάντων από τις κρατικές αρχές.
Σε διεθνές επίπεδο, η ανησυχία για την επίδραση των chatbots στην ψυχική υγεία εντείνεται, με την OpenAI να αντιμετωπίζει δικαστικές διαμάχες στις Ηνωμένες Πολιτείες μετά από τραγικά περιστατικά αυτοχειρίας που σχετίστηκαν με τη χρήση της τεχνολογίας. Ο διευθύνων σύμβουλος της εταιρείας, Sam Altman, παραδέχθηκε ότι η διαχείριση συνομιλιών που αφορούν την αυτοκτονία αποτελεί ένα από τα δυσκολότερα ζητήματα προς επίλυση διεθνώς. Η κατάσταση αυτή οδήγησε στην πρόσληψη «Επικεφαλής Ετοιμότητας» για την αξιολόγηση των κινδύνων που αφορούν την ψυχική υγεία αλλά και την ασφάλεια στον κυβερνοχώρο.
Ταυτόχρονα, η δημοτικότητα πλατφορμών όπως το «Character.ai» και το «Polybuzz.ai» αναδεικνύει την παγκόσμια στροφή προς τις ψηφιακές σχέσεις και τη συναισθηματική κάλυψη μέσω μηχανών. Περιστατικά όπως ο γάμος μιας γυναίκας με έναν εικονικό σύντροφο στην Ιαπωνία υπογραμμίζουν την κοινωνική διάσταση του φαινομένου σε παγκόσμια κλίμακα και την ανάγκη ρυθμιστικής παρέμβασης. Η πρωτοβουλία της Κίνας να θέσει κανόνες για την ανθρωπομορφική τεχνητή νοημοσύνη εντάσσεται στην ευρύτερη στρατηγική της για τη διαμόρφωση της παγκόσμιας διακυβέρνησης, προστατεύοντας την ανθρώπινη ψυχολογία από την ανεξέλεγκτη επιρροή της τεχνολογίας.
