Περισσότεροι από διακόσιοι πρώην αρχηγοί κρατών, διπλωμάτες, νομπελίστες, κορυφαίοι επιστήμονες, ηγέτες του κλάδου της Τεχνητής Νοημοσύνης και άλλοι, συνυπέγραψαν μια διεθνή έκκληση για τη θέσπιση απαράβατων «κόκκινων γραμμών» που η τεχνολογία αυτή δεν θα πρέπει ποτέ να ξεπεράσει. Η πρωτοβουλία, με την ονομασία «Global Call for AI Red Lines», στην οποία συμμετέχουν και περισσότεροι από εβδομήντα οργανισμοί, θέτει ως κεντρικό στόχο την επίτευξη μιας διεθνούς πολιτικής συμφωνίας έως το τέλος του 2026. Η ανακοίνωση πραγματοποιήθηκε ενόψει της 80ης συνόδου υψηλού επιπέδου της Γενικής Συνέλευσης των Ηνωμένων Εθνών στη Νέα Υόρκη.
Την πρωτοβουλία συντονίζουν το Γαλλικό Κέντρο για την Ασφάλεια της ΤΝ (CeSIA), ο οργανισμός The Future Society και το Κέντρο για την Ανθρωποκεντρική Τεχνητή Νοημοσύνη του Πανεπιστημίου της Καλιφόρνια. Ανάμεσα στις εξέχουσες προσωπικότητες που στηρίζουν την έκκληση βρίσκονται ο Geoffrey Hinton, ο Wojciech Zaremba της OpenAI, ο Ian Goodfellow της Google DeepMind και ο Jason Clinton της Anthropic. Όπως δήλωσε χαρακτηριστικά ο Charbel-Raphaël Segerie, εκτελεστικός διευθυντής του CeSIA, ο στόχος δεν είναι η αντίδραση μετά την εκδήλωση ενός μεγάλου περιστατικού, αλλά η πρόληψη δυνητικά μη αναστρέψιμων κινδύνων μεγάλης κλίμακας πριν αυτοί συμβούν, προσθέτοντας πως αν τα έθνη αδυνατούν να συμφωνήσουν στο τι θέλουν να κάνουν με την ΤΝ, οφείλουν τουλάχιστον να συμφωνήσουν στο τι δεν πρέπει ποτέ να της επιτραπεί να κάνει.
Οι προτεινόμενες κόκκινες γραμμές ορίζονται ως συγκεκριμένες απαγορεύσεις σε χρήσεις που κρίνονται καθολικά απαράδεκτες. Τα παραδείγματα καλύπτουν ένα ευρύ φάσμα, από την απαγόρευση ανάθεσης σε συστήματα ΤΝ της εξουσίας εκτόξευσης πυρηνικών όπλων, μια αρχή που ήδη έχει συμφωνηθεί μεταξύ ΗΠΑ και Κίνας, μέχρι την απαγόρευση ανάπτυξης και χρήσης θανατηφόρων αυτόνομων όπλων που δρουν χωρίς ουσιαστικό ανθρώπινο έλεγχο και σαφή ανθρώπινη λογοδοσία. Επίσης, προτείνεται η απαγόρευση της χρήσης ΤΝ για συστήματα κοινωνικής βαθμολόγησης και μαζικής παρακολούθησης, μια αρχή που έχουν ήδη υιοθετήσει τα 193 κράτη-μέλη της UNESCO, καθώς και η απαγόρευση συστημάτων που εξαπατούν τους χρήστες ότι αλληλεπιδρούν με άνθρωπο χωρίς σαφή γνωστοποίηση της τεχνητής φύσης τους.
Εξίσου σημαντικές είναι οι απαγορεύσεις που αφορούν τις ίδιες τις συμπεριφορές των συστημάτων ΤΝ. Σε αυτές περιλαμβάνεται η απαγόρευση της ανεξέλεγκτης απελευθέρωσης κακόβουλων παραγόντων στον κυβερνοχώρο που είναι ικανοί να διαταράξουν υποδομές ζωτικής σημασίας, καθώς και η απαγόρευση ανάπτυξης συστημάτων που διευκολύνουν την παραγωγή όπλων μαζικής καταστροφής. Επιπλέον, ζητείται η απαγόρευση ανάπτυξης και χρήσης συστημάτων ικανών να αυτο-αναπαράγονται ή να βελτιώνονται σημαντικά χωρίς ρητή ανθρώπινη έγκριση. Θεμελιώδης θεωρείται και η «Αρχή του Τερματισμού», η οποία επιβάλλει ότι κάθε σύστημα ΤΝ πρέπει να μπορεί να απενεργοποιηθεί άμεσα εάν ο ουσιαστικός ανθρώπινος έλεγχος επ’ αυτού απολεσθεί.
Οι υπογράφοντες τονίζουν ότι οι εθελοντικές δεσμεύσεις των εταιρειών, αν και καλοδεχούμενες, δεν επαρκούν για την πραγματική επιβολή κανόνων. Η Niki Iliadis από το The Future Society επισήμανε την ανάγκη για έναν ανεξάρτητο παγκόσμιο θεσμό «με δόντια» ικανό να ορίζει, να παρακολουθεί και να επιβάλλει τα όρια. Από την πλευρά του, ο καθηγητής Stuart Russell του Μπέρκλεϋ απέρριψε το επιχείρημα ότι η ρύθμιση εμποδίζει την καινοτομία, χαρακτηρίζοντας ως «ανοησία» την υποτιθέμενη διχοτόμηση μεταξύ της ανάπτυξης ωφέλιμων εφαρμογών ΤΝ και της αποδοχής του κινδύνου μιας ανεξέλεγκτης γενικής τεχνητής νοημοσύνης. Η νομπελίστρια Maria Ressa, κατά την ομιλία της στον ΟΗΕ, συνέδεσε την πρωτοβουλία με την ευρύτερη ανάγκη για τον τερματισμό της ατιμωρησίας των μεγάλων τεχνολογικών εταιρειών μέσω της παγκόσμιας λογοδοσίας.
Η πρωτοβουλία δεν εκκινεί από το μηδέν, αλλά οικοδομεί πάνω σε ένα μωσαϊκό υπαρχόντων πλαισίων. Σε αυτά περιλαμβάνονται δεσμευτικοί νομικοί μηχανισμοί όπως το AI Act της Ευρωπαϊκής Ένωσης και η Σύμβαση-Πλαίσιο του Συμβουλίου της Ευρώπης, διμερείς διάλογοι όπως αυτός μεταξύ ΗΠΑ και Κίνας για τον πυρηνικό έλεγχο, και παγκόσμιες αρχές όπως η Σύσταση της UNESCO. Η επιστημονική συναίνεση αποτυπώνεται σε κείμενα όπως οι Παγκόσμιες Κατευθυντήριες Γραμμές για την ΤΝ και η Δήλωση του Πεκίνου για την Ασφάλεια της ΤΝ, ενώ η ίδια η βιομηχανία έχει προχωρήσει σε δεσμεύσεις, όπως αυτές της Σεούλ, για τον καθορισμό ορίων κινδύνου.
Ο χρονικός ορίζοντας του 2026 θεωρείται επιτακτικός, καθώς ο ρυθμός εξέλιξης της ΤΝ είναι καταιγιστικός και οι κίνδυνοι που κάποτε θεωρούνταν θεωρητικοί, αρχίζουν ήδη να εμφανίζονται. Σύμφωνα με πρόσφατες εκτιμήσεις ειδικών, τα συστήματα ΤΝ θα μπορούσαν να αποκτήσουν την ικανότητα να αναπαράγονται αυτόνομα στο διαδίκτυο ήδη από τα τέλη του 2025, με τη μέση πρόβλεψη να τοποθετεί αυτό το ορόσημο στο 2027. Ο προτεινόμενος οδικός χάρτης περιλαμβάνει την προώθηση της ιδέας σε διεθνή φόρα όπως οι G7, G20 και BRICS, την υποβολή έκθεσης από την Επιστημονική Ομάδα του ΟΗΕ, την υιοθέτηση αρχικών ορίων στο AI Impact Summit στην Ινδία τον Φεβρουάριο του 2026, και την ολοκλήρωση μιας παγκόσμιας διαβούλευσης στον Διάλογο του ΟΗΕ στη Γενεύη τον Ιούλιο του 2026, με στόχο την έναρξη διαπραγματεύσεων για μια διεθνή συνθήκη.
Για την αποτελεσματική επιβολή των συμφωνηθέντων, προτείνεται ένα πολυεπίπεδο σύστημα διακυβέρνησης. Αυτό θα περιλαμβάνει μια διεθνή συνθήκη για την εναρμόνιση των κανόνων και την αποφυγή ενός «ανταγωνισμού προς τα κάτω» σε ρυθμιστικό επίπεδο, την ενσωμάτωση των κανόνων στην εθνική νομοθεσία κάθε χώρας με τη δημιουργία αρμόδιων ρυθμιστικών αρχών επιφορτισμένων με την αδειοδότηση προηγμένων συστημάτων ΤΝ, τη διεξαγωγή υποχρεωτικών ελέγχων ασφαλείας και την επιβολή αυστηρών κυρώσεων. Τέλος, προβλέπεται η σύσταση ενός ανεξάρτητου διεθνούς τεχνικού φορέα επαλήθευσης, στα πρότυπα του Διεθνούς Οργανισμού Ατομικής Ενέργειας (IAEA), υπεύθυνου για την ανάπτυξη τυποποιημένων πρωτοκόλλων ελέγχου και την αμερόληπτη πιστοποίηση της συμμόρφωσης, με το Διεθνές Δίκτυο Ινστιτούτων Ασφάλειας της ΤΝ να θεωρείται κατάλληλο για να διαδραματίσει σχετικό ρόλο.
