Είκοσι δύο χώρες υιοθέτησαν διακήρυξη που ζητεί η τεχνητή νοημοσύνη να παραμένει υπό ανθρώπινη κατεύθυνση, εποπτεία και έλεγχο, ανοίγοντας τη συζήτηση για ένα διεθνές πλαίσιο επιτήρησης των προηγμένων συστημάτων AI. Στην πρωτοβουλία συμμετείχαν αρκετές ευρωπαϊκές χώρες και η υιοθέτησή της έγινε στο περιθώριο της Γενικής Συνέλευσης του ΟΗΕ.
Το κείμενο αναγνωρίζει ότι η AI μπορεί να βελτιώσει τη ζωή, να ενισχύσει την επιστημονική πρόοδο και τις οικονομίες. Την ίδια στιγμή, προειδοποιεί πως η ταχεία ανάπτυξη των προηγμένων μοντέλων δημιουργεί σοβαρούς κινδύνους για την ασφάλεια, όταν απουσιάζει η κατάλληλη διαχείριση.
Η πρόταση για διεθνή θεσμό
Ο Αλεξάντερ Στουμπ, πρόεδρος της Φινλανδίας και ένας από τους κύριους οργανωτές του κειμένου, δήλωσε στο POLITICO ότι επιδιώκει να δημιουργηθεί δυναμική για ευρύτερη συμμετοχή, με στόχο την προσχώρηση και των ΗΠΑ και της Κίνας. Οι δύο χώρες, που πρωταγωνιστούν στην ανάπτυξη της AI, δεν συμμετέχουν στη νέα διακήρυξη.
«Χρειαζόμαστε ανθρώπινη παρέμβαση, άρα οι άνθρωποι πρέπει να έχουν τον έλεγχο», ανέφερε ο Στουμπ. Εξέφρασε ως προσωπική προτίμηση τη δημιουργία ενός νέου θεσμού, αντίστοιχου με τον Διεθνή Οργανισμό Ατομικής Ενέργειας, στο πλαίσιο του ΟΗΕ. Άφησε ωστόσο ανοιχτή τη θεσμική μορφή, ώστε η πρωτοβουλία να μην προσκρούσει στις επιφυλάξεις που εκφράζουν ορισμένοι απέναντι στα Ηνωμένα Έθνη.
Ο Φινλανδός πρόεδρος εκτίμησε ότι η θέσπιση ορισμένων δικλίδων ασφαλείας θα εξυπηρετούσε τα συμφέροντα τόσο της Κίνας όσο και των ΗΠΑ. Η διακήρυξη επιδιώκει να προσελκύσει περισσότερους συμμετέχοντες, χωρίς να προεξοφλεί το θεσμικό σχήμα ή το εύρος της μελλοντικής διεθνούς συνεργασίας.
Ο Γιόνας Γκαρ Στέρε, πρωθυπουργός της Νορβηγίας και συνδιαμορφωτής της πρωτοβουλίας μαζί με τον Στουμπ, ζήτησε μεγαλύτερη εμπλοκή του G7 και της επερχόμενης βρετανικής προεδρίας του G20. Η βρετανική κυβέρνηση δεν έχει υπογράψει τη διακήρυξη. Ο Φρίντριχ Μερτς, καγκελάριος της Γερμανίας, στηρίζει την πρωτοβουλία, ενώ η Γαλλία, η Ιταλία και η Πολωνία απουσιάζουν από τις υπογραφές.
Ο Στέρε εκτίμησε ότι ο ΟΗΕ έχει ευρύ πεδίο δράσης, ενώ το G7 και το G20 μπορούν να λειτουργήσουν ως πιο εστιασμένα φόρουμ για την προώθηση των συζητήσεων. Η αναφορά αυτή συνδέει τη διακήρυξη με υπάρχοντες διεθνείς μηχανισμούς, αντί να την περιορίζει σε μια νέα αυτόνομη δομή.
Κοινοί κανόνες και έλεγχοι πριν από την ανάπτυξη
Η διακήρυξη καλεί τα κράτη να αναπτύξουν και να συντονίσουν κοινά πρότυπα, να ενισχύσουν τη διαφάνεια και να καθιερώσουν κοινή αναφορά σοβαρών περιστατικών ασφάλειας. Προτείνει επίσης να αξιοποιηθούν οι υφιστάμενοι διεθνείς μηχανισμοί και να εξεταστεί η δημιουργία ενός διεθνούς θεσμού για την εποπτεία της AI.
Οι προτάσεις αποδίδουν ιδιαίτερο βάρος στην ανταλλαγή πληροφοριών για σοβαρά περιστατικά ασφάλειας. Με αυτόν τον τρόπο, η αντιμετώπιση των κινδύνων συνδέεται με κοινά πρότυπα και μεγαλύτερη διαφάνεια μεταξύ των χωρών που θα συμμετάσχουν στην προσπάθεια.
Στο κείμενο γίνεται αναφορά στην πρόσφατη κυβερνοεπίθεση από ανεξέλεγκτους AI agents στην πλατφόρμα Hugging Face. Οι χώρες ζητούν από τις εταιρείες AI διαφανή πρωτόκολλα ασφάλειας, υποχρεωτικές δοκιμές πριν από την ανάπτυξη των συστημάτων και ανεξάρτητη αξιολόγηση, με επαρκή πρόσβαση εξειδικευμένων αξιολογητών στα μοντέλα και στους κινδύνους τους.
Διαχείριση κινδύνων χωρίς παύση της ανάπτυξης
Οι οργανωτές επέλεξαν να μη ζητήσουν επιβράδυνση ή παύση της ανάπτυξης της AI. Η έμφαση τοποθετείται στη διαχείριση των κινδύνων, με κανόνες και εποπτεία που θα επιτρέπουν την αξιοποίηση της τεχνολογίας.
Η προσέγγιση αυτή διαχωρίζει την πρωτοβουλία από αιτήματα για γενικό φρένο στην έρευνα και την εμπορική ανάπτυξη. Σκοπός της διακήρυξης παραμένει η θέσπιση όρων ασφαλούς χρήσης, χωρίς να αποθαρρύνεται η τεχνολογική πρόοδος.
Ο Στουμπ ανέφερε ότι ο ίδιος και ο Στέρε δεν προσεγγίζουν την AI με καταστροφολογική λογική. Υπογράμμισε όμως τρεις τομείς ανησυχίας: τη δημιουργία βιολογικών όπλων με τη βοήθεια AI, τις κυβερνοεπιθέσεις από AI agents και τη χρήση αυτόνομων συστημάτων σε θανατηφόρες επιθέσεις.
Η πρωτοβουλία διατυπώθηκε πριν από την προγραμματισμένη συνάντηση στην Ουάσιγκτον μεταξύ του προέδρου των ΗΠΑ Ντόναλντ Τραμπ και του προέδρου της Κίνας Σι Τζινπίνγκ. Ο Φινλανδός πρόεδρος υποστήριξε ότι τα οφέλη της AI μπορούν να είναι πολύ μεγαλύτερα, εφόσον η τεχνολογία χρησιμοποιείται με τον κατάλληλο τρόπο, αναφέροντας την αντιμετώπιση ασθενειών, την παραγωγικότητα και την πρόσβαση στην πληροφορία.
