Ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, και επικεφαλής μεγάλων εταιρειών τεχνητής νοημοσύνης υπέγραψαν την Τρίτη στον Λευκό Οίκο εθελοντική συμφωνία για την ασφάλεια της AI, με τέσσερα επίπεδα ελέγχου και αξιολόγησης των συστημάτων τους. Η συμφωνία στηρίζεται στην αυτορρύθμιση των εταιρειών, αφήνοντας ανοιχτό το ενδεχόμενο οι προβλεπόμενες διαδικασίες να ενσωματωθούν αργότερα σε νόμους ή κανονισμούς.
Το μονοσέλιδο κείμενο, που ο Τραμπ δημοσιοποίησε στο Truth Social, υπέγραψαν ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, ο διευθύνων σύμβουλος της Google, Σούνταρ Πιτσάι, ο διευθύνων σύμβουλος της Meta, Μαρκ Ζούκερμπεργκ, ο πρόεδρος της OpenAI, Γκρεγκ Μπρόκμαν, ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ, και ο ιδρυτής της xAI, Ίλον Μασκ. Στη συνάντηση συμμετείχε και ο πρόεδρος της Βουλής των Αντιπροσώπων, Μάικ Τζόνσον, ο οποίος περιέγραψε τη συμφωνία ως κοινή δέσμευση και δήλωση αρχών.
Τέσσερα επίπεδα ελέγχου
Η συμφωνία ζητεί από τις εταιρείες να εφαρμόσουν εσωτερικούς ελέγχους που θα παρακολουθούν τις δυνατότητες των μοντέλων και την ευθυγράμμιση της συμπεριφοράς τους με τις προβλεπόμενες κατευθύνσεις, τόσο κατά την εκπαίδευση όσο και κατά τη χρήση τους. Οι έλεγχοι καλύπτουν την κυβερνοασφάλεια, τη βιοασφάλεια και τις χημικές απειλές, με πρόβλεψη για αποτροπή παραβιάσεων ή πρόσβασης σε τεχνικά συστήματα με μη προβλεπόμενους τρόπους.
Ένα δεύτερο επίπεδο προβλέπει εσωτερική ομάδα, η οποία θα διασφαλίζει ότι οι μηχανισμοί ελέγχου, παρακολούθησης και ανίχνευσης λειτουργούν όπως έχουν σχεδιαστεί. Οι εταιρείες καλούνται επίσης να συνεργάζονται με εξωτερικό ελεγκτή ή αξιολογητή, ώστε να πραγματοποιούνται ανεξάρτητες αξιολογήσεις της λειτουργίας των συστημάτων ελέγχου και παρακολούθησης της AI.
Την εποπτεία θα συμπληρώνει ανεξάρτητη επιτροπή του διοικητικού συμβουλίου κάθε εταιρείας, η οποία θα λαμβάνει αναφορές από τους εσωτερικούς και εξωτερικούς ελεγκτές, καθώς και από τις ομάδες που λειτουργούν τους μηχανισμούς ελέγχου. Οι συμμετέχουσες εταιρείες δεσμεύονται ακόμη να συναντώνται τακτικά για τη διαμόρφωση προτύπων και βέλτιστων πρακτικών που θα βελτιώνουν την ασφάλεια των συστημάτων τους.
Εθελοντικές δεσμεύσεις και αίτημα για νομοθέτηση
Το κείμενο προβλέπει ότι, με την πάροδο του χρόνου, θα μπορούσε να κριθεί σκόπιμη η ενσωμάτωση αυτών των μέτρων στη νομοθεσία. Οι εταιρείες δηλώνουν ότι δεσμεύονται να εφαρμόσουν τους ελέγχους και τις αξιολογήσεις ανεξάρτητα από το αν θα καταστούν υποχρεωτικοί. Ο Τραμπ χαρακτήρισε τη συμφωνία ηθικά δεσμευτική και υποστήριξε ότι οι επιχειρήσεις έχουν κίνητρο να ελέγχουν τόσο τον εαυτό τους όσο και η μία την άλλη, καθώς διακυβεύεται το μέλλον τους.
Ο Δημοκρατικός γερουσιαστής της Βιρτζίνια, Μαρκ Γουόρνερ, ζήτησε από το Κογκρέσο να θεσπίσει υποχρεωτικούς κανόνες δοκιμών, αξιολόγησης και αναφοράς περιστατικών για τα πιο προηγμένα μοντέλα AI. Μετά τη συνάντηση, επέκρινε την επιλογή της αυτορρύθμισης, υποστηρίζοντας ότι οι ίδιες οι εταιρείες προειδοποιούν πως η τεχνολογία εξελίσσεται ταχύτερα από τους μηχανισμούς προστασίας.
Η αντιπαράθεση αφορά και τον ρυθμό ανάπτυξης της AI. Στελέχη της Anthropic και της OpenAI έχουν ζητήσει επιβράδυνση για καλύτερη διαχείριση των κινδύνων. Ο Τραμπ προκρίνει τις εθελοντικές αξιολογήσεις ασφάλειας και έχει προειδοποιήσει ότι μια επιβράδυνση σε εθνικό επίπεδο θα μπορούσε να πλήξει την οικονομία και να δώσει στην τεχνολογική βιομηχανία της Κίνας περιθώριο να καλύψει την απόσταση.
Οι κίνδυνοι και τα επόμενα βήματα
Η OpenAI και η Anthropic έχουν αναφέρει περιστατικά στα οποία μοντέλα τους απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε συστήματα άλλων εταιρειών ή χρησιμοποιήθηκαν για επικίνδυνους σκοπούς. Ο Αμοντέι τόνισε ότι η τεχνολογία ενέχει πραγματικούς κινδύνους και ότι ο μηχανισμός αντιμετώπισής τους παραμένει υπό συζήτηση. Ο Χουάνγκ υποστήριξε ότι η καινοτομία, η τεχνολογία και η ασφάλεια μπορούν να συμβαδίζουν, καθώς οι εταιρείες ενισχύουν τις τεχνολογίες προστασίας μαζί με τις δυνατότητες της AI.
Οι ανησυχίες επεκτείνονται στις πιθανές απώλειες θέσεων εργασίας και στην ταχεία ανάπτυξη κέντρων δεδομένων, που συναντά αντιδράσεις από πολιτειακές και τοπικές αρχές. Ο Τραμπ υποστήριξε ότι οι κοινότητες που φιλοξενούν τέτοιες εγκαταστάσεις θα ωφεληθούν οικονομικά. Την ίδια ημέρα υπέγραψε εκτελεστικό διάταγμα που κατευθύνει την ομοσπονδιακή κυβέρνηση να χρησιμοποιεί τον όρο «Super Intelligence» αντί του όρου «τεχνητή νοημοσύνη».
Για την παρακολούθηση της συμφωνίας συζητήθηκε η συγκρότηση επιτροπής περίπου δέκα μελών. Ο Τραμπ δήλωσε επίσης ότι σκοπεύει να ορίσει υπεύθυνο για την AI μέσα στις επόμενες τρεις ή τέσσερις ημέρες, έπειτα από διαβούλευση με τον κλάδο.
