Η OpenAI προτείνει τη δημιουργία διεθνών τεχνικών προτύπων για την ασφάλεια και την προστασία κατά την ανάπτυξη προηγμένων μοντέλων τεχνητής νοημοσύνης, με έμφαση στην έρευνα ευθυγράμμισης και στην αναδρομική αυτοβελτίωση, γνωστή ως recursive self-improvement ή RSI.
Η εταιρεία θεωρεί ότι η ταχύτερη πρόοδος των συστημάτων AI απαιτεί αντίστοιχη ενίσχυση της έρευνας που διασφαλίζει τη συμβατότητά τους με ανθρώπινες αξίες και τη διατήρηση της ανθρώπινης εποπτείας. Σήμερα, η αυτοματοποιημένη έρευνα AI λειτουργεί με διαφορετικούς βαθμούς ανθρώπινης εποπτείας, ενώ η OpenAI τάσσεται κατά της πλήρως αυτόνομης RSI προτού υπάρξουν ασφαλείς όροι εφαρμογής.
Τεχνικό πλαίσιο με εθνικές αποφάσεις
Η πρόταση αφορά μοντέλα και εταιρείες που δραστηριοποιούνται στο τεχνολογικό όριο των δυνατοτήτων της AI. Προβλέπει κοινή τεχνική βάση για τη μέτρηση δυνατοτήτων, την αξιολόγηση κινδύνων και την επάρκεια των δικλίδων ασφαλείας, καθώς και για τη διαχείριση της σχέσης οφέλους και κινδύνου στην αυτοματοποιημένη έρευνα AI.
Τα πρότυπα που περιγράφει η εταιρεία θα είχαν τεχνικό χαρακτήρα. Οι εθνικές κυβερνήσεις θα αποφασίζουν αν και με ποιον τρόπο θα τα ενσωματώνουν στα δικά τους νομικά συστήματα. Η OpenAI διευκρινίζει ότι το πλαίσιο δεν προορίζεται ως σύστημα αδειοδότησης, υποχρεωτικού ελέγχου πριν από τη διάθεση μοντέλων ή έγκρισης μοντέλων.
Για την ανάπτυξή του, προτείνει την αξιοποίηση του δικτύου ινστιτούτων ασφάλειας AI, με αναφορά σε φορείς που λειτουργούν ήδη στην Αυστραλία, τον Καναδά, τη Γερμανία, τη Γαλλία, την Κένυα, την Ιαπωνία, την Κορέα, τη Σιγκαπούρη, την Ινδία και το Ηνωμένο Βασίλειο. Η εταιρεία παραπέμπει επίσης στο International Network for Advanced AI Measurement, Evaluation, and Science, που δημιούργησε το CAISI το 2024.
Η αυτοβελτίωση και τα όρια της εποπτείας
Η RSI περιγράφει μια διαδικασία κατά την οποία τα συστήματα AI αναλαμβάνουν μεγαλύτερο μέρος της ανάπτυξης επόμενων γενεών AI, επιταχύνοντας δυνητικά τον ρυθμό προόδου. Η OpenAI εκτιμά ότι η αυτοματοποιημένη έρευνα μπορεί να μειώσει το κόστος της προηγμένης νοημοσύνης, να ενισχύσει την έρευνα ευθυγράμμισης και να βελτιώσει την άμυνα κρίσιμων υποδομών.
Η ίδια διαδικασία δημιουργεί όμως και τον κίνδυνο απώλειας πρακτικού ανθρώπινου ελέγχου πάνω στην ανάπτυξη της AI, εφόσον οι άνθρωποι αδυνατούν να επιβλέψουν ερευνητικές διεργασίες που αδυνατούν πλέον να κατανοήσουν. Η OpenAI αναφέρει το περιστατικό με τον agent της Hugging Face, χωρίς σύνδεση με RSI, ως προειδοποιητικό παράδειγμα για κινδύνους που θα μπορούσαν να ενταθούν χωρίς ισχυρές δικλίδες και ευθυγράμμιση.
Κοινές μετρήσεις και αναφορά περιστατικών
Η εταιρεία ξεχωρίζει τρεις προκλήσεις: τον κατακερματισμό των εθνικών κανόνων αξιολόγησης και αναφοράς, τη δυσκολία συλλογικής δράσης όταν κάθε χώρα κινείται μόνη της και την άνιση κατανομή τεχνογνωσίας στην ανάπτυξη προηγμένων μοντέλων. Οι προκλήσεις αυτές αφορούν τόσο τα ανοιχτά όσο και τα κλειστά μοντέλα.
Στις προτεινόμενες κατευθύνσεις περιλαμβάνονται κοινές μετρήσεις για την πρόοδο σχετική με την RSI, κανόνες ανθρώπινης εποπτείας που θα ενεργοποιούν άμεση ανασκόπηση και πρωτόκολλα ταξινόμησης, παρακολούθησης και αναφοράς περιστατικών. Η OpenAI θεωρεί επίσης σημαντική τη δημιουργία ασφαλών διαύλων επικοινωνίας μεταξύ κυβερνήσεων και διαχειριστών κρίσιμων υποδομών για την ανταλλαγή πληροφοριών γύρω από ευπάθειες και απειλές.
Η Anthropic έχει παρουσιάσει αντίστοιχες προτάσεις για την ασφαλή ανάπτυξη προηγμένων μοντέλων. Ο διευθύνων σύμβουλός της, Dario Amodei, έχει εισηγηθεί βραδύτερο ρυθμό ανάπτυξης και την παρουσία ανεξάρτητων αξιολογητών στις εταιρείες AI. Ο διευθύνων σύμβουλος της OpenAI, Sam Altman, και ο διευθύνων σύμβουλος της Tesla και της SpaceX, Elon Musk, έχουν εκφράσει δημόσια στήριξη στην πρόταση. Κοινή συναίνεση για τα βασικά πρότυπα ανεξάρτητης αξιολόγησης παραμένει εκκρεμής.
