Τη δημιουργία ενός νέου φορέα προτύπων για την αξιολόγηση των ισχυρότερων μοντέλων τεχνητής νοημοσύνης προτείνει ο διευθύνων σύμβουλος και συνιδρυτής της Google DeepMind, Ντέμης Χασάμπης, με τις ΗΠΑ να αναλαμβάνουν την αρχική πρωτοβουλία. Ο φορέας θα μπορούσε να ελέγχει μοντέλα αιχμής πριν από τη διάθεσή τους και, σε περίπτωση σοβαρών κινδύνων, να συντονίζει επιβράδυνση της ανάπτυξης σε επίπεδο κλάδου.
Στο κείμενό του με τίτλο «A Framework for Frontier AI and the Dawning of a New Age», ο Χασάμπης υποστηρίζει ότι η ταχεία πρόοδος της τεχνητής νοημοσύνης απαιτεί ένα δυναμικό και αυστηρό πλαίσιο αξιολόγησης. Η πρόταση τοποθετείται σε μια περίοδο έντονου εμπορικού και γεωπολιτικού ανταγωνισμού, τον οποίο ο επικεφαλής της Google DeepMind συνδέει με ρυθμούς ανάπτυξης που υπερβαίνουν την κατανόηση των δυνατοτήτων των συστημάτων.
Έλεγχοι ασφαλείας πριν από τη διάθεση μοντέλων
Ο προτεινόμενος οργανισμός θα μπορούσε να οργανωθεί ως εταιρική σχέση δημόσιου και ιδιωτικού τομέα υπό ομοσπονδιακή εποπτεία ή ως αυτορρυθμιζόμενος οργανισμός, με πρότυπο τη FINRA, τον αμερικανικό φορέα εποπτείας του χρηματοοικονομικού κλάδου. Στο διοικητικό του συμβούλιο θα συμμετείχαν ανεξάρτητοι τεχνικοί εμπειρογνώμονες και εκπρόσωποι της κοινότητας ανοικτού κώδικα, ενώ η χρηματοδότησή του θα προερχόταν κατά κύριο λόγο από τη βιομηχανία.
Κατά τον Χασάμπη, ο φορέας θα ανέπτυσσε πρωτόκολλα αξιολόγησης και θα συνεργαζόταν με αρμόδιες ομοσπονδιακές υπηρεσίες και τα εθνικά εργαστήρια των ΗΠΑ για δοκιμές που συνδέονται με την εθνική ασφάλεια. Ένα σύστημα θα ταξινομούνταν ως μοντέλο αιχμής όταν υπερέβαινε συγκεκριμένα όρια σε δείκτες αξιολόγησης, οι οποίοι θα ανανεώνονταν τακτικά ώστε να ακολουθούν την εξέλιξη των δυνατοτήτων της τεχνητής νοημοσύνης.
Από την εθελοντική συμμετοχή στη μελλοντική υποχρέωση
Σε αρχικό στάδιο, οι εταιρείες που αναπτύσσουν τέτοια συστήματα θα μπορούσαν να τα υποβάλλουν οικειοθελώς για εξέταση έως και 30 ημέρες πριν από τη διάθεσή τους. Εφόσον η διαδικασία αποδεικνυόταν αποτελεσματική και αξιόπιστη, ο Χασάμπις εκτιμά ότι θα μπορούσε να ακολουθήσει επίσημη ρύθμιση, με την επιτυχή αξιολόγηση να αποτελεί προϋπόθεση για την κυκλοφορία των μοντέλων στην αμερικανική αγορά.
Οι έλεγχοι θα εστίαζαν σε δυνατότητες που σχετίζονται με κυβερνοασφάλεια, βιολογικές απειλές και άλλους τομείς υψηλού κινδύνου. Για τα συστήματα με μεγαλύτερο βαθμό αυτονομίας, ο Χασάμπις εισηγείται δοκιμές για πιθανές προσπάθειες παράκαμψης δικλίδων ασφαλείας ή ενδείξεις παραπλανητικής συμπεριφοράς. Προτείνει επίσης πρακτικές όπως η ψηφιακή υδατογράφηση εικόνων που παράγονται από τεχνητή νοημοσύνη και η παραγωγή αναγνώσιμων από άνθρωπο μονάδων εξόδου για την καλύτερη κατανόηση της συλλογιστικής των μοντέλων.
Διεθνή πρότυπα για τα μοντέλα αιχμής
Οι αξιολογήσεις θα επικαιροποιούνταν, αρχικά πιθανόν ανά τρίμηνο, με την απόσυρση δοκιμών που παύουν να αποτυπώνουν τις πραγματικές δυνατότητες των μοντέλων. Στην αρχή, η ανάπτυξή τους θα γινόταν σε συνεργασία με τα εργαστήρια αιχμής. Σε επόμενο στάδιο, ο προτεινόμενος φορέας θα μπορούσε να αποκτήσει τη δυνατότητα να σχεδιάζει ανεξάρτητες δοκιμές, ώστε να περιορίζεται η προσαρμογή των μοντέλων σε ήδη γνωστές αξιολογήσεις.
Ο Χασάμπης αναφέρει ότι το πλαίσιο θα μπορούσε να ισχύει για μοντέλα αιχμής ανεξαρτήτως χώρας προέλευσης ή διάθεσης με ανοικτό ή κλειστό κώδικα. Μικρότερα μοντέλα από νεοφυείς επιχειρήσεις ή ακαδημαϊκούς φορείς θα εξαιρούνταν. Ο ίδιος θεωρεί ότι μια πρωτοβουλία από τις ΗΠΑ θα μπορούσε να αποτελέσει αφετηρία για κοινά διεθνή πρότυπα.
Η πρόταση στηρίζεται στην εκτίμησή του ότι η τεχνητή γενική νοημοσύνη, δηλαδή ένα σύστημα με το σύνολο των γνωστικών δυνατοτήτων του ανθρώπινου εγκεφάλου, βρίσκεται πιθανόν λίγα χρόνια μακριά. Ο Χασάμπις υποστηρίζει ότι η ανάπτυξη τέτοιων συστημάτων χρειάζεται συντονισμό γύρω από κοινό πλαίσιο και αυστηρές επιστημονικές μεθόδους, ώστε να αντιμετωπίζονται οι τεχνικοί κίνδυνοι παράλληλα με τις πιθανές εφαρμογές τους στην επιστήμη, την ιατρική και την παραγωγικότητα.
Σύμφωνα με το Axios, ο Χασάμπης έχει παρουσιάσει την πρότασή του στην κυβέρνηση Τραμπ, σε άλλα εργαστήρια τεχνητής νοημοσύνης και σε Ευρωπαίους αξιωματούχους, με στόχο τη λειτουργία του οργανισμού έως το τέλος του έτους. Η πρόταση έρχεται μετά από δημόσιες παρεμβάσεις στελεχών της τεχνολογίας και οικονομολόγων για τις επιπτώσεις της τεχνητής νοημοσύνης στην ασφάλεια και την οικονομία.
Φωτογραφία John Sears υπό Creative Commons
