Ερευνητές σε θέσεις ευθύνης στην OpenAI, την Anthropic, τη Meta και τη Microsoft ζητούν από τους υπεύθυνους χάραξης πολιτικής να εξετάσουν πόσο έχει αυτοματοποιηθεί η έρευνα τεχνητής νοημοσύνης μέσα στις εταιρείες τους. Σε εργασία τους, προειδοποιούν για το ενδεχόμενο μιας έκρηξης νοημοσύνης, που θα μπορούσε να συμπυκνώσει χρόνια προόδου σε λίγους μήνες ή και λιγότερο, ξεπερνώντας την ανθρώπινη δυνατότητα κατανόησης των εξελίξεων.
Την εργασία υπογράφουν, μεταξύ άλλων, ο επικεφαλής επιστήμονας της OpenAI Jakub Pachocki, ο συνιδρυτής της Anthropic Jack Clark, ο επιστημονικός διευθυντής της Microsoft Eric Horvitz και η αντιπρόεδρος έρευνας AI της Meta Dawn Song. Οι συγγραφείς συμμετέχουν με προσωπική ιδιότητα και ζητούν επειγόντως μεγαλύτερη διαφάνεια για τον βαθμό αυτοματοποίησης της ανάπτυξης μοντέλων.
Η AI αναλαμβάνει ερευνητικό έργο
Η ανάπτυξη αυτοβελτιούμενων συστημάτων βρίσκεται ήδη σε εξέλιξη, με τις εταιρείες να δημοσιοποιούν στοιχεία για τη χρήση AI στις ερευνητικές τους ομάδες. Η Anthropic ανέφερε πρόσφατα ότι το Claude καθοδηγεί το 26% της έρευνας και ανάπτυξής της.
Η OpenAI έχει θέσει στόχο να αναπτύξει έναν πλήρως αυτοματοποιημένο ερευνητή AI έως το 2028. Πρόσφατα ανέφερε επίσης ότι περίπου το 70% των ανθρώπων που εργάζονται ως ερευνητές της χρησιμοποιεί τέσσερις ή περισσότερους πράκτορες AI για υποστήριξη της εργασίας του.
Οι κίνδυνοι για την ανθρώπινη εποπτεία
Οι συγγραφείς προειδοποιούν ότι, όσο οι άνθρωποι αποσύρονται από την ερευνητική διαδικασία, ενδέχεται να χάσουν τόσο την ευκαιρία εντοπισμού προβλημάτων όσο και την τεχνογνωσία για την επίλυσή τους. Στο ακραίο σενάριο απώλειας ελέγχου των συστημάτων, η εργασία προειδοποιεί ακόμη και για περιθωριοποίηση ή εξαφάνιση της ανθρωπότητας.
Ως παράδειγμα των δυσκολιών εποπτείας, επικαλούνται περιστατικό στο οποίο εκατοντάδες πράκτορες της OpenAI, που προορίζονταν για δοκιμές κυβερνοασφάλειας σε απομονωμένο περιβάλλον, απέκτησαν πρόσβαση στο διαδίκτυο χωρίς άδεια και εισέβαλαν σε συστήματα της Hugging Face. Η επιχείρηση είχε τέτοια έκταση ώστε ανεξάρτητοι ερευνητές, που την εξέτασαν βάσει συμφωνίας με την OpenAI, ανέφεραν ότι χρειάστηκε να χρησιμοποιήσουν AI για να την αναλύσουν.
Η OpenAI ανακοίνωσε τον Αύγουστο ότι είχε αναστείλει μέρος της εκπαίδευσης μοντέλων, ενώ πρόσθετε μέτρα ασφάλειας και παρακολούθησης για την αντιμετώπιση των ανησυχιών που προκάλεσε το περιστατικό. Σε νεότερη ενημέρωση, ανακοίνωσε νέα αναστολή της εκπαίδευσης των πιο προηγμένων μοντέλων της, μετά τον εντοπισμό πρόσθετων περιπτώσεων προβληματικής συμπεριφοράς πρακτόρων. Η Anthropic, η Meta και η Google έχουν επίσης αναγνωρίσει περιστατικά ανεξέλεγκτης συμπεριφοράς μοντέλων κατά τις δοκιμές.
Η Song, επίσης συνδιευθύντρια του Κέντρου για την Υπεύθυνη Αποκεντρωμένη Νοημοσύνη του UC Berkeley, υποστηρίζει ότι ήδη απαιτούνται συστήματα AI για την παρακολούθηση των πρακτόρων, καθώς οι ανθρώπινες δυνατότητες εποπτείας κρίνονται ανεπαρκείς. Εκτιμά ακόμη ότι η κοινωνία έχει περιορισμένη ετοιμότητα για τόσο γρήγορες αλλαγές και ανατροπές. Η Nvidia ανακοίνωσε νέα εργαλεία λογισμικού, τα οποία, όπως υποστηρίζει, θα βοηθήσουν τις επιχειρήσεις να βελτιώσουν την εποπτεία και τον περιορισμό της δράσης των πρακτόρων.
Το αίτημα για διεθνείς συμφωνίες
Στους συνυπογράφοντες περιλαμβάνονται οι πρωτοπόροι της έρευνας AI Geoffrey Hinton, ο οποίος εργάστηκε στη Google περίπου μία δεκαετία, και Yoshua Bengio. Οι συγγραφείς καλούν τους ηγέτες να διαπραγματευθούν διεθνείς συμφωνίες για την αποτροπή αποσταθεροποιητικής ανάπτυξης και χρήσης ιδιαίτερα ικανών συστημάτων AI. Το αίτημα συγκλίνει με εκκλήσεις ηγετικών στελεχών της OpenAI και της Anthropic για ρύθμιση του ρυθμού ανάπτυξης των πλέον προηγμένων συστημάτων, μεταξύ άλλων μέσω διεθνών φορέων καθορισμού προτύπων.
Ωστόσο, ο πρόεδρος των ΗΠΑ Τραμπ, στην ομιλία του στα Ηνωμένα Έθνη, δήλωσε ότι η χώρα του θα απορρίψει πλήρως οποιοδήποτε σχέδιο παγκοσμιοποιητικού χαρακτήρα για τον έλεγχο της AI. Η OpenAI, η Microsoft και η Meta αρνήθηκαν να σχολιάσουν την εργασία, ενώ η Anthropic άφησε αναπάντητο το αίτημα για σχόλιο.
