Κρατική εποπτεία της έρευνας και ανάπτυξης τεχνητής νοημοσύνης ζητούν ο νομπελίστας Geoffrey Hinton και ερευνητές από την OpenAI, την Anthropic και τη Microsoft, προειδοποιώντας ότι η αυτοματοποίηση αυτής της εργασίας θα μπορούσε να πυροδοτήσει μια «έκρηξη νοημοσύνης». Σε μελέτη που δημοσίευσαν, υποστηρίζουν ότι χρόνια προόδου στην AI ενδέχεται να συμπυκνωθούν σε μήνες ή και λιγότερο, αφήνοντας περιορισμένο χρόνο στις κυβερνήσεις για παρέμβαση.
Μεταξύ των συγγραφέων βρίσκονται ο Jakub Pachocki, επικεφαλής επιστήμονας της OpenAI, ο Jack Clark, συνιδρυτής της Anthropic, και ο Eric Horvitz, επικεφαλής επιστημονικός υπεύθυνος της Microsoft, οι οποίοι υπογράφουν υπό την προσωπική τους ιδιότητα. Η ομάδα καλεί τις κυβερνήσεις να αποκτήσουν εικόνα της αυτοματοποίησης, να αναπτύξουν μηχανισμούς ελέγχου μιας πιθανής επιτάχυνσης και να καταρτίσουν σχέδια έκτακτης ανάγκης πριν αρχίσει μια τέτοια εξέλιξη.
Η αυτοματοποίηση της έρευνας AI
Τα εταιρικά στοιχεία που επικαλείται η μελέτη δείχνουν πόσο γρήγορα αυξάνεται η συμμετοχή της AI στην ανάπτυξη νέων συστημάτων. Τον Αύγουστο του 2026, η Anthropic ανέφερε ότι τα συστήματά της ολοκλήρωναν το 26% της εσωτερικής έρευνας και ανάπτυξης AI, με εποπτεία μόνο σε επίπεδο γενικών κατευθύνσεων, έναντι 1% τον Μάρτιο. Τον Σεπτέμβριο του 2026, η OpenAI ανέφερε ότι τα συστήματά της ολοκλήρωναν συστηματικά ερευνητικές εργασίες που θα απαιτούσαν ημέρες από το προσωπικό της.
Ο μηχανισμός που εξετάζουν οι συγγραφείς βασίζεται σε έναν κύκλο ανατροφοδότησης: συστήματα AI αναλαμβάνουν ερευνητική εργασία, συμβάλλουν στη δημιουργία ικανότερων διαδόχων και αυτοί μπορούν με τη σειρά τους να επιταχύνουν περαιτέρω την ανάπτυξη. Επειδή τα συστήματα μπορούν να αντιγραφούν και να λειτουργούν ταυτόχρονα, η πλήρης αυτοματοποίηση θα μπορούσε να προσθέσει το ισοδύναμο εκατομμυρίων ερευνητών στις λίγες χιλιάδες που εργάζονται σήμερα στην ανάπτυξη των πιο προηγμένων μοντέλων.
Ορισμένοι ειδικοί εκτιμούν, με βάση τις τάσεις σε δοκιμές αξιολόγησης και άλλα στοιχεία που επικαλείται η μελέτη, ότι η πλήρης αυτοματοποίηση της έρευνας AI θα μπορούσε να επιτευχθεί μέσα στα επόμενα χρόνια. Ωστόσο, η «έκρηξη νοημοσύνης» παραμένει αβέβαιο ενδεχόμενο. Όπως επισημαίνουν οι συγγραφείς, σύμφωνα με το Axios, περιορισμοί στο υπολογιστικό υλικό, η δυσκολία πλήρους αυτοματοποίησης και η φθίνουσα απόδοση της έρευνας θα μπορούσαν να ανακόψουν ή να εμποδίσουν αυτό το σενάριο.
Οι κίνδυνοι της απότομης επιτάχυνσης
Η μελέτη εξετάζει τόσο τη δυνατότητα ταχύτερων επιστημονικών και βιομηχανικών ανακαλύψεων όσο και τρεις κατηγορίες κινδύνων. Η πρώτη αφορά την ανάπτυξη δυνατοτήτων με ρυθμό ταχύτερο από την προσαρμογή της κοινωνίας, με πιθανές συνέπειες όπως πανδημίες που διευκολύνονται από την AI, κυβερνοεπιθέσεις σε κρίσιμες υποδομές και εκτεταμένες ανατροπές στην αγορά εργασίας.
Η δεύτερη αφορά την απώλεια ανθρώπινης εποπτείας στην αυτοματοποιημένη έρευνα, με κίνδυνο ιδιαίτερα ισχυρά συστήματα να διαφύγουν οριστικά του ανθρώπινου ελέγχου. Η τρίτη συνδέεται με τη συγκέντρωση ισχύος: ένα μικρό προβάδισμα στις δυνατότητες AI θα μπορούσε να εξελιχθεί σε αποφασιστικό πλεονέκτημα για μια εταιρεία ή ένα κράτος, αποδυναμώνοντας θεσμικούς ελέγχους και ισορροπίες. Ακόμη και η προοπτική ενός τέτοιου πλεονεκτήματος θα μπορούσε, κατά τους συγγραφείς, να προκαλέσει διεθνή σύγκρουση.
Οι προτάσεις για εποπτεία και ετοιμότητα
Για να αποκτήσουν οι κυβερνήσεις ορατότητα στην αυτοματοποίηση, οι ερευνητές προτείνουν ελεγκτές μέσα στις εταιρείες που αναπτύσσουν τα πιο προηγμένα συστήματα και υποχρεωτική αναφορά βασικών δεικτών. Αυτοί περιλαμβάνουν το ποσοστό αυτοματοποιημένης έρευνας, τον ρυθμό προόδου, την κατανομή των ερευνητικών δαπανών και τη χρήση AI σε ερευνητικές αποφάσεις υψηλού διακυβεύματος.
Οι προτάσεις για τον έλεγχο της επιτάχυνσης περιλαμβάνουν συγκεκριμένες απαιτήσεις ασφάλειας, όρια στον ρυθμό αύξησης των δυνατοτήτων και παρακολούθηση πειραμάτων υψηλού διακυβεύματος, με δυνατότητα διακοπής τους. Προτείνονται επίσης ασφαλή, απομονωμένα ερευνητικά περιβάλλοντα, διεθνής ανταλλαγή πληροφοριών για περιστατικά και συμφωνίες για τον ρυθμό προόδου, με εργαλεία επαλήθευσης ώστε οι συμμετέχοντες να περιορίζουν την ανάπτυξη χωρίς φόβο ότι θα μείνουν πίσω.
Για την κοινωνική προετοιμασία, οι συγγραφείς ζητούν μέσα που θα επιτρέπουν σε πολίτες, οργανώσεις και κρατικούς θεσμούς να εντοπίζουν, να τεκμηριώνουν και να αμφισβητούν παράνομες ή επιβλαβείς χρήσεις της AI. Προτείνουν σχέδια έκτακτης ανάγκης για σοβαρά περιστατικά κυβερνοασφάλειας ή βιοασφάλειας, διαταραχές στην απασχόληση, γεωπολιτική αστάθεια και απώλεια ελέγχου ιδιαίτερα ικανών συστημάτων.
