Να εξετάσουν έναν συντονισμένο και επαληθεύσιμο τρόπο επιβράδυνσης ή προσωρινής παύσης στην ανάπτυξη προηγμένων συστημάτων AI καλεί τα μεγάλα εργαστήρια τεχνητής νοημοσύνης η Anthropic, προειδοποιώντας ότι η τεχνολογία εξελίσσεται με ρυθμό που θα μπορούσε να ξεπεράσει την ικανότητα της κοινωνίας να ελέγξει τους κινδύνους. Η εταιρεία πίσω από το Claude ανέφερε σε ανάρτησή της ότι θα ήταν χρήσιμο ο κόσμος να έχει την επιλογή να επιβραδύνει ή να σταματήσει προσωρινά την ανάπτυξη της frontier AI με επαληθεύσιμους όρους, εφόσον η πρόοδος συνεχιστεί με τον σημερινό ρυθμό.
Η παρέμβαση της Anthropic έρχεται την ώρα που αυξάνεται η συζήτηση γύρω από το αν τα πιο προηγμένα μοντέλα θα μπορούσαν, με αρκετή υπολογιστική ισχύ, να φτάσουν στο σημείο να σχεδιάζουν και να αναπτύσσουν τους διαδόχους τους. Η διαδικασία αυτή περιγράφεται ως recursive self-improvement και, κατά την εταιρεία, δεν έχει ακόμη επιτευχθεί ούτε θεωρείται αναπόφευκτη. Ωστόσο, η Anthropic υποστηρίζει ότι η πορεία των τεχνικών εξελίξεων καθιστά αναγκαία τη συζήτηση για το πώς θα μπορούσε να υπάρξει αξιόπιστος μηχανισμός επιβράδυνσης ή παύσης, πριν οι σχετικοί κίνδυνοι γίνουν δυσκολότεροι στη διαχείριση.
Η πρόταση για συντονισμένη παύση στην AI
Η Anthropic αναφέρει ότι το εσωτερικό της ερευνητικό ινστιτούτο θα εξετάσει το ζήτημα σε συνεργασία με άλλους φορείς και θα συμβάλει στη δημιουργία συστημάτων που θα μπορούσαν να στηρίξουν μια αξιόπιστη επιβράδυνση ή παύση. Στόχος, όπως σημειώνει, θα ήταν τα προηγμένα AI labs να μπορούν να επαληθεύουν ότι οι διεθνείς ανταγωνιστές τους έχουν πράγματι σταματήσει ή επιβραδύνει την ανάπτυξη, ώστε κανένας παράγοντας να μη χρησιμοποιήσει μια συμφωνημένη παύση για να αποκτήσει πλεονέκτημα στο παρασκήνιο.
Η εταιρεία συνδέει την πρόταση με την ανάγκη να δοθεί χρόνος στις κοινωνικές δομές και στην έρευνα ευθυγράμμισης να ακολουθήσουν την πρόοδο της τεχνολογίας. Στο λεξιλόγιο της αγοράς, η ευθυγράμμιση αφορά την προσπάθεια τα συστήματα AI να παραμένουν συμβατά με ανθρώπινες αξίες, στόχους και προθέσεις. Η Anthropic υποστηρίζει ότι, χωρίς έναν παγκόσμιο μηχανισμό συντονισμού, μια μονομερής επιβράδυνση θα μπορούσε να επιτρέψει στους λιγότερο προσεκτικούς παίκτες να καλύψουν τη διαφορά, αυξάνοντας την πίεση σε εταιρείες και κυβερνήσεις.
Η διαφορετική θέση της OpenAI
Η OpenAI, ανταγωνίστρια της Anthropic, κινήθηκε σε διαφορετική κατεύθυνση σε έκθεση που δημοσιεύθηκε μία ημέρα νωρίτερα. Η εταιρεία υποστήριξε ότι οι δημοκρατικές κυβερνήσεις, και όχι ιδιωτικές εταιρείες που ενεργούν μόνες τους, πρέπει τελικά να καθορίσουν τους κανόνες, τις δικλείδες ασφαλείας και τους μηχανισμούς λογοδοσίας για την AI. Στην ίδια έκθεση, η OpenAI ανέφερε ότι οι αποφάσεις για τον ρυθμό καινοτομίας στην AI δεν πρέπει να αφήνονται σε ένα εργαστήριο, μία εταιρεία ή μία ομάδα ειδικών συμφερόντων.
Η αντιπαράθεση αυτή μεταφέρει το βάρος της συζήτησης από το αν χρειάζεται έλεγχος στην AI στο ποιος πρέπει να τον ασκήσει και με ποιον τρόπο. Η Anthropic δίνει έμφαση σε έναν επαληθεύσιμο μηχανισμό συντονισμού μεταξύ των κορυφαίων εργαστηρίων, ενώ η OpenAI τοποθετεί στο κέντρο τις κυβερνήσεις και τη δημόσια λογοδοσία. Και στις δύο περιπτώσεις, το κοινό σημείο είναι ότι η επιτάχυνση των πιο ισχυρών μοντέλων δημιουργεί νέα ερωτήματα για την ασφάλεια, την εποπτεία και τη διαχείριση των κινδύνων.
Η αυτοβελτίωση και οι κίνδυνοι ελέγχου
Στην ανάρτησή της, η Anthropic αναφέρει ότι τα μοντέλα AI γίνονται ταχύτερα στην αυτόνομη εκτέλεση εργασιών λογισμικού, όπως η συγγραφή κώδικα. Με βάση τις σημερινές τάσεις και εφόσον υπάρχει επαρκής υπολογιστική ισχύς, ένα σύστημα AI θα μπορούσε να φτάσει στο σημείο να σχεδιάσει και να αναπτύξει τον δικό του διάδοχο. Η εταιρεία περιγράφει ένα τέτοιο ενδεχόμενο ως σημαντικό τεχνολογικό ορόσημο, με πιθανές εφαρμογές στην επιστήμη, την υγεία και άλλους τομείς.
Η ίδια, όμως, προειδοποιεί ότι η αυτοβελτιούμενη AI θα μπορούσε επίσης να αυξήσει τους κινδύνους απώλειας ανθρώπινου ελέγχου. Οι συντάκτες της ανάρτησης, ο συνιδρυτής της εταιρείας Jack Clark και η Marina Favaro, επικεφαλής του ερευνητικού ινστιτούτου της Anthropic, υποστηρίζουν ότι η παύση ή επιβράδυνση θα μπορούσε να αξιοποιηθεί ώστε οι θεσμοί και η έρευνα ασφάλειας να προσαρμοστούν. Η πρόταση δεν παρουσιάζεται ως άμεση μονομερής ενέργεια, αλλά ως πιθανό πλαίσιο που θα απαιτούσε διεθνή συνεννόηση και δυνατότητα επαλήθευσης.
Το πλαίσιο κυβερνοασφάλειας και ρύθμισης
Το ζήτημα αποκτά πρόσθετη διάσταση λόγω των ανησυχιών για τη χρήση της AI σε επιθέσεις κυβερνοασφάλειας. Ερευνητές του University of Toronto παρουσίασαν αυτή την εβδομάδα τρόπο με τον οποίο εργαλεία AI θα μπορούσαν να χρησιμοποιηθούν για τη δημιουργία ενός νέου τύπου AI «worm», ικανού να προσαρμόζει τη στρατηγική hacking καθώς εξαπλώνεται από συσκευή σε συσκευή και καταλαμβάνει μεγάλο υπολογιστικό δίκτυο. Ο επικεφαλής ερευνητής Nicolas Papernot σημείωσε ότι οι ανησυχίες ασφαλείας δεν περιορίζονται μόνο στα μεγαλύτερα και ισχυρότερα γλωσσικά μοντέλα.
Ο Papernot ενημέρωσε τις καναδικές αρχές κυβερνοασφάλειας πριν από τη δημοσίευση της σχετικής έκθεσης, η οποία βασίστηκε σε εργαστηριακή ανάπτυξη του worm με τη χρήση open-source εργαλείου AI, εύκολα προσβάσιμου και τροποποιήσιμου από προγραμματιστές. Ο ίδιος συμφώνησε ότι χρειάζεται περισσότερη συνεργασία ανάμεσα σε εταιρείες, κυβερνητικούς φορείς και ακαδημαϊκούς ερευνητές για την ανάπτυξη μέτρων αντιμετώπισης, καθώς τα εργαλεία AI μπορούν να επιταχύνουν την αναζήτηση τρωτών σημείων σε υπολογιστικά συστήματα.
Η πολιτική διάσταση της συζήτησης
Η συζήτηση για πιθανή παύση στην AI έχει προηγούμενο. Το 2023, το Future of Life Institute είχε ζητήσει εξάμηνη παύση στην ανάπτυξη ισχυρών συστημάτων AI, με την υποστήριξη, μεταξύ άλλων, του Elon Musk, ιδιοκτήτη του xAI. Η πρωτοβουλία εκείνη δεν οδήγησε σε ευρεία αναστολή της ανάπτυξης, αλλά αποτέλεσε ένα από τα πρώτα μεγάλα δημόσια αιτήματα για επιβράδυνση της κούρσας γύρω από την τεχνητή νοημοσύνη.
Στις ΗΠΑ, όπου εδρεύουν τα περισσότερα κορυφαία AI labs, η ρύθμιση παραμένει αργή. Εκτελεστικό διάταγμα της κυβέρνησης Trump αυτή την εβδομάδα ζήτησε από τα εργαστήρια να υποβάλλουν εθελοντικά τα πιο ικανά μοντέλα τους σε κυβερνητικές δοκιμές κυβερνοασφάλειας πριν από τη δημόσια κυκλοφορία τους. Η Anthropic έχει τοποθετηθεί διαχρονικά ως AI lab με έμφαση στην ασφάλεια, ενώ νωρίτερα μέσα στο έτος αρνήθηκε να επιτρέψει στον αμερικανικό στρατό να χρησιμοποιήσει τα μοντέλα της για εγχώρια παρακολούθηση και πλήρως αυτόνομα όπλα, προκαλώντας αντίδραση από την κυβέρνηση, η οποία την έθεσε σε εθνική λίστα ασφαλείας που αναμένεται να τεθεί σε ισχύ αργότερα το 2026.
Η παρέμβαση της Anthropic γίνεται επίσης σε μια περίοδο κατά την οποία η εταιρεία και η OpenAI κινούνται προς την αγορά μετοχών, με πιθανές δημόσιες εγγραφές που θα μπορούσαν να αποτιμήσουν την Anthropic κοντά στο 1 τρισ. δολάρια. Η χρονική συγκυρία προσθέτει εμπορική διάσταση στη συζήτηση, χωρίς να μετατοπίζει το βασικό ερώτημα: αν μπορεί να υπάρξει ένας μηχανισμός που θα επιτρέπει σε ανταγωνιστικά AI labs και κυβερνήσεις να συντονίσουν τον ρυθμό ανάπτυξης των ισχυρότερων συστημάτων, προτού η πρόοδος μετατοπίσει ακόμη περισσότερο τον ανθρώπινο ρόλο προς την εποπτεία και την επαλήθευση.
