Κρατική εξουσία για να μπλοκάρεται ή να αποτρέπεται η ανάπτυξη επικίνδυνων AI μοντέλων ζητά ο Dario Amodei, CEO της Anthropic, σε εκτενές δοκίμιο πολιτικής για την ταχεία πρόοδο της τεχνητής νοημοσύνης. Ο επικεφαλής της εταιρείας υποστηρίζει ότι τα πιο προηγμένα μοντέλα πρέπει να περνούν από υποχρεωτικές δοκιμές και ελέγχους πριν από την κυκλοφορία τους, ιδίως όταν εγείρονται κίνδυνοι για την κυβερνοασφάλεια, τα βιολογικά όπλα, την απώλεια ελέγχου AI συστημάτων ή την αυτοματοποιημένη έρευνα και ανάπτυξη.
Η παρέμβαση συνοδεύεται από νομοθετική πρόταση για το frontier AI και από πλαίσιο πολιτικής για τις επιπτώσεις στην εργασία, με την Anthropic να δηλώνει ότι σκοπεύει να στηρίξει οικονομικά τις σχετικές πρωτοβουλίες. Ο Amodei γράφει ότι η πολιτική και η νομοθεσία κινούνται πολύ πιο αργά από την τεχνολογία, ενώ τα AI μοντέλα, κατά τη δική του περιγραφή, έχουν περάσει μέσα σε λίγα χρόνια από περιορισμένες δυνατότητες σε χρήση σε πεδία όπως ο κώδικας, η βιολογία, τα μαθηματικά, τα οικονομικά, η νομική και η μετάφραση.
Πέρα από τη διαφάνεια στην υποχρεωτική ρύθμιση
Στο κείμενό του, με τίτλο «Policy on the AI Exponential», ο Amodei αναφέρει ότι τα μέτρα διαφάνειας, όπως η δημοσιοποίηση διαδικασιών ασφαλείας, η αναφορά κρίσιμων περιστατικών και η συλλογή δεδομένων για τις επιπτώσεις στην εργασία, είχαν μέχρι σήμερα ρόλο στη διατήρηση επιλογών για μελλοντική δράση. Πλέον, κατά τον ίδιο, οι κίνδυνοι έχουν γίνει αρκετά συγκεκριμένοι ώστε να απαιτείται πιο σοβαρή και δεσμευτική ρύθμιση.
Το προτεινόμενο μοντέλο παραπέμπει, όπως γράφει, σε τομείς όπως τα αυτοκίνητα, τα αεροσκάφη ή τα φάρμακα, όπου η κυκλοφορία προϊόντων συνδέεται με τεχνικούς ελέγχους, αξιολογήσεις και εποπτεία. Για το AI, ο Amodei προτείνει τα frontier μοντέλα να αξιολογούνται από εξειδικευμένους τρίτους φορείς, είτε δημόσιους είτε ιδιωτικούς οργανισμούς που θα έχουν εγκριθεί και θα επιθεωρούνται από το κράτος. Εάν ένα μοντέλο θεωρηθεί ότι παρουσιάζει μη αποδεκτούς κινδύνους, η κυβέρνηση θα πρέπει, κατά την πρότασή του, να μπορεί να εμποδίσει ή να αναστρέψει την ανάπτυξή του.
Η πρόταση περιορίζει αυτή την εξουσία σε τέσσερις κατηγορίες κινδύνου: κυβερνοασφάλεια, βιολογικά όπλα, απώλεια ελέγχου AI συστημάτων και αυτοματοποιημένη έρευνα και ανάπτυξη που θα μπορούσε να επιταχύνει τους ίδιους κινδύνους. Ο Amodei σημειώνει επίσης ότι πρέπει να υπάρχουν εγγυήσεις απέναντι σε πολιτική εύνοια ή αυθαίρετες αποφάσεις, ενώ ζητά ισχυρά πρότυπα ασφαλείας για την προστασία των model weights, τακτικό red teaming, penetration testing και άμεση αναφορά κρίσιμων περιστατικών.
Η εργασία στο επίκεντρο της πρότασης
Πέρα από τη δημόσια ασφάλεια, μεγάλο μέρος της παρέμβασης αφορά τις οικονομικές επιπτώσεις της AI. Ο Amodei υποστηρίζει ότι η ισχυρή τεχνητή νοημοσύνη θα μπορούσε να προκαλέσει μεγαλύτερες και πιο διαρκείς αναταράξεις στην αγορά εργασίας σε σχέση με προηγούμενες τεχνολογίες, καθώς ενδέχεται να λειτουργήσει ως ευρύτερο υποκατάστατο ανθρώπινων γνωστικών δεξιοτήτων. Τονίζει, ωστόσο, ότι η διαρκής απώλεια θέσεων εργασίας αποτελεί ανεπιθύμητο και επικίνδυνο ενδεχόμενο, όχι στόχο.
Στο πλαίσιο αυτό, προτείνει καλύτερη μέτρηση των επιπτώσεων της AI στην απασχόληση, ασφάλιση μισθού για εργαζομένους που μετακινούνται σε χαμηλότερα αμειβόμενες θέσεις, φορολογικά κίνητρα διατήρησης προσωπικού, επιχορηγήσεις κατάρτισης και υποδομές που θα διευκολύνουν την αντιστοίχιση εργοδοτών και εργαζομένων. Εάν η υποχώρηση της ζήτησης εργασίας αποδειχθεί μεγάλη και μόνιμη, αναφέρει ως πιθανές επιλογές μακροπρόθεσμης στήριξης το καθολικό βασικό εισόδημα ή τους καθολικούς λογαριασμούς κεφαλαίου, με χρηματοδότηση από φόρους σε σχετικές εταιρείες ή από αύξηση της φορολογίας κεφαλαιακών κερδών.
Ο Amodei συνδέει και την κοινωνική αντίδραση στα data centers με ευρύτερες οικονομικές ανησυχίες γύρω από την AI. Κατά τη δική του εκτίμηση, η αντίθεση στην ανάπτυξη data centers λειτουργεί σε μεγάλο βαθμό ως σύμβολο ή διέξοδος για αυτές τις ανησυχίες, ενώ σημειώνει ότι οι εταιρείες AI θα πρέπει να απορροφούν αυξήσεις στο ενεργειακό κόστος που προκαλούνται από τη δραστηριότητά τους.
Επιστήμη, δικαιώματα και γεωπολιτική διάσταση
Στο πεδίο της επιστημονικής καινοτομίας, ο CEO της Anthropic υποστηρίζει ότι οι ρυθμιστικές αρχές, όπως η FDA και ο Ευρωπαϊκός Οργανισμός Φαρμάκων (EMA), πρέπει να προετοιμαστούν για ταχύτερη ανάπτυξη νέων φαρμάκων και θεραπευτικών προσεγγίσεων με τη βοήθεια της AI. Η θέση του είναι ότι οι αρχές θα χρειαστούν πρότυπα για τη χρήση AI σε προσομοιώσεις, τοξικολογικές προβλέψεις, επιλογή δόσεων, βιοδείκτες, synthetic control arms και surrogate endpoints, ώστε να αποφευχθεί η υπερφόρτωση συστημάτων που σχεδιάστηκαν για πιο αργούς κύκλους καινοτομίας.
Το δοκίμιο επεκτείνεται επίσης σε ζητήματα πολιτικών ελευθεριών και κρατικής ισχύος. Ο Amodei προτείνει κανόνες λογοδοσίας για πλήρως αυτόνομα όπλα, απαγόρευση της εσωτερικής χρήσης τους, κλείσιμο κενών που επιτρέπουν μαζική αγορά και ανάλυση δεδομένων από data brokers, καθώς και πρόσβαση των πολιτών σε AI συμβουλή όταν αντιμετωπίζουν δυσμενή κρατική ενέργεια. Η βασική του θέση είναι ότι η AI μπορεί να ενισχύσει τόσο την κρατική ικανότητα όσο και τον κίνδυνο κατάχρησης εξουσίας.
Στη γεωπολιτική διάσταση, ο Amodei ζητά ηγεσία και συντονισμό από δημοκρατικές χώρες, με συνεργασία γύρω από την εφοδιαστική αλυσίδα AI, τους ελέγχους σε chips και semiconductor manufacturing equipment, τη διαχείριση κινδύνων, τη διάχυση των οικονομικών οφελών και την απόρριψη AI που θα μπορούσε να στηρίξει καταπιεστικά καθεστώτα. Παρουσιάζει την AI ως τεχνολογία στρατηγικής σημασίας και υποστηρίζει ότι οι δημοκρατίες πρέπει να κινηθούν συντονισμένα, διατηρώντας παράλληλα την εθνική κυριαρχία κάθε κράτους.
Η παρέμβαση αναμένεται να ενισχύσει τη συζήτηση γύρω από τον ρόλο των εταιρειών AI στη διαμόρφωση κανόνων για τον ίδιο τους τον κλάδο. Το αρχικό ρεπορτάζ σημειώνει ότι οι θέσεις της Anthropic ενδέχεται να προκαλέσουν νέες κατηγορίες πως η εταιρεία προτείνει αυστηρούς κανόνες που θα μπορούσαν να ενισχύσουν τη δική της θέση στην αγορά ή ότι χρησιμοποιεί σενάρια κινδύνου ως εργαλείο προβολής. Ο Amodei, από την πλευρά του, υποστηρίζει ότι η δημόσια ανησυχία για την AI είναι θεμιτή αντίδραση σε πραγματικούς κινδύνους και ότι η πρόκληση είναι να μετατραπεί σε συγκεκριμένες πολιτικές λύσεις.
