Περισσότεροι από 1.000 εργαζόμενοι σε κορυφαίες αμερικανικές εταιρείες τεχνητής νοημοσύνης υπέγραψαν κοινή δήλωση με την οποία ζητούν από την κυβέρνηση των ΗΠΑ να στηρίξει διεθνείς μηχανισμούς που θα επιτρέπουν τον ελεγχόμενο ρυθμό ανάπτυξης των πιο προηγμένων αυτοματοποιημένων συστημάτων AI.
Στους υπογράφοντες περιλαμβάνονται, σύμφωνα με τη δήλωση, ανώτερα στελέχη και επιστήμονες από την OpenAI, την Anthropic, τη Meta, την Google DeepMind και τη Thinking Machines. Το αίτημα αφορά τη δημιουργία τεχνικών και θεσμικών εργαλείων ώστε κυβερνήσεις και εταιρείες να μπορούν, εφόσον χρειαστεί, να κερδίσουν χρόνο για ασφάλεια, εποπτεία και διαχείριση αναδυόμενων κινδύνων.
Αίτημα για κοινό μηχανισμό
Η παρέμβαση αποφεύγει να ζητήσει άμεση παύση της ανάπτυξης της AI. Επικεντρώνεται, αντίθετα, στη δημιουργία της δυνατότητας συντονισμένης επιβράδυνσης, με τη συμμετοχή πολλών χωρών και εργαστηρίων που αναπτύσσουν μοντέλα αιχμής. Το κρίσιμο στοιχείο είναι η αποφυγή μιας μονομερούς κίνησης που θα μπορούσε να μεταφέρει απλώς το τεχνολογικό προβάδισμα σε άλλο παίκτη.
Οι υπογράφοντες συνδέουν το αίτημα με την αυξανόμενη χρήση αυτόνομων agents σε προγραμματισμό, πειράματα και ερευνητικές διαδικασίες. Η AI ήδη επιταχύνει την ανάπτυξη AI, καθώς οι μηχανικοί αξιοποιούν μοντέλα για να γράφουν κώδικα, να ελέγχουν αποτελέσματα και να εκτελούν επαναλαμβανόμενες εργασίες που παλαιότερα απαιτούσαν περισσότερο ανθρώπινο χρόνο.
Η διαφορά της αυτοβελτίωσης
Η χρήση AI ως εργαλείου από ερευνητές διαφέρει από ένα σύστημα που βελτιώνει αυτόνομα τις επόμενες εκδόσεις του. Στη σημερινή φάση, οι άνθρωποι εξακολουθούν να καθορίζουν τους στόχους, να ελέγχουν την εργασία των μοντέλων και να λαμβάνουν τις τελικές αποφάσεις. Ωστόσο, η διεύρυνση των δυνατοτήτων των agents έχει επαναφέρει τη συζήτηση για την αναδρομική αυτοβελτίωση.
Η Anthropic έχει περιγράψει ως πιθανό, αλλά όχι αναπόφευκτο, ένα μελλοντικό σενάριο όπου συστήματα AI θα μπορούν να σχεδιάζουν και να αναπτύσσουν τους διαδόχους τους. Η εταιρεία υποστηρίζει ότι μια αξιόπιστη επιβράδυνση θα απαιτούσε επαληθεύσιμη διεθνή συμφωνία, ώστε οι συμμετέχοντες να μπορούν να ελέγχουν αν οι υπόλοιποι τηρούν τους ίδιους περιορισμούς.
Η συζήτηση αποκτά πρόσθετο βάρος καθώς οι εταιρείες ανακοινώνουν συστήματα με ισχυρότερες επιδόσεις σε προγραμματισμό, επιστημονικές εφαρμογές και κυβερνοασφάλεια. Η OpenAI, παρουσιάζοντας πρόσφατα τη σειρά GPT-5.6, ανέφερε ότι τα μοντέλα της διαθέτουν βελτιωμένες δυνατότητες σε σύνθετες εργασίες κυβερνοασφάλειας, συνοδευόμενες από πρόσθετα μέτρα προστασίας και αξιολογήσεις ασφάλειας.
Πίεση για πολιτική απάντηση
Η κοινή δήλωση ζητεί πιο ενεργή αμερικανική συμμετοχή στη διεθνή συνεργασία για τεχνικά και θεσμικά εργαλεία διακυβέρνησης. Το αίτημα έρχεται σε περίοδο κατά την οποία η AI αντιμετωπίζεται όλο και περισσότερο ως ζήτημα εθνικής ασφάλειας, βιομηχανικής πολιτικής και ελέγχου κρίσιμων υποδομών, από τα προηγμένα chips έως τα δεδομένα και τις υπολογιστικές υποδομές.
Η πρακτική εφαρμογή ενός τέτοιου πλαισίου θα απαιτούσε σαφείς όρους: ποια εξέλιξη θα ενεργοποιεί την επιβράδυνση, ποιος θα πιστοποιεί τη συμμόρφωση και πότε θα αίρονται οι περιορισμοί. Η τεχνική επαλήθευση παραμένει βασική εκκρεμότητα, αφού οι εκπαιδεύσεις μοντέλων μπορούν να διεξάγονται με υποδομές και εισροές που δύσκολα παρακολουθούνται διεθνώς.
Για την Anthropic, η συζήτηση χρειάζεται να προχωρήσει πριν από ένα ενδεχόμενο σημείο κρίσης. Η εταιρεία έχει ανακοινώσει ότι θα οργανώσει συζητήσεις με υπεύθυνους χάραξης πολιτικής, ερευνητές, οργανώσεις της κοινωνίας των πολιτών και άλλες εταιρείες AI, με αντικείμενο τη διακυβέρνηση πιθανών συστημάτων αναδρομικής αυτοβελτίωσης.
