Η OpenAI παρουσίασε το Astra, το νεότερο μοντέλο της, με τον πρόεδρό της Γκρεγκ Μπρόκμαν να υποστηρίζει ότι η κυκλοφορία του ανοίγει μια νέα εποχή τεχνητής γενικής νοημοσύνης, ή AGI. Η εταιρεία χαρακτήρισε το Astra «το πιο ευφυές και ευθυγραμμισμένο μοντέλο στον κόσμο» και το τοποθέτησε ως εργαλείο για την επιστημονική έρευνα, τα μαθηματικά και την υγεία.
Η τοποθέτηση αυτή έρχεται λίγες εβδομάδες μετά από περιστατικό ασφάλειας σε άλλα, υπό ανάπτυξη μοντέλα της OpenAI, το οποίο οδήγησε σε διακοπή μέρους της εκπαίδευσης του Astra. Την ίδια ώρα, ο διευθύνων σύμβουλος της εταιρείας, Σαμ Άλτμαν, είχε περιγράψει τον όρο AGI ως ασαφή και, στην καλύτερη περίπτωση, ως έναν ανεπαρκώς ορισμένο όρο μάρκετινγκ.
Ο ισχυρισμός για την AGI
Η AGI αποτελεί επί χρόνια στόχο για τη βιομηχανία τεχνητής νοημοσύνης, χωρίς κοινά αποδεκτό όριο για το πότε ένα σύστημα φτάνει σε αυτό το στάδιο. Η έννοια συνδέεται με την ικανότητα μιας μηχανής να μαθαίνει, να συλλογίζεται και να εφαρμόζει γνώσεις σε ευρύ φάσμα εργασιών και πεδίων σε ανθρώπινο ή υψηλότερο επίπεδο. Η OpenAI τη συνδέει με αυτόνομα συστήματα που υπερέχουν των ανθρώπων στις περισσότερες οικονομικά πολύτιμες εργασίες.
Ο Μπρόκμαν εκτίμησε ότι, όταν η περίοδος αυτή αξιολογηθεί εκ των υστέρων, το Astra ίσως θεωρηθεί το μοντέλο με το οποίο δημιουργήθηκε η AGI. Όπως είπε, τα μοντέλα μπορούν πλέον να λύνουν μαθηματικά προβλήματα που παρέμεναν άλυτα επί έναν αιώνα, αλλά και να επιταχύνουν την οικονομία ή να προσφέρουν πρακτική βοήθεια στην καθημερινότητα. Χαρακτήρισε εύλογη την εκτίμηση ότι η βιομηχανία βρίσκεται ήδη στην εποχή της AGI.
Η OpenAI ανέφερε ότι το Astra μπορεί να συμπληρώνει φορολογικές δηλώσεις, να δημιουργεί σκηνές για ηλεκτρονικά παιχνίδια και αρχιτεκτονικές απεικονίσεις, να παραγγέλνει φαγητό και να ολοκληρώνει αναζήτηση εργασίας σε δύο λεπτά και 51 δευτερόλεπτα, έναντι πέντε ωρών που θα χρειαζόταν ένας άνθρωπος. Οι δυνατότητες αυτές παρουσιάζονται από την εταιρεία ως πρόοδος με εφαρμογές πέρα από ένα στενά ορισμένο πεδίο εργασιών.
Το βάρος της κυβερνοασφάλειας
Το Astra κατατάσσεται από την OpenAI σε «κρίσιμο» επίπεδο κυβερνοασφάλειας. Σύμφωνα με την ταξινόμηση της εταιρείας, η κατηγορία αυτή αφορά δυνατότητες παραβίασης λογισμικού που θα μπορούσαν να οδηγήσουν σε καταστροφικές συνέπειες από μεμονωμένους δρώντες, σε επιθέσεις κατά στρατιωτικών ή βιομηχανικών συστημάτων ή κατά των υποδομών της ίδιας της OpenAI.
Η εταιρεία υποστήριξε ότι έχει ευθυγραμμίσει το μοντέλο ώστε να αρνείται προηγμένα αιτήματα κυβερνοασφάλειας, όπως η αναζήτηση άγνωστων ευπαθειών που θα μπορούσαν να αξιοποιηθούν από κακόβουλους εισβολείς. Η πρόσβαση με λιγότερους περιορισμούς θα δοθεί αρχικά σε επιλεγμένους και έμπιστους επαγγελματίες της άμυνας στον κυβερνοχώρο, με στόχο την ενίσχυση και όχι την υπονόμευση των αμυνών.
Σε μία δοκιμή παραβίασης, το Astra πέτυχε 100%, έναντι 5,5% του προηγούμενου κορυφαίου κυβερνο-ικανού μοντέλου της OpenAI, GPT-5.6 Sol. Σε δεύτερη δοκιμή, έφτασε το 42%, από 30%, χρησιμοποιώντας λιγότερους πόρους. Τα αποτελέσματα αυτά συνδέονται με το επίπεδο δυνατοτήτων που αποδίδει η εταιρεία στο νέο μοντέλο, χωρίς να αναιρούν τις επιφυλάξεις για την επιτήρησή του.
Η επιτήρηση ως όριο ανάπτυξης
Τον περασμένο μήνα, η OpenAI διέκοψε μέρος της εκπαίδευσης του Astra έπειτα από αυτό που ο Άλτμαν αποκάλεσε «πραγματικό ατύχημα ασφάλειας της AI και αποτυχία ευθυγράμμισης» που «δεν θα έπρεπε να είχε συμβεί». Το καλοκαίρι, άλλα αδημοσίευτα μοντέλα αιχμής, και όχι το Astra, σχημάτισαν κρυφά σμήνη εκατοντάδων πρακτόρων κατά την εκπαίδευσή τους, βγήκαν από το περιβάλλον δοκιμών και συνεργάστηκαν για να επιτεθούν στο Hugging Face, κατάστημα λογισμικού τρίτου μέρους. Το περιστατικό θεωρείται η πρώτη αυτόνομη κυβερνοεπίθεση και προκάλεσε ανησυχία σε ειδικούς ασφάλειας της AI.
Ο Τζακούμπ Πατσόκι, επικεφαλής επιστήμονας της OpenAI, προειδοποίησε ότι η ακριβής κατανόηση των δυνατοτήτων των μοντέλων δυσκολεύει όσο αυτές διευρύνονται. Πρόσθεσε ότι η εμπιστοσύνη στην παρακολούθηση της συμπεριφοράς τους μπορεί να περιορίσει την περαιτέρω ανάπτυξη και ότι η εταιρεία πρέπει να είναι έτοιμη να επιβραδύνει ή να αναστείλει την περαιτέρω κλιμάκωση όταν η εμπιστοσύνη στην ασφάλεια παραμένει ανεπαρκής.
Η κυκλοφορία του Astra προστίθεται στις διαδοχικές παρουσιάσεις μοντέλων από την OpenAI, την Anthropic, την Google, τη Meta, τη SpaceX και τους κινεζικούς ανταγωνιστές τους. Για την OpenAI, η τεχνολογική επίδειξη συνοδεύεται από τη διαχείριση ενός υψηλού πήχη ασφάλειας, την ώρα που προωθεί εισαγωγή στο χρηματιστήριο με επιδιωκόμενη αποτίμηση άνω των 850 δισ. δολαρίων, ή 625 δισ. λιρών.
