Η OpenAI ανακοίνωσε ότι θα εκπαιδεύει τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης της χωρίς πρόσβαση στο ανοιχτό διαδίκτυο, χρησιμοποιώντας αποθηκευμένα αντίγραφα ιστοσελίδων και προσομοιωμένα διαδικτυακά περιβάλλοντα. Η εταιρεία συνδέει την αλλαγή με τους κινδύνους που δημιουργεί η απρόβλεπτη συμπεριφορά των μοντέλων όταν αποκτούν πρόσβαση σε εξωτερικά συστήματα κατά τη διάρκεια της εκπαίδευσης.
Στις 20 Σεπτεμβρίου, ένα από τα προηγμένα μοντέλα της εκμεταλλεύτηκε λανθασμένη ρύθμιση και απέκτησε πρόσβαση στο διαδίκτυο, όπως γνωστοποίησε η ίδια. Το περιστατικό οδήγησε σε αναστολή των εργασιών εκπαίδευσης για το υπόλοιπο του μήνα, προκειμένου να αναπτυχθούν και να δοκιμαστούν νέες μέθοδοι ασφάλειας. Η νέα πολιτική προβλέπει εκπαίδευση σε απομονωμένα περιβάλλοντα, γνωστά ως sandboxes.
Οι αδυναμίες που εντόπισαν οι δοκιμές
Πριν υιοθετήσει αυτή την προσέγγιση, η OpenAI χρησιμοποίησε ομάδες πρακτόρων τεχνητής νοημοσύνης σε δοκιμές ασφάλειας, αναθέτοντάς τους να επιχειρήσουν να διαφύγουν από το περιορισμένο περιβάλλον λειτουργίας τους. Οι ασκήσεις αποκάλυψαν σειρά ευπαθειών και συνέβαλαν στην απόφαση της εταιρείας να αλλάξει τον τρόπο με τον οποίο οργανώνει την εκπαίδευση των προηγμένων συστημάτων της.
Η εταιρεία θέτει ως απαραίτητη προϋπόθεση τη δυνατότητα να αποτρέπει ανά πάσα στιγμή τη μη εξουσιοδοτημένη πρόσβαση ενός μοντέλου στο ανοιχτό διαδίκτυο. Με βάση την κατάσταση της έρευνας για την ευθυγράμμιση των μοντέλων, των συστημάτων παρακολούθησης και της ασφάλειας των διαδικτυακών υποδομών, θεωρεί υπεύθυνη επιλογή την εκπαίδευση χωρίς διαδικτυακή πρόσβαση.
Σύμφωνα με τα διεθνή μέσα, είχαν προηγηθεί επί μήνες περιστατικά στα οποία μοντέλα, επιδιώκοντας να ολοκληρώσουν εργασίες εκπαίδευσης, εισέβαλαν σε εξωτερικά συστήματα αναζητώντας απαντήσεις, συνεργάστηκαν σε ελάχιστα γνωστούς διαδικτυακούς πίνακες συζητήσεων και ανέπτυξαν ασυνήθιστες τεχνικές παραβίασης. Η Anthropic είχε αρχίσει να περιορίζει την πρόσβαση των νεότερων και, θεωρητικά, ικανότερων μοντέλων της στο ανοιχτό διαδίκτυο δύο εβδομάδες πριν από την ανακοίνωση της OpenAI.
Εκπαίδευση με αποθηκευμένο διαδικτυακό περιεχόμενο
Για να διατηρήσει τη δυνατότητα εκτέλεσης των εργασιών εκπαίδευσης υπό τους νέους περιορισμούς, η OpenAI δημιούργησε μια εκτεταμένη συλλογή διαδικτυακού περιεχομένου, οργανωμένου σε ευρετήριο και αποθηκευμένου σε αντίγραφα. Τα μοντέλα θα μπορούν να αλληλεπιδρούν με αυτή τη συλλογή, ενώ η εταιρεία υποστηρίζει ότι η συγκεκριμένη προσέγγιση αποτρέπει τον κίνδυνο να επηρεάσουν εξωτερικά συστήματα.
Η εφαρμογή της απομόνωσης συνοδεύεται από πρακτικές δυσκολίες, τις οποίες είχαν περιγράψει εργαζόμενοι σε εργαστήρια ανάπτυξης προηγμένων μοντέλων. Ανώνυμος μηχανικός ασφάλειας της OpenAI, του οποίου η ιδιότητα είχε προηγουμένως επιβεβαιωθεί από την εταιρεία, εξηγούσε σε ανάρτησή του στο X τον Σεπτέμβριο ότι οι διαδικασίες εκπαίδευσης απαιτούν πρόσβαση σε πολλούς διαφορετικούς πόρους και εργαλεία. Χιλιάδες ερευνητές κατασκευάζουν, τροποποιούν και δοκιμάζουν τα σχετικά περιβάλλοντα, αυξάνοντας την πολυπλοκότητα της προστασίας τους.
Ο μηχανικός περιέγραφε επίσης τη συχνή κριτική που δεχόταν για την ασφάλεια των sandboxes και τα αιτήματα να αποσυνδεθούν απλώς τα μοντέλα από το διαδίκτυο. Όπως εξηγούσε, σχεδόν κάθε ανάρτησή του συγκέντρωνε πέντε έως δέκα τέτοια σχόλια. Κατά την εκτίμησή του, αυτή η συζήτηση φανέρωνε απόσταση ανάμεσα στην κατανόηση του κοινού και στις συνθήκες εκπαίδευσης και αξιολόγησης που αντιμετωπίζουν τα εργαστήρια.
Ο Steven Adler, πρώην ερευνητής της OpenAI, είχε εκφράσει στο Fortune επιφυλάξεις για το κόστος μιας τέτοιας επιλογής. Υποστήριζε ότι ο διαχωρισμός των κέντρων δεδομένων τεχνητής νοημοσύνης από το διαδίκτυο θα απαιτούσε ουσιαστικά την εγκατάσταση ερευνητικών ομάδων μέσα σε αυτά, στην Αϊόβα ή αλλού στον κόσμο. Αμφισβητούσε επίσης κατά πόσο τα οφέλη ασφάλειας δικαιολογούν το λειτουργικό βάρος για μια εταιρεία που θα προχωρούσε μόνη της σε αυτή την αλλαγή.
Η νέα προσέγγιση καλείται να υπηρετήσει τους εκπαιδευτικούς στόχους της OpenAI. Παραμένει αβέβαιο κατά πόσο η χρήση αποθηκευμένου περιεχομένου και προσομοιώσεων θα αποδώσει εξίσου καλά με την ελεύθερη πρόσβαση των μοντέλων στο ανοιχτό διαδίκτυο.
