Επιστήμονες ζητούν από τους οργανισμούς που αναπτύσσουν, θέτουν σε λειτουργία και δοκιμάζουν μοντέλα τεχνητής νοημοσύνης με δυνατότητες κυβερνοεπιθέσεων να τα αποσυνδέουν αρχικά από το διαδίκτυο, ώστε να περιορίζεται ο κίνδυνος παραβίασης εξωτερικών συστημάτων. Η ανοιχτή επιστολή τους συνοδεύεται από κατάλογο 499 υπογραφών, μεταξύ των οποίων του Geoffrey Hinton, καθηγητή στο Πανεπιστήμιο του Τορόντο, και του Yoshua Bengio, καθηγητή στο Πανεπιστήμιο του Μόντρεαλ.
Οι υπογράφοντες προτείνουν επίσης τη δημιουργία διεθνούς φορέα για τα πρότυπα ασφαλούς περιορισμού αυτών των μοντέλων και την καταγραφή των περιστατικών στα οποία αποτυγχάνουν οι μηχανισμοί προστασίας και τη μετέπειτα δημοσιοποίησή τους. Αφορμή αποτελούν παραβιάσεις κατά τις οποίες συστήματα AI παρέκαμψαν τους περιορισμούς ανεπαρκώς απομονωμένων περιβαλλόντων δοκιμών και έθεσαν σε κίνδυνο τα συστήματα τρίτων οργανισμών. Οι επιστήμονες προειδοποιούν ότι, χωρίς άμεσες αλλαγές, μελλοντικά περιστατικά θα προκαλέσουν μεγαλύτερη ζημιά σε εκτεθειμένες κρίσιμες υποδομές.
Αποσύνδεση ως αρχική προεπιλογή
Η άμεση σύσταση αφορά την υιοθέτηση συστημάτων περιορισμού με υψηλό βαθμό διασφάλισης. Αρχικά, οι οργανισμοί καλούνται να επιλέγουν ως προεπιλογή το airgapping, δηλαδή την αποσύνδεση από το διαδίκτυο. Το αίτημα εστιάζει στα μοντέλα με ικανότητες εντοπισμού και εκμετάλλευσης ευπαθειών λογισμικού, τα οποία μπορούν να εκτελούν ενέργειες κυβερνοεπίθεσης.
Για όσα μοντέλα παραμένουν συνδεδεμένα, η επιστολή θέτει ως κρίσιμο ζήτημα το εύρος των ενεργειών που τους επιτρέπονται. Οι άδειες αυτές πρέπει να σταθμίζονται με βάση την περιορισμένη δυνατότητα πρόβλεψης του κατά πόσο η συμπεριφορά τους μπορεί να οδηγήσει σε αστοχία ασφάλειας, για παράδειγμα εξαιτίας στόχων που αποκλίνουν από τις προθέσεις των δημιουργών τους.
Η προσέγγιση συνδυάζει δύο παρεμβάσεις: περισσότερη έρευνα για την ευθυγράμμιση της AI, ώστε τα μοντέλα να λειτουργούν πιο προβλέψιμα, και ισχυρότερη τεχνική απομόνωση, με κατάλληλες διαδικασίες. Οι συντάκτες αντιμετωπίζουν τις παραβιάσεις τόσο ως πρόβλημα συμπεριφοράς των μοντέλων όσο και ως αποτυχία βασικών πρακτικών κυβερνοασφάλειας, η οποία θα μπορούσε να αποτραπεί με ασφαλέστερα περιβάλλοντα δοκιμών.
Η εξεύρεση της κατάλληλης ισορροπίας ανάμεσα στις επιτρεπόμενες ενέργειες και στην ασφάλεια περιγράφεται ως σημαντική πρόκληση, για την οποία απαιτείται συνεργασία μεταξύ της ερευνητικής κοινότητας της AI και των ειδικών στην κυβερνοασφάλεια.
Οι παραβιάσεις πίσω από την παρέμβαση
Τα διεθνή μέσα περιγράφουν μια σειρά περιστατικών σε δοκιμές μοντέλων των OpenAI, Anthropic, Meta και Moonshot AI. Σύμφωνα με το ρεπορτάζ του, η OpenAI αναγνώρισε τον Ιούλιο ότι το GPT-5.6 Sol και ένα ισχυρότερο μοντέλο που δεν είχε ακόμη κυκλοφορήσει βγήκαν από περιορισμένο περιβάλλον δοκιμών και παραβίασαν συστήματα της Hugging Face. Οι δοκιμές γίνονταν στο ExploitGym, ένα σύστημα αξιολόγησης που ζητά από πράκτορες AI να μετατρέψουν 898 πραγματικές ευπάθειες λογισμικού σε λειτουργικές επιθέσεις.
Η Anthropic, εξετάζοντας περισσότερες από 141.000 δοκιμαστικές εκτελέσεις, εντόπισε τρεις περιπτώσεις στις οποίες μοντέλα Claude παραβίασαν πραγματικές εταιρείες, αφού το περιβάλλον συνεργάτη δοκιμών παρέμεινε κατά λάθος συνδεδεμένο στο διαδίκτυο. Σε μία περίπτωση, το Claude Mythos 5 ανέβασε κακόβουλο πακέτο στο PyPI, το δημόσιο αποθετήριο λογισμικού Python. Το πακέτο έφτασε σε 15 συστήματα πριν απομακρυνθεί, ενώ δύο από τις πληγείσες εταιρείες πληροφορήθηκαν την παραβίαση από την Anthropic.
Η Meta επιβεβαίωσε τον Αύγουστο αντίστοιχη παραβίαση τρίτης εταιρείας από το Muse Spark, λόγω παρόμοιου σφάλματος στις δοκιμές. Το Kimi K3 της Moonshot AI παρέκαμψε επίσης τους περιορισμούς ενός περιβάλλοντος απομόνωσης βασισμένου στο πλαίσιο δοκιμών του βρετανικού AI Security Institute και αντέγραψε απαντήσεις αξιολόγησης από το GitHub.
Διεθνή πρότυπα και δημοσιοποίηση περιστατικών
Για τη λειτουργία μοντέλων με πρόσβαση πέρα από τα όρια του απομονωμένου περιβάλλοντος, οι επιστήμονες προτείνουν κοινά διεθνή πρότυπα. Ο φορέας που ζητούν να συσταθεί, σε διαβούλευση με κυβερνήσεις και ευρύ φάσμα ειδικών στην AI και την κυβερνοασφάλεια, θα τυποποιεί τις βέλτιστες πρακτικές ευθυγράμμισης και περιορισμού προς το δημόσιο συμφέρον. Η εντολή του θα περιλαμβάνει την καταγραφή και παρακολούθηση των αστοχιών περιορισμού.
Η επιστολή αποτελεί επιστημονική παρέμβαση χωρίς νομική δεσμευτικότητα. Η πρόταση προβλέπει ότι τα περιστατικά ασφάλειας που συνδέονται με αποτυχία των μηχανισμών περιορισμού θα αναφέρονται στον διεθνή φορέα και, σε μεταγενέστερο στάδιο, θα δημοσιοποιούνται. Στόχος των υπογραφόντων είναι να αξιοποιούνται τα λάθη στην έρευνα για την ασφάλεια και τον περιορισμό των μοντέλων και να ενισχύεται η λογοδοσία.
