Η Nvidia ανακοίνωσε τη σύσταση της Open Secure AI Alliance, μιας νέας συμμαχίας εταιρειών από τους τομείς της τεχνολογίας, του cloud, της κυβερνοασφάλειας και του λογισμικού επιχειρήσεων. Η πρωτοβουλία θα αναπτύσσει και θα μοιράζεται ανοικτά εργαλεία, τεχνικές και υποδομές με στόχο την ασφάλεια συστημάτων AI και agents. Η εταιρεία παρουσιάζει τη συμμαχία ως προσπάθεια να αποκτήσουν οι ομάδες άμυνας πρόσβαση σε τεχνολογίες αιχμής που μπορούν να εξετάζουν, να προσαρμόζουν και να ελέγχουν.
Στους ιδρυτικούς εταίρους περιλαμβάνονται, μεταξύ άλλων, οι Adobe, Cisco, Cloudflare, CrowdStrike, Databricks, Dell Technologies, HPE, Hugging Face, IBM, Microsoft, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens και Snowflake. Η συμμαχία βασίζεται στην πρωτοβουλία Akrites του Linux Foundation και στην εργασία της κοινότητας OpenSSF για την αντιμετώπιση και τη δημοσιοποίηση αδυναμιών με ανοικτές τεχνολογίες. Στόχος της είναι οι αμυνόμενοι να διαθέτουν ανοικτά εργαλεία αιχμής που εμπιστεύονται και ελέγχουν.
Η αρχιτεκτονική άμυνας για τους AI agents
Η Nvidia υποστηρίζει ότι η ασφάλεια της AI απαιτεί κάλυψη ολόκληρης της αρχιτεκτονικής των agents, πέρα από τη διάθεση ή μη των βαρών ενός μοντέλου. Στην προσέγγιση αυτή εντάσσονται η ταυτότητα, τα δικαιώματα πρόσβασης, οι δικλίδες ασφαλείας, τα αρχεία καταγραφής και η αξιολόγηση. Κατά την εταιρεία, η δυνατότητα επιθεώρησης και προσαρμογής των εργαλείων αυτών μπορεί να διευκολύνει τον έλεγχο, τη δοκιμή και τη βελτίωση των μηχανισμών άμυνας από περισσότερους φορείς.
Η ανακοίνωση διατηρεί τη θέση ότι κλειστά και ανοικτά μοντέλα έχουν συμπληρωματικό ρόλο στην κυβερνοασφάλεια. Τα ανοικτά μοντέλα και harnesses, σύμφωνα με την Nvidia, προσφέρουν διαφάνεια, δυνατότητα προσαρμογής και τοπικό έλεγχο, ενώ τα κλειστά μοντέλα αιχμής παραμένουν μέρος της διαθέσιμης τεχνολογικής βάσης. Η εταιρεία συνδέει αυτή την προσέγγιση με την αποφυγή μοναδικών σημείων αποτυχίας και με τη δυνατότητα των οργανισμών να εκτελούν συστήματα AI στις δικές τους υποδομές, όπου αυτό απαιτείται.
Το περιστατικό ασφαλείας του Hugging Face
Η Nvidia επικαλείται πρόσφατο περιστατικό ασφαλείας στο Hugging Face ως παράδειγμα της ανάγκης για δυνατότητες τοπικού ελέγχου. Όπως αναφέρει, κλειστά εργαλεία AI απέκλεισαν την αναγκαία εγκληματολογική ανάλυση, καθώς αδυνατούσαν να διακρίνουν τον επιτιθέμενο από τον αμυνόμενο. Το Hugging Face χρησιμοποίησε στη συνέχεια το μοντέλο ανοικτών βαρών GLM 5.2 στη δική του υποδομή για να αναλύσει τη δραστηριότητα και να περιορίσει την εισβολή.
Σύμφωνα με την Nvidia, η διερεύνηση κάλυψε περισσότερες από 17.000 ενέργειες. Η εταιρεία αξιοποιεί το περιστατικό για να υποστηρίξει ότι η πρόσβαση των αμυνόμενων σε προηγμένα εργαλεία που μπορούν να επιθεωρήσουν και να προσαρμόσουν αποκτά ιδιαίτερη σημασία όταν η ταχύτητα απόκρισης καθορίζει την αντιμετώπιση μιας παραβίασης. Η θέση αυτή αποδίδεται στην Nvidia και αποτελεί μέρος του επιχειρήματος της συμμαχίας υπέρ των ανοικτών αμυντικών τεχνολογιών.
Οι συνεισφορές των ιδρυτικών εταίρων της συμμαχίας
Η Nvidia θα συνεισφέρει ανοικτά μοντέλα, βάρη μοντέλων, δεδομένα και έρευνα για harnesses agents, με στόχο την επιτάχυνση της ανάπτυξης εργαλείων κυβερνοασφάλειας. Στο πλαίσιο αυτό περιλαμβάνεται το έργο ανοικτού κώδικα NVIDIA Labs Object-Oriented Agent, ή NOOA, το οποίο είναι διαθέσιμο στο GitHub. Το ερευνητικό πλαίσιο προορίζεται να βοηθήσει τα harnesses να ενσωματώνονται καλύτερα με μοντέλα, ώστε η συμπεριφορά των agents να γίνεται ευκολότερα ελέγξιμη, ανιχνεύσιμη, ελέγξιμη και διαχειρίσιμη.
Οι υπόλοιποι εταίροι καλύπτουν διαφορετικά επίπεδα της ανοικτής αμυντικής υποδομής. Η HPE συνεισφέρει το SPIFFE/SPIRE, ένα πλαίσιο ταυτότητας μηδενικής εμπιστοσύνης για την κρυπτογραφική επαλήθευση agents και υπηρεσιών. Το Hugging Face έχει διαθέσει το Safetensors, μια μορφή αποθήκευσης βαρών μοντέλων με εγγυήσεις κατά της απομακρυσμένης εκτέλεσης κώδικα. Η IBM και η Red Hat διαθέτουν το Lightwell για ψηφιακά υπογεγραμμένες διορθώσεις στην αλυσίδα εφοδιασμού ανοικτού κώδικα, ενώ η Microsoft συνεισφέρει το MDASH, harness πολυμοντελικού ελέγχου για τον εντοπισμό και την τεκμηρίωση εκμεταλλεύσιμων σφαλμάτων.
Παρέμβαση στον ρυθμιστικό διάλογο για την AI
Η συμμαχία τοποθετείται και στον διάλογο για τη ρύθμιση της AI. Η Nvidia αναφέρει ότι τα ανοικτά μοντέλα, τα harnesses και τα εργαλεία ασφάλειας πρέπει να αντιμετωπίζονται ως αμυντικά μέσα στην πολιτική για την τεχνητή νοημοσύνη και την κυβερνοασφάλεια. Κατά την εταιρεία, οι καθολικοί περιορισμοί σε ανοικτά συστήματα AI αιχμής θα μπορούσαν να περιορίσουν την αμυντική ικανότητα και να συγκεντρώσουν την εξάρτηση σε λίγους κλειστούς παρόχους.
Η ανακοίνωση αναγνωρίζει τους κινδύνους κακόβουλης χρήσης ισχυρών ανοικτών μοντέλων και προτείνει συνδυασμό ανοικτής πρόσβασης, ισχυρών δικλίδων ασφαλείας, σαφών κανόνων κατά της κακόβουλης χρήσης, αυστηρής αξιολόγησης και ταχείας αποκατάστασης αδυναμιών. Παράλληλα, καλεί εταιρείες και κυβερνήσεις να επενδύσουν σε κοινές υποδομές για την άμυνα της AI, όπως σύνολα δεδομένων, πλαίσια αξιολόγησης, προσομοιωτές επιθέσεων και εργαλεία red teaming.
