Ισχυρότερη ανθρώπινη εποπτεία των πρακτόρων τεχνητής νοημοσύνης (AI agents) ζητά από τις τράπεζες και άλλες χρηματοπιστωτικές επιχειρήσεις το Συμβούλιο Χρηματοπιστωτικής Σταθερότητας (FSB), στις τελικές οδηγίες του για τη διαχείριση των κινδύνων της τεχνολογίας. Ο διεθνής φορέας καθορισμού προτύπων συνιστά σαφή κριτήρια, ανάλογα με τον κίνδυνο, που θα καθορίζουν πότε ένας πράκτορας πρέπει να ζητά ανθρώπινη έγκριση.
Οι συστάσεις δίνουν ιδιαίτερο βάρος στις χρήσεις υψηλότερου κινδύνου, για τις οποίες το FSB θεωρεί κρίσιμη την εντατικότερη εποπτεία. Το FSB ενίσχυσε τις συστάσεις για τους AI agents, επικαλούμενο τα σχόλια για το αρχικό σχέδιο, το αυξανόμενο ενδιαφέρον των χρηματοπιστωτικών ιδρυμάτων για την υιοθέτηση της τεχνολογίας, καθώς και τους ιδιαίτερους κινδύνους και τους απαιτούμενους ελέγχους.
Πότε χρειάζεται ανθρώπινη έγκριση
Οι AI agents μπορούν να σχεδιάζουν και να εκτελούν εργασίες με περιορισμένη ανθρώπινη επίβλεψη. Αυτή η δυνατότητα δημιουργεί ιδιαίτερες προκλήσεις για τον έλεγχό τους, τις οποίες το FSB είχε επισημάνει ήδη στο σχέδιο οδηγιών που δημοσίευσε τον Ιούνιο, ενθαρρύνοντας έντονα τα διοικητικά συμβούλια να το συμβουλεύονται.
Στην τελική εκδοχή, η ένταση της ανθρώπινης εποπτείας συνδέεται με τη σημαντικότητα και τον κίνδυνο κάθε χρήσης, καθώς και με τον βαθμό αυτονομίας, την πολυπλοκότητα και τη δυνατότητα εξήγησης της λειτουργίας της AI. Τα ιδρύματα καλούνται να ορίζουν συγκεκριμένες συνθήκες που ενεργοποιούν την απαίτηση ανθρώπινης έγκρισης, με βάση τους κινδύνους της εφαρμογής.
Το FSB απέσυρε επίσης τη σύσταση να αντιμετωπίζονται τα συστήματα AI ως «συνθετικοί εργαζόμενοι». Στη θέση της τονίζει ότι οι πράκτορες τεχνητής νοημοσύνης ακολουθούν διαφορετικό τρόπο συλλογισμού από τους ανθρώπους και ενδέχεται να ερμηνεύσουν προκαθορισμένους στόχους με απρόσμενο τρόπο. Η επισήμανση αυτή αφορά τον τρόπο με τον οποίο τα ιδρύματα σχεδιάζουν την εποπτεία συστημάτων που διαθέτουν δυνατότητα αυτόνομης δράσης.
Ευθύνη από το διοικητικό συμβούλιο έως την εφαρμογή
Η ανθρώπινη εποπτεία εντάσσεται σε ένα πλαίσιο 12 πρακτικών για την υπεύθυνη υιοθέτηση της AI. Η αφετηρία βρίσκεται στο διοικητικό συμβούλιο και την ανώτατη διοίκηση, που καλούνται να ευθυγραμμίζουν τη χρήση και τη διακυβέρνηση της τεχνολογίας με το επιχειρηματικό μοντέλο, τηστρατηγική και το επίπεδο κινδύνου που αποδέχεται το ίδρυμα.
Η κατανομή σαφών ρόλων και ευθυνών συνοδεύεται από κατάλληλο πλαίσιο διακυβέρνησης και ενσωμάτωση των κινδύνων της AI στη διαχείριση κινδύνων του οργανισμού. Οι πρακτικές περιλαμβάνουν διαδικασίες τεκμηρίωσης της χρήσης της τεχνολογίας, καθώς και αξιολόγησης της σημαντικότητας και του κινδύνου κάθε εφαρμογής από το αρχικό στάδιο και στη συνέχεια της λειτουργίας της.
Η επιλογή μοντέλων και συστημάτων προτείνεται να λαμβάνει υπόψη τους επιχειρηματικούς στόχους, τις λειτουργικές και τεχνικές ανάγκες και τους κινδύνους κάθε χρήσης. Καθώς η AI εξελίσσεται, τα ιδρύματα καλούνται να προσαρμόζουν τις δυνατότητές τους, την εποπτεία, τη διακυβέρνηση και τις πρακτικές διαχείρισης κινδύνων, αξιοποιώντας όσα μαθαίνουν από τη χρήση της.
Δεδομένα, δοκιμές και εξωτερικοί πάροχοι
Στο τεχνικό σκέλος, το FSB δίνει βάρος στην καταλληλότητα των δεδομένων για την εκπαίδευση, τις δοκιμές και τη χρήση της AI. Η διακυβέρνησή τους πρέπει να εξασφαλίζει ακρίβεια, πληρότητα, συνέπεια, αξιοπιστία και ασφάλεια, ενώ η αξιολόγηση της απόδοσης των εφαρμογών προτείνεται να περιλαμβάνει δοκιμές και συνεχή παρακολούθηση, ανάλογα με τη σημαντικότητα και τον κίνδυνό τους.
Τα ιδρύματα καλούνται ακόμη να κατανοούν τις διαφορές μεταξύ των συστημάτων ως προς τη δυνατότητα εξήγησης της λειτουργίας τους. Όπου κρίνεται κατάλληλο και εφικτό, προτείνεται η επιλογή πιο εξηγήσιμων συστημάτων ή η εξέταση αντισταθμιστικών ελέγχων, μαζί με διαφάνεια προσαρμοσμένη στις διαφορετικές ομάδες ενδιαφερομένων.
Οι ρυθμιστικές αρχές εντείνουν τις προσπάθειές τους για τον περιορισμό των κινδύνων της AI, μεταξύ αυτών και των κυβερνοεπιθέσεων που αξιοποιούν την τεχνολογία, όπως μετέδωσε το Reuters. Για την κυβερνοασφάλεια και τις τεχνολογικές υποδομές, οι πρακτικές του FSB προβλέπουν, όπου ενδείκνυται, ενσωμάτωση σεναρίων κινδύνου σχετικών με την AI σε δοκιμές και ασκήσεις. Περιλαμβάνουν επίσης ανταλλαγή σχετικών πληροφοριών και αξιοποίηση εργαλείων AI στη διαχείριση κυβερνοκινδύνων και κινδύνων πληροφορικής και επικοινωνιών.
Ξεχωριστή σύσταση αφορά τις εξαρτήσεις από τρίτους παρόχους AI. Η διαχείρισή τους εστιάζει στην απόδοση, τη διαφάνεια και την ποιότητα δεδομένων, στους κινδύνους της αλυσίδας εφοδιασμού και στους κινδύνους συγκέντρωσης σε τρίτους παρόχους AI, καθώς και στη διασφάλιση της επιχειρησιακής συνέχειας.
