Πλαίσια για την έμπιστη ψηφιακή ταυτότητα και τη λογοδοσία των AI agents θα αναπτύξει νέα πρωτοβουλία της ITU, καθώς τα συστήματα τεχνητής νοημοσύνης μετακινούνται από βοηθητικά εργαλεία σε αυτόνομους ψηφιακούς παράγοντες που μπορούν να ενεργούν για λογαριασμό ανθρώπων. Η Διεθνής Ένωση Τηλεπικοινωνιών, υπηρεσία των Ηνωμένων Εθνών για τις ψηφιακές τεχνολογίες, ανακοίνωσε την πρωτοβουλία στη Γενεύη, στις 9 Ιουλίου 2026, στο πλαίσιο του AI for Good Global Summit.
Η νέα ομάδα, με την ονομασία Focus Group on Trust and Identity for Humans and Agentic AI, θα εξετάσει πώς οι άνθρωποι και οι αυτόνομοι AI agents μπορούν να αλληλεπιδρούν με ασφάλεια σε ψηφιακά συστήματα. Στο επίκεντρο βρίσκονται κίνδυνοι όπως η πλαστοπροσωπία ανθρώπων ή οργανισμών από αυτόνομους agents και η ανάληψη μη εξουσιοδοτημένων ενεργειών σε διασυνδεδεμένα συστήματα. Η ITU συνδέει το έργο της ομάδας με την ανάγκη διατήρησης ουσιαστικού ανθρώπινου ελέγχου σε λειτουργίες όπως οι χρηματοοικονομικές συναλλαγές και οι κρίσιμες υποδομές.
Ταυτότητα, εμπιστοσύνη και ανθρώπινος έλεγχος
Καθώς τα συστήματα AI σχεδιάζουν και ενεργούν με αυξανόμενη αυτονομία, η δυνατότητα επιβεβαίωσης της ταυτότητας ενός agent και αξιολόγησης της συμπεριφοράς του αποκτά κεντρική σημασία. Τα συστήματα ταυτότητας καθορίζουν ποιος ενεργεί, ενώ η αξιοπιστία της συμπεριφοράς απαντά στο αν ο συγκεκριμένος ψηφιακός παράγοντας μπορεί να θεωρηθεί αξιόπιστος. Για την ITU, ο συνδυασμός αυτών των δύο στοιχείων αποτελεί τη βάση για ασφαλή αλληλεπίδραση ανάμεσα σε ανθρώπους και αυτόνομα συστήματα AI.
Η Γενική Γραμματέας της ITU, Doreen Bogdan-Martin, δήλωσε ότι το μέλλον της AI εξαρτάται από την εμπιστοσύνη, υπογραμμίζοντας την ανάγκη συνεργασίας μεταξύ βιομηχανίας, κυβερνήσεων, ακαδημαϊκής κοινότητας και κοινωνίας των πολιτών. Η ομάδα θα εξετάσει τη διαχείριση εμπιστοσύνης για ανθρώπους και AI agents, τη συνολική αξιοπιστία των agentic AI συστημάτων και τρόπους ενίσχυσης της εμπιστοσύνης στη συμπεριφορά τους, με διατήρηση της εξουσίας πάνω στις ενέργειές τους.
Κοινά πρότυπα για αυτόνομους agents
Η Debora Comparin, Co-Chair της ομάδας, ανέφερε ότι οι AI agents θα μπορούν σύντομα να διαπραγματεύονται, να συναλλάσσονται και να λαμβάνουν αποφάσεις για λογαριασμό ανθρώπων. Σε αυτό το πλαίσιο, η ομάδα καλείται να διαμορφώσει κοινές διεθνείς βάσεις για το ποιοι είναι αυτοί οι agents, πότε μπορούν να θεωρούνται αξιόπιστοι και πώς θα παραμένουν οι άνθρωποι σε θέση ελέγχου. Ο επίσης Co-Chair Amir Banifatemi έκανε λόγο για νέα κατηγορία ψηφιακών παραγόντων που θα συνεργάζονται με ανθρώπους και μεταξύ τους.
Το έργο της ομάδας θα καλύψει κοινή ορολογία και ορισμούς, αρχιτεκτονικές αναφοράς για ταυτότητα, εμπιστοσύνη, ανακάλυψη agents και διαλειτουργικότητα, καθώς και μοντέλα κύκλου ζωής για πλαίσια εμπιστοσύνης και assurance. Θα εξεταστούν επίσης μηχανισμοί διαλειτουργικότητας για ψηφιακή ταυτότητα και διαπιστευτήρια, κριτήρια ασφάλειας και benchmarks για συνεχή αξιολόγηση AI agents, καθώς και οδικός χάρτης προτυποποίησης για τον συντονισμό διαφορετικών τεχνικών κοινοτήτων.
Πρώτη συνεδρίαση στο Παρίσι
Η ομάδα θα αναφέρεται στο ITU-T Study Group 17, την ομάδα εμπειρογνωμόνων της ITU για τα πρότυπα ασφάλειας. Ο Arnaud Taddei, πρόεδρος του Study Group 17, δήλωσε ότι η ITU κινείται στρατηγικά και γρήγορα, αλλά με στόχο να διαμορφώσει σωστά τις βάσεις. Η μεγαλύτερη ηγετική ομάδα της πρωτοβουλίας αναμένεται να οριστικοποιηθεί τις επόμενες εβδομάδες, έπειτα από ευρύτερη διαβούλευση.
Η νέα ομάδα είναι ανοικτή σε τεχνικούς εμπειρογνώμονες, καθώς και σε ειδικούς πολιτικής, δικαίου και ρύθμισης. Η πρώτη συνεδρίαση έχει προγραμματιστεί για το Παρίσι τον Νοέμβριο του 2026 και η δεύτερη για τη Γενεύη τον Ιανουάριο του 2027. Η ITU σημειώνει ότι τα Focus Groups χρησιμοποιούνται για την επιτάχυνση της ανάπτυξης νέων διεθνών προτύπων, ενώ ενεργές ομάδες ασχολούνται ήδη με AI για έξυπνες πόλεις, embodied AI και multimedia, καθώς και AI-native δίκτυα.
