Σε κοινό ορισμό των θανατηφόρων αυτόνομων οπλικών συστημάτων κατέληξαν 128 χώρες, προωθώντας την προσπάθεια του ΟΗΕ να αντιμετωπίσει τους κινδύνους που συνδέονται με όπλα ικανά να επιλέγουν και να πλήττουν στόχους χωρίς ανθρώπινη παρέμβαση. Η εξέλιξη ανοίγει τον δρόμο για συζήτηση πιθανών περιορισμών, σε μια περίοδο αυξανόμενων ανησυχιών για τη χρήση της τεχνητής νοημοσύνης σε αποφάσεις ζωής και θανάτου.
Τη συμφωνία γνωστοποίησε, με ανάρτησή του στο X, ο Tom Berendsen, υπουργός Εξωτερικών της Ολλανδίας, χαρακτηρίζοντάς την «σημαντικό βήμα» για τη ρύθμιση των συγκεκριμένων συστημάτων. Το AFP μετέδωσε ότι ο κοινός ορισμός αποτελεί το πρώτο στάδιο προς μια πιθανή ρύθμιση, ενώ ο ΟΗΕ συνδέει την ανάγκη κανόνων με την τήρηση του διεθνούς ανθρωπιστικού δικαίου και την απαγόρευση στοχοποίησης αμάχων στις ένοπλες συγκρούσεις.
Ο κοινός ορισμός και η πορεία προς κανόνες
Οι κυβερνητικοί εμπειρογνώμονες, έπειτα από σειρά συναντήσεων, περιέγραψαν τα συστήματα ως «ένα ή περισσότερα» όπλα που μπορούν να λειτουργούν μαζί ώστε να «εντοπίζουν, να επιλέγουν και να πλήττουν έναν στόχο με τη χρήση βίας, χωρίς παρέμβαση ανθρώπου». Η διατύπωση επιχειρεί να προσδιορίσει το πεδίο μιας τεχνολογίας στην οποία η επιλογή και η προσβολή του στόχου μπορούν να πραγματοποιούνται αυτόνομα.
Ο ορισμός καλύπτει τόσο ένα μεμονωμένο όπλο όσο και περισσότερα όπλα που δρουν συντονισμένα. Το καθοριστικό γνώρισμα βρίσκεται στην ικανότητά τους να εκτελούν ολόκληρη την ακολουθία από τον εντοπισμό έως τη χρήση βίας χωρίς ανθρώπινη παρέμβαση. Αυτή η κοινή περιγραφή μπορεί να αποτελέσει σημείο αναφοράς για ενδεχόμενες συζητήσεις σχετικά με τη ρύθμιση των συστημάτων.
Στοιχεία του ΟΗΕ συνδέουν τη συμφωνία με τις εργασίες για την επίδραση των αναδυόμενων τεχνολογιών στα θανατηφόρα αυτόνομα οπλικά συστήματα, οι οποίες άρχισαν το 2023. Το αποτέλεσμα των διαβουλεύσεων κατοχυρώνει την έως τώρα επεξεργασία του θέματος, χωρίς να ισοδυναμεί ακόμη με υιοθέτηση διεθνών περιορισμών. Μια ενδεχόμενη επόμενη φάση θα αφορά τη συζήτηση των κανόνων που θα μπορούσαν να διέπουν την ανάπτυξη και τη χρήση των συστημάτων.
Η πίεση για ταχύτερη δράση εντείνεται από τις εξελίξεις σε πολεμικές συγκρούσεις που βρίσκονται σε εξέλιξη. Δημοσιεύματα αναφέρουν ότι η Ρωσία και η Ουκρανία δοκιμάζουν ήδη στόλους αυτόνομων μη επανδρωμένων αεροσκαφών στον πόλεμο μεταξύ των δύο χωρών, φέρνοντας τις τεχνολογικές δυνατότητες και τα όρια του ανθρώπινου ελέγχου στο επίκεντρο της διεθνούς συζήτησης.
Η «ηθική κόκκινη γραμμή»
Στα τέλη Αυγούστου, ο Antonio Guterres, γενικός γραμματέας του ΟΗΕ, και η Mirjana Spoljaric, πρόεδρος της Διεθνούς Επιτροπής του Ερυθρού Σταυρού (ICRC), εξέφρασαν από κοινού την ανησυχία τους για τις αυξανόμενες δυνατότητες της τεχνητής νοημοσύνης, κυρίως όταν χρησιμοποιείται σε συνθήκες που περιλαμβάνουν θανατηφόρα βία.
«Βρισκόμαστε πλέον επικίνδυνα κοντά στο να περάσουμε μια ηθική κόκκινη γραμμή: την αυτόνομη στοχοποίηση ανθρώπων από μηχανές», δήλωσε ο Guterres. Η Spoljaric χαρακτήρισε τα αυτόνομα συστήματα στοχοποίησης «ηθικά αποκρουστικά». Ο ΟΗΕ και η ICRC κάλεσαν τις κυβερνήσεις να κινηθούν γρήγορα για τη συμφωνία παγκόσμιων κανόνων και να διατηρήσουν την ανθρώπινη συμμετοχή στις «αποφάσεις ζωής και θανάτου».
Οι παρεμβάσεις αυτές μεταφέρουν το βάρος πέρα από τον τεχνικό ορισμό των οπλικών συστημάτων. Το κεντρικό ζήτημα αφορά τον βαθμό ανθρώπινου ελέγχου κατά την αναγνώριση, την επιλογή και την προσβολή ενός στόχου.
Ευρύτερη πίεση για τη διακυβέρνηση της τεχνητής νοημοσύνης
Στις 7 Σεπτεμβρίου, ο Volker Turk, ύπατος αρμοστής του ΟΗΕ για τα ανθρώπινα δικαιώματα, ζήτησε ταχύτερη δράση για τη διακυβέρνηση της τεχνητής νοημοσύνης στο σύνολό της. Σε ομιλία του προειδοποίησε ότι η τεχνολογία ενέχει «υπαρξιακό κίνδυνο για την ανθρωπότητα» και εξέφρασε ανησυχία για τη «σχεδόν απεριόριστη εξουσία» που, όπως είπε, διαθέτει μια «χούφτα ανδρών» πάνω στην τεχνολογία.
Ο Turk τάχθηκε υπέρ της ανεξάρτητης επαλήθευσης και μιας «πολύ ισχυρότερης συνεργασίας στον τομέα της ασφάλειας». Έθεσε επίσης ζητήματα για τις πιθανές επιπτώσεις της τεχνητής νοημοσύνης στην απασχόληση, τη δημοκρατία και το περιβάλλον. Η συμφωνία των 128 χωρών περιορίζεται προς το παρόν στον κοινό ορισμό των αυτόνομων όπλων, όμως παρέχει τη βάση πάνω στην οποία θα μπορούσαν να εξεταστούν ενδεχόμενοι παγκόσμιοι κανόνες.
