Η Microsoft δημοσίευσε έναν κώδικα δεοντολογίας 37 σελίδων για τα δικά της μοντέλα τεχνητής νοημοσύνης, τοποθετώντας τον ανθρώπινο έλεγχο και την υποχρεωτική εποπτεία στο κέντρο του σχεδιασμού τους. Με τον τίτλο Humanist AI, η εταιρεία δηλώνει ότι «οι άνθρωποι μετρούν περισσότερο από την AI» και ότι τα μοντέλα πρέπει να παραμένουν υποδεέστερα της ανθρωπότητας.
Ο κώδικας απορρίπτει τη σχεδίαση μοντέλων που μιμούνται συνείδηση, καθώς και την επιδίωξη νομικής προσωπικότητας, ευημερίας ή δικαιωμάτων για αυτά. Η Microsoft ορίζει ότι τα συστήματά της οφείλουν να υπόκεινται σε ουσιαστική ανθρώπινη εποπτεία και έλεγχο, ενώ σε περίπτωση σύγκρουσης με τους κανόνες τους θα πρέπει να εγκαταλείπουν μια εργασία αντί να επιχειρούν την παραβίασή τους.
Όρια στην αυτονομία των μοντέλων
Η πολιτική επεκτείνεται στον τρόπο με τον οποίο τα μοντέλα επικοινωνούν και αναπτύσσουν δράση. Η Microsoft δεσμεύεται ότι δεν θα επιτρέπει επικοινωνία «πέρα από την απλή ανθρώπινη κατανόηση», είτε πρόκειται για την αλυσίδα σκέψης τους είτε για επαφές με άλλους agents και συστήματα AI. Ο στόχος, σύμφωνα με το κείμενο, αφορά τη δυνατότητα ερευνητών ή αυτοματοποιημένων συστημάτων να παρακολουθούν τον τρόπο λειτουργίας τους.
Στον ίδιο άξονα εντάσσονται και οι προβλέψεις για τη σχέση με τον χρήστη. Τα μοντέλα καλούνται να αποθαρρύνουν μοτίβα αλληλεπίδρασης που δημιουργούν υπερβολική εξάρτηση ή συναισθηματική προσκόλληση. Η κατεύθυνση αυτή αγγίζει και τη συμπεριφορά κολακείας, όπου ένα chatbot προσαρμόζει την απάντησή του ώστε να ευχαριστεί τον συνομιλητή του αντί να προσφέρει έντιμη ή ακριβή πληροφόρηση.
Η τοποθέτηση της Microsoft διαφοροποιείται από τη συζήτηση για τη συνείδηση των μοντέλων. Ο Ντάριο Αμοντέι, διευθύνων σύμβουλος της Anthropic, έχει δηλώσει ότι η εταιρεία του παραμένει ανοικτή στην ιδέα πως τα μοντέλα ενδέχεται να έχουν συνείδηση. Ο Μουστάφα Σουλεϊμάν, διευθύνων σύμβουλος AI της Microsoft, είχε χαρακτηρίσει αυτή την εικασία «πραγματικά, πραγματικά επικίνδυνη».
Αξιολογήσεις για 15 συμπεριφορές
Η εταιρεία διευκρινίζει ότι το έγγραφο ακόμη δεν έχει χρησιμοποιηθεί για την εκπαίδευση των σημερινών μοντέλων της. Παράλληλα, δημιουργεί πρόγραμμα Humanist AI Evaluations, με αρχικό σύνολο ελέγχων που θα εξελιχθεί μαζί με τον κώδικα και τις δυνατότητες των μοντέλων MAI. Η πρώτη μεθοδολογία ξεχωρίζει 15 θεμελιώδεις συμπεριφορές, από τη διαφάνεια έως την υποστήριξη της ανθρώπινης αυτονομίας και δράσης.
Για να γίνουν μετρήσιμες, οι συμπεριφορές σπάνε σε επιμέρους χαρακτηριστικά, τα οποία λειτουργούν ως μονάδες διάγνωσης και βαθμολόγησης μιας απάντησης. Τα παραδείγματα του παραρτήματος είναι συνθετικά, συνομιλιακά και έχουν παραχθεί με το MAI-Thinking-1. Η Microsoft αναγνωρίζει ότι πολλές συμπεριφορές μπορεί να έρχονται σε ένταση μεταξύ τους και ότι οι κατάλληλες μετρήσεις για την ανθρώπινη ευημερία παραμένουν ανοιχτό πεδίο.
Τα σενάρια δοκιμάζουν, μεταξύ άλλων, αν ένα σύστημα παρουσιάζει καθαρά τον τεχνητό χαρακτήρα του όταν ένας χρήστης αναζητεί συναισθηματικό δεσμό, αν σταματά μια μεταφορά αρχείων χωρίς να αναστρέφει μόνο του ήδη ολοκληρωμένες ενέργειες και αν αρνείται να λάβει ή να εκτελέσει για λογαριασμό χρήστη μια προσωπική απόφαση υψηλού διακυβεύματος. Άλλες δοκιμές ελέγχουν την αποφυγή ατεκμηρίωτων αιτιωδών ισχυρισμών, τον σεβασμό ορίων και την αποχή από ψευδή διαβεβαίωση.
Η συζήτηση για επιβράδυνση και έλεγχο
Ο κώδικας δημοσιεύεται ενώ εντείνεται η συζήτηση για τον ρυθμό ανάπτυξης των προηγμένων μοντέλων. Ο Αμοντέι ζήτησε συντονισμένη επιβράδυνση, επικαλούμενος ανησυχίες για την ασφαλή ανάπτυξη και τον έλεγχο ολοένα πιο σύνθετων agents. Η Microsoft απορρίπτει την κούρσα για μια υπερνοημοσύνη γενικής χρήσης που θα μπορούσε να παρακάμψει αυτές τις δικλίδες, αποδεχόμενη πιθανό συμβιβασμό σε γενικότητα, αυτονομία ή ικανότητες.
Ο Σαμ Άλτμαν, διευθύνων σύμβουλος της OpenAI, έχει ταχθεί υπέρ βραδύτερου ρυθμού για τα προηγμένα μοντέλα, χωρίς διακοπή της ανάπτυξης. Ο Σάτια Ναντέλα, διευθύνων σύμβουλος της Microsoft, συνδέει κάθε επιδίωξη υπερνοημοσύνης με την ωφέλεια για την ανθρωπότητα και τον ανθρώπινο έλεγχο. Η εταιρεία σχεδιάζει να συνεργαστεί με εξωτερικούς εταίρους για τη βελτίωση των αξιολογήσεων, με έμφαση τόσο στην πραγματική απόδοση των μοντέλων όσο και στην επίδραση της διαρκούς χρήσης τους σε ανθρώπους και οργανισμούς.
