Η OpenAI συνεργάζεται εδώ και αρκετές εβδομάδες με την Anthropic και το ερευνητικό εργαστήριο DeepMind της Google για ένα πλαίσιο ασφάλειας της τεχνητής νοημοσύνης, όπως δήλωσε ο Chris Lehane, παγκόσμιος επικεφαλής πολιτικής της OpenAI Group PBC, σε ενημέρωση δημοσιογράφων στην Ουάσιγκτον.
Η πρωτοβουλία έρχεται ενώ η συζήτηση για την ταχύτητα ανάπτυξης των frontier models εντείνεται. Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, ζήτησε από τον κλάδο να συνεργαστεί ώστε να επιβραδυνθεί η ταχεία πρόοδος των ισχυρότερων μοντέλων και να περιοριστούν, όπως έγραψε, οι «καταστροφικοί κίνδυνοι».
Η συνεργασία και οι κανόνες ανταγωνισμού
Ο Lehane είπε ότι η συνεργασία των τριών εταιρειών στο πεδίο της ασφάλειας βρίσκεται ήδη σε εξέλιξη, χωρίς να δώσει λεπτομέρειες για το περιεχόμενό της. Υποστήριξε ότι η κοινή δράση βοηθά να δοθεί προτεραιότητα στην ασφάλεια, σε μια περίοδο κατά την οποία η κούρσα για ολοένα ισχυρότερα μοντέλα προκαλεί ανησυχίες εντός και εκτός του κλάδου.
Η έκκληση του Amodei βρήκε στήριξη από τον διευθύνοντα σύμβουλο της OpenAI, Sam Altman, τον Elon Musk της SpaceXAI και τον Demis Hassabis της Google. Ο Altman δήλωσε ακόμη ότι η OpenAI προτίθεται να εντάξει τρίτους αξιολογητές στις ομάδες ανάπτυξης, ώστε να παρακολουθούν ζητήματα ασφάλειας.
Η συνεργασία, ωστόσο, συναντά και νομικές επιφυλάξεις. Νομικοί έχουν προειδοποιήσει ότι ο συντονισμός των μεγάλων εργαστηρίων AI μπορεί να θεωρηθεί περιορισμός της παραγωγής και, άρα, παραβίαση των αμερικανικών κανόνων ανταγωνισμού. Ο Amodei πρότεινε η αμερικανική κυβέρνηση να εξετάσει μια εξαίρεση που θα επιτρέπει συνεργασίες για την ασφάλεια, χωρίς σύγκρουση με την αντιμονοπωλιακή νομοθεσία. Ο Lehane εκτίμησε ότι μια τέτοια εξαίρεση δεν χρειάζεται.
Η αντίδραση της αγοράς και της πολιτικής
Τις ανησυχίες για τον ανταγωνισμό έχει εκφράσει και ο διευθύνων σύμβουλος της Cohere, Aidan Gomez. Σε ανάρτησή του υποστήριξε ότι οι εκκλήσεις των κορυφαίων εργαστηρίων για αυστηρότερη ασφάλεια θα μπορούσαν να λειτουργήσουν ως μηχανισμός διατήρησης του προβαδίσματός τους, επιτρέποντάς τους να ορίζουν τους κανόνες και τα πρότυπα για την υπόλοιπη αγορά.
Στο πολιτικό πεδίο, ο πρόεδρος των ΗΠΑ Donald Trump έχει απορρίψει τις εκκλήσεις για επιβράδυνση της ανάπτυξης της AI, υποστηρίζοντας ότι μια τέτοια επιλογή θα έδινε στην Κίνα περιθώριο να προηγηθεί στην τεχνολογική κούρσα. Την ίδια θέση έχει υποστηρίξει και ο σύμβουλός του για θέματα AI, David Sacks, ο οποίος θεωρεί υπερβολικούς τους φόβους για υπαρξιακούς κινδύνους από την τεχνητή νοημοσύνη.
Ο αναλυτής της Constellation Research, Holger Mueller, εκτίμησε ότι η δημόσια συζήτηση για την ασφάλεια έχει αξία, παρότι τα κίνητρα των εταιρειών χρειάζονται προσεκτική ανάγνωση. Επισήμανε ότι τα πρόσφατα περιστατικά ασφάλειας και κυβερνοεπιθέσεων που συνδέονται με την AI ενισχύουν την ανάγκη για πιο υπεύθυνη στάση από τις εταιρείες αιχμής.
Οι νομοθετικές πρωτοβουλίες
Η OpenAI φέρεται να στηρίζει δύο διακομματικές νομοθετικές πρωτοβουλίες στις ΗΠΑ. Η πρώτη, το FRONTIER Act, προβλέπει ομοσπονδιακό πλαίσιο για την ασφάλεια της AI και υποχρέωση των εργαστηρίων να υποβάλλουν νέα μοντέλα σε ελέγχους από ανεξάρτητους αξιολογητές.
Η δεύτερη πρόταση βρίσκεται υπό διαμόρφωση. Το Reuters αναφέρει ότι ο ηγέτης της πλειοψηφίας στη Γερουσία, John Thune, συνεργάζεται με τον Ρεπουμπλικανό γερουσιαστή Ted Cruz και τη Δημοκρατική γερουσιαστή Amy Klobuchar για νομοσχέδιο που θα δίνει στον υπουργό Εμπορίου την εξουσία να υποβάλλει νέα μοντέλα σε ελέγχους ασφάλειας πριν από τη διάθεσή τους.
