Η Kaspersky παρουσίασε σήμερα τις θεμελιώδεις αρχές δεοντολογίας της αναφορικά με την ανάπτυξη και τη χρήση μοντέλων τεχνητής νοημοσύνης (AI) και μηχανικής μάθησης (ML), ενισχύοντας τη δέσμευσή της για μια διαφανή και υπεύθυνη προσέγγιση στην ανάπτυξη των καινοτόμων τεχνολογιών.
Καθώς οι αλγόριθμοι τεχνητής νοημοσύνης διαδραματίζουν ολοένα και πιο σημαντικό ρόλο στην κυβερνοασφάλεια, οι αρχές που παρουσιάζονται στο whitepaper της Kaspersky εξηγούν πώς η εταιρεία διασφαλίζει την αξιοπιστία των τεχνολογιών που βασίζονται στην τεχνητή νοημοσύνη και παρέχει καθοδήγηση σε άλλους φορείς του κλάδου για τον μετριασμό των κινδύνων που συνδέονται με τη χρήση αλγορίθμων AI/ML. Η σχετική συζήτηση ξεκίνησε με πρωτοβουλία της Kaspersky στο πλαίσιο του Φόρουμ Διακυβέρνησης του Διαδικτύου του ΟΗΕ, που διεξήχθη στην Ιαπωνία, συγκεντρώνοντας τους κορυφαίους επαγγελματίες παγκοσμίως στον τομέα της ασφάλειας στο διαδίκτυο.
Για σχεδόν δύο δεκαετίες, η Kaspersky χρησιμοποιεί αλγορίθμους μηχανικής μάθησης (ML), η οποία και αποτελεί υποκατηγορία της τεχνητής νοημοσύνης. Ο συνδυασμός της τεχνητής νοημοσύνης με την τεχνογνωσία των ειδικών της Kaspersky έχει επιτρέψει στα προϊόντα της εταιρείας να ανιχνεύουν και να αντιμετωπίζουν αποτελεσματικά μια πληθώρα νέων απειλών καθημερινά. Συνεπώς, η χρήση της μηχανικής μάθησης μπορεί να παίζει σημαντικό ρόλο στην ανίχνευση και αναγνώριση απειλών, ενώ ταυτόχρονα ενισχύεται η ακρίβεια της αναγνώρισης κακόβουλου λογισμικού. Προωθώντας την καινοτομία, η Kaspersky έχει διαμορφώσει κάποιες θεμελιώδης αρχές δεοντολογίας σχετικά με τη χρήση των AI και ML μοντέλων. Θέλοντας να συμμετάσχει σε έναν ανοικτό διάλογο στον τομέα της τεχνολογίας, ο οποίος θα διασφαλίσει ότι το AI θα χρησιμοποιείται για να κάνει τον κόσμο καλύτερο, η Kaspersky μοιράζεται τις αρχές δεοντολογίας της αναφορικά με τη χρήση των τεχνολογιών AI και ML.
Σύμφωνα με την Kaspersky, η απρόσκοπτη ανάπτυξη και χρήση των τεχνολογιών AI και ML θα πρέπει να λαμβάνει υπόψη τις ακόλουθες έξι αρχές:
- Διαφάνεια,
- Ασφάλεια,
- Ανθρώπινος έλεγχος,
- Προστασία της ιδιωτικής ζωής,
- Δέσμευση για την προώθηση της διαδικτυακής ασφάλειας,
- Πρόθεση για συμμετοχή σε έναν ανοικτό διάλογο.
Η αρχή της διαφάνειας αντιπροσωπεύει τη σταθερή πεποίθηση της Kaspersky ότι οι εταιρείες πρέπει να ενημερώνουν τους πελάτες τους σχετικά με τη χρήση τεχνολογιών AI/ML στα προϊόντα και τις υπηρεσίες τους. Στην Kaspersky, συμμορφωνόμαστε με αυτήν την αρχή αναπτύσσοντας μοντέλα AI/ML που είναι ευρέως κατανοητά, καθώς παρέχουμε δημόσια όλες τις απαραίτητες πληροφορίες σχετικά με τον τρόπο λειτουργίας των λύσεών μας και τη χρήση των τεχνολογιών AI/MI.
Η Kaspersky έχει εφαρμόσει μια σειρά από δικλίδες ασφαλείας ώστε να διασφαλιστεί η ποιότητα των μοντέλων AI/ML. Ορισμένα από αυτά περιλαμβάνουν ελέγχους ασφαλείας ειδικά για τα μοντέλα ML/AI, μέτρα για τη μείωση της εξάρτησης από δεδομένα τρίτων μερών κατά τη διαδικασία εκμάθησης ΑΙ λύσεων και στην προτίμηση ML μοντέλων που βασίζονται στο cloud αντί των κλασσικών μοντέλων που εγκαθίστανται στις συσκευές των πελατών.
Η σημασία του ανθρώπινου παράγοντα πηγάζει από την ανάγκη αξιολόγησης του έργου των μοντέλων AI/ML όταν πρόκειται για την ανάλυση πολύπλοκων απειλών, ιδίως των απειλών τύπου APT. Για να παρέχει αποτελεσματική προστασία από τις συνεχώς εξελισσόμενες απειλές, η Kaspersky έχει δεσμευτεί να διατηρεί τον ανθρώπινο έλεγχο ως βασικό στοιχείο όλων των μοντέλων AI/ML της.
Μια άλλη θεμελιώδης αρχή είναι η διασφάλιση του δικαιώματος στην ιδιωτική ζωή κατά την ηθική χρήση του AI/ML. Με τους μεγάλους όγκους δεδομένων να διαδραματίζουν ζωτικό ρόλο στη διαδικασία εκπαίδευσης τέτοιων συστημάτων, οι εταιρείες που εργάζονται με AI/ML πρέπει να λαμβάνουν υπόψη την προστασία της ιδιωτικής ζωής. Η Κaspersky σέβεται το δικαίωμα στην ιδιωτική ζωή των ατόμων, ενώ παράλληλα εφαρμόζει μια σειρά από μέτρα για την προστασία των δεδομένων και των συστημάτων διασφαλίζοντας το δικαίωμα των χρηστών στην ιδιωτικότητα.
Η πέμπτη θεμελιώδης αρχή αντιπροσωπεύει τη δέσμευση της Kaspersky να χρησιμοποιεί τα συστήματα AI/ML αποκλειστικά για λόγους προστασίας. Εστιάζοντας αποκλειστικά στον τομέα της κυβερνοασφάλειας, η εταιρεία επιδιώκει την αποστολή της να οικοδομήσει έναν ασφαλέστερο κόσμο και αποδεικνύει τη δέσμευσή της για την προστασία των χρηστών και των δεδομένων τους.
Η τελευταία αρχή αναφέρεται στην πίστη της Kaspersky σε έναν ανοικτό διάλογο με όλους τους ενδιαφερόμενους φορείς, προκειμένου να μοιραστούν τις βέλτιστες πρακτικές για την ηθική χρήση της τεχνητής νοημοσύνης. Στο πλαίσιο αυτό, η Kaspersky είναι ανοικτή στον διάλογο με όλα τα συμβαλλόμενα μέρη, καθώς η θέση της εταιρείας είναι ότι μόνο μέσω της συνεχούς συνεργασίας μπορούμε να ξεπεράσουμε τα εμπόδια, να προωθήσουμε την καινοτομία και να ανοίξουμε νέους ορίζοντες.
Ο CTO της Kaspersky, Anton Ivanov, σχολίασε: «Η τεχνητή νοημοσύνη έχει τη δυνατότητα να επιφέρει πολλά οφέλη στον κλάδο της κυβερνοασφάλειας, ενισχύοντας τη γενικότερη προστασία στο διαδίκτυο. Όμως, όπως συμβαίνει με κάθε άλλη τεχνολογία που βρίσκεται σε πρώιμο στάδιο της ανάπτυξής της, η τεχνητή νοημοσύνη δεν είναι ακίνδυνη. Για να αντιμετωπίσει τις ανησυχίες γύρω από την τεχνητή νοημοσύνη, η Kaspersky δημοσίευσε τις θεμελιώδεις αρχές δεοντολογίας για να μοιραστεί τις δικές της βέλτιστες πρακτικές σχετικά με την εφαρμογή της τεχνητής νοημοσύνης και να απευθύνει έκκληση για έναν ανοιχτό διάλογο στο σύνολο του κλάδου για την ανάπτυξη σαφών κατευθυντήριων γραμμών σχετικά με τα δεδομένα που θα πρέπει να λαμβάνονται ώστε η ανάπτυξη λύσεων που βασίζονται στην τεχνητή νοημοσύνη και τη μηχανική μάθηση, να θεωρούνται ηθικά αποδέκτες».
Η Kaspersky παρουσίασε τις αρχές δεοντολογίας της κατά τη διάρκεια του Φόρουμ Διακυβέρνησης του Διαδικτύου υπό την ηγεσία του ΟΗΕ, που πραγματοποιήθηκε στο Κιότο της Ιαπωνίας από τις 8 έως τις 12 Οκτωβρίου. Με την τεχνητή νοημοσύνη και τις αναδυόμενες τεχνολογίες να αποτελούν κάποια από τα βασικά θέματα της φετινής εκδήλωσης, η Kaspersky διοργάνωσε ένα εργαστήριο για να συζητήσει τις ηθικές αρχές της ανάπτυξης και της χρήσης της τεχνητής νοημοσύνης, τεχνικές και νομικές εκτιμήσεις στη συζήτηση.
Η έκδοση των ηθικών αρχών αποτελεί συνέχεια της Παγκόσμιας Πρωτοβουλίας Διαφάνειας της Kaspersky, προωθώντας τις αρχές της διαφάνειας και της λογοδοσίας μεταξύ των εταιρειών τεχνολογίας για χάρη ενός κόσμου πιο ανθεκτικού και ασφαλούς στον κυβερνοχώρο. Για να μάθετε περισσότερα σχετικά με την πρωτοβουλία και τις αρχές διαφάνειας της εταιρείας, ζητήστε μια επίσκεψη σε ένα Κέντρο Διαφάνειας της Kaspersky.
