Η Check Point Software Technologies, πρωτοπόρος και παγκόσμιος ηγέτης στις λύσεις ασφάλειας στον κυβερνοχώρο, παρουσίασε σήμερα την εναρκτήρια έκθεση AI Security Report στο RSA Conference 2025. Αυτή η έκθεση προσφέρει μια σε βάθος διερεύνηση του τρόπου με τον οποίο οι εγκληματίες του κυβερνοχώρου χρησιμοποιούν ως όπλο την τεχνητή νοημοσύνη (AI), μαζί με στρατηγικές ιδέες για τους αμυντικούς για να παραμείνουν μπροστά.
Καθώς η τεχνητή νοημοσύνη αναδιαμορφώνει τις βιομηχανίες, έχει επίσης σβήσει τα όρια μεταξύ αλήθειας και εξαπάτησης στον ψηφιακό κόσμο. Οι εγκληματίες του κυβερνοχώρου χειρίζονται πλέον τη ΤΝ και τα μεγάλα γλωσσικά μοντέλα (LLM) για να εξαλείψουν την εμπιστοσύνη στην ψηφιακή ταυτότητα. Στο σημερινό τοπίο, ό,τι βλέπετε, ακούτε ή διαβάζετε στο διαδίκτυο δεν είναι εύκολο πλέον να γίνει πιστευτό. Η πλαστοπροσωπία με τεχνητή νοημοσύνη παρακάμπτει ακόμη και τα πιο εξελιγμένα συστήματα επαλήθευσης ταυτότητας, καθιστώντας τον καθένα πιθανό θύμα εξαπάτησης σε μεγάλη κλίμακα.
«Η ταχεία υιοθέτηση της τεχνητής νοημοσύνης από τους εγκληματίες του κυβερνοχώρου αναδιαμορφώνει το τοπίο των απειλών», δήλωσε ο Lotem Finkelstein, διευθυντής της Check Point Research. «Ενώ ορισμένες υπόγειες υπηρεσίες έχουν γίνει πιο προηγμένες, όλα τα σημάδια δείχνουν μια επικείμενη αλλαγή – την άνοδο των ψηφιακών διδύμων. Αυτά δεν είναι απλώς ομοιώματα ή ηχομιμήσεις, αλλά αντίγραφα με βάση την τεχνητή νοημοσύνη, ικανά να μιμούνται την ανθρώπινη σκέψη και συμπεριφορά. Δεν πρόκειται για ένα μακρινό μέλλον – είναι προ των πυλών .»
Βασικές πληροφορίες για τις απειλές από την έκθεση AI Security Report:
Στο επίκεντρο αυτών των εξελίξεων βρίσκεται η ικανότητα της Τεχνητής Νοημοσύνης να υποδύεται και να χειραγωγεί πειστικά τις ψηφιακές ταυτότητες, διαλύοντας τα όρια μεταξύ αυθεντικού και ψεύτικου. Η έκθεση αποκαλύπτει τέσσερις βασικούς τομείς στους οποίους αυτή η διάβρωση της εμπιστοσύνης είναι πιο ορατή:
- Πλαστοπροσωπία με χρήση τεχνητής νοημοσύνης και κοινωνική μηχανική: Οι φορείς απειλών χρησιμοποιούν τεχνητή νοημοσύνη για να παράγουν ρεαλιστικά, σε πραγματικό χρόνο ηλεκτρονικά μηνύματα ηλεκτρονικού «ψαρέματος», ηχητικές μιμήσεις και βίντεο deepfake. Ειδικότερα, οι επιτιθέμενοι μιμήθηκαν πρόσφατα τον υπουργό Άμυνας της Ιταλίας χρησιμοποιώντας ήχο που δημιουργήθηκε από ΤΝ, αποδεικνύοντας ότι καμία φωνή, πρόσωπο ή γραπτή λέξη στο διαδίκτυο δεν είναι ασφαλής από την επινόηση.
- LLM Data Poisoning and Disinformation (Δηλητηρίαση δεδομένων και παραπληροφόρηση): Κακόβουλοι φορείς χειραγωγούν τα δεδομένα εκπαίδευσης της ΤΝ για να διαστρεβλώσουν τα αποτελέσματα. Μια περίπτωση που αφορούσε το ρωσικό δίκτυο παραπληροφόρησης Pravda έδειξε ότι τα AI chatbots επαναλάμβαναν ψευδείς αφηγήσεις 33% του χρόνου, υπογραμμίζοντας την ανάγκη για ισχυρή ακεραιότητα δεδομένων στα συστήματα AI.
- Κακόβουλο λογισμικό που δημιουργείται από ΤΝ και εξόρυξη δεδομένων: Οι εγκληματίες του κυβερνοχώρου αξιοποιούν την ΤΝ για τη δημιουργία και τη βελτιστοποίηση κακόβουλου λογισμικού, την αυτοματοποίηση εκστρατειών DDoS και τη βελτίωση κλεμμένων διαπιστευτηρίων. Υπηρεσίες όπως το Gabbers Shop χρησιμοποιούν AI για την επικύρωση και τον καθαρισμό κλεμμένων δεδομένων, ενισχύοντας την αξία μεταπώλησής τους και την αποτελεσματικότητα της στόχευσης.
- Αξιοποίηση και υποκλοπή των μοντέλων ΤΝ: Από τους κλεμμένους λογαριασμούς LLM έως τα προσαρμοσμένα Dark LLM όπως τα FraudGPT και WormGPT, οι επιτιθέμενοι παρακάμπτουν τους μηχανισμούς ασφαλείας και εμπορεύονται την AI ως εργαλείο για hacking και απάτη στον σκοτεινό ιστό.
Στρατηγικές άμυνας:
Η έκθεση τονίζει ότι οι υπεύθυνοι ασφαλείας πρέπει πλέον να υποθέσουν ότι η ΤΝ είναι ενσωματωμένη σε αντίπαλες εκστρατείες. Για να το αντιμετωπίσουν αυτό, οι οργανισμοί θα πρέπει να υιοθετήσουν πλαίσια ασφάλειας στον κυβερνοχώρο με επίγνωση της ΤΝ, όπως
- Ανίχνευση και κυνήγι απειλών με υποστήριξη ΤΝ: Αξιοποίηση της ΤΝ για την ανίχνευση απειλών και αντικειμένων που δημιουργούνται από ΤΝ, όπως συνθετικό περιεχόμενο phishing και deepfakes.
- Ενισχυμένη επαλήθευση ταυτότητας: Ενισχυμένη επαλήθευση ταυτότητας: Ξεπεράστε τις παραδοσιακές μεθόδους και εφαρμόστε πολυεπίπεδους ελέγχους ταυτότητας που λαμβάνουν υπόψη τους την πλαστοπροσωπία με τεχνητή νοημοσύνη σε κείμενο, φωνή και βίντεο – αναγνωρίζοντας ότι η εμπιστοσύνη στην ψηφιακή ταυτότητα δεν είναι πλέον εγγυημένη.
- Threat Intelligence with AI Context (Νοημοσύνη απειλών με πλαίσιο AI): Εξοπλίστε τις ομάδες ασφαλείας με τα εργαλεία για να αναγνωρίζουν και να ανταποκρίνονται στις τακτικές που βασίζονται στην ΤΝ.
«Σε αυτή την εποχή που καθοδηγείται από την τεχνητή νοημοσύνη, οι ομάδες ασφάλειας στον κυβερνοχώρο πρέπει να συμβαδίζουν με τον ρυθμό των επιτιθέμενων, ενσωματώνοντας την τεχνητή νοημοσύνη στις άμυνές τους», πρόσθεσε ο Finkelstein. «Αυτή η έκθεση όχι μόνο αναδεικνύει τους κινδύνους, αλλά παρέχει και τον οδικό χάρτη για την ασφαλή και υπεύθυνη διασφάλιση των περιβαλλόντων ΑΙ».
Η πλήρης έκθεση AI Security Report 2025 είναι διαθέσιμη για να την κατεβάσετε εδώ.
