Περίληψη:
- Οι ερευνητές συνέκριναν τα ανεπιθύμητα μηνύματα πριν από την εποχή του GPT με εκείνα που εμφανίστηκαν μετά από αυτήν.
- Τα περισσότερα ανεπιθύμητα μηνύματα σήμερα παράγονται από τεχνητή νοημοσύνη.
- Τα μηνύματα BEC απαιτούν μεγαλύτερη ακρίβεια.
Μια πρόσφατη μελέτη αποκάλυψε ότι η πλειονότητα των ανεπιθύμητων μηνυμάτων ηλεκτρονικού ταχυδρομείου που αποστέλλονται σήμερα γράφονται από Γενετική Τεχνητή Νοημοσύνη (GenAI).
Μια έκθεση της Barracuda Networks δείχνει ότι οι κυβερνοεγκληματίες δεν χρησιμοποιούν την Τεχνητή Νοημοσύνη για να αλλάξουν ριζικά τις μεθόδους επίθεσής τους, αλλά μάλλον για να τις βελτιώσουν και να τις κάνουν πιο δύσκολο να εντοπιστούν. Αυτή η βελτίωση περιλαμβάνει πτυχές όπως η ποιότητα της χρησιμοποιούμενης γλώσσας, ο σχεδιασμός μηνυμάτων και η εξατομίκευση που τις κάνουν να φαίνονται πιο αξιόπιστες.
Η μελέτη συνέκρινε τα email που στάλθηκαν πριν από την εισαγωγή του ChatGPT (δηλαδή, πριν από τον Νοέμβριο του 2022) με εκείνα που στάλθηκαν μετά και παρατήρησε μια σημαντική μετατόπιση, με τους εγκληματίες να χρησιμοποιούν κυρίως το GenAI για ανεπιθύμητα μηνύματα. Αυτή η μετατόπιση αποτελεί σημαντική πρόκληση τόσο για τα άτομα όσο και για τους οργανισμούς, καθώς γίνεται ολοένα και πιο δύσκολο να διακριθούν τα νόμιμα μηνύματα από τα κακόβουλα.
Ενίσχυση της αξιοπιστίας
Μελέτες έχουν δείξει ότι έως τον Απρίλιο του 2025, το 51% των ανεπιθύμητων μηνυμάτων ηλεκτρονικού ταχυδρομείου θα δημιουργείται από τεχνητή νοημοσύνη και όχι από ανθρώπους. Αυτή η μετατόπιση αποτελεί σημαντική πρόκληση στον τομέα της κυβερνοασφάλειας.
Οι ερευνητές εξήγησαν ότι «η πλειονότητα των email που βρίσκονται αυτήν τη στιγμή στον φάκελο ανεπιθύμητης αλληλογραφίας/spam γράφονται από ένα μεγάλο γλωσσικό μοντέλο (LLM)». Αυτό σημαίνει ότι η τεχνητή νοημοσύνη έχει γίνει ένα βασικό εργαλείο στα χέρια των spammers.
Από την άλλη πλευρά, οι εγκληματίες φαίνονται άνευ ενθουσιασμού σχετικά με τη χρήση της Τεχνητής Νοημοσύνης (ΤΝ) σε επιθέσεις παραβίασης επαγγελματικού ηλεκτρονικού ταχυδρομείου (BEC). Σύμφωνα με τους ερευνητές, αυτοί οι τύποι επιθέσεων απαιτούν υψηλή ακρίβεια και συνήθως στοχεύουν ένα υψηλόβαθμο άτομο εντός του οργανισμού. Ως αποτέλεσμα, μέχρι τον Απρίλιο του 2025, μόνο το 14% των επιθέσεων BEC δημιουργούνταν από ΤΝ.
Όπως αναμενόταν, τα μηνύματα που δημιουργούνται από την Τεχνητή Νοημοσύνη είναι καλύτερα γραμμένα. Διαθέτουν υψηλότερο επίπεδο τυπικότητας, λιγότερα γραμματικά λάθη και μεγαλύτερη γλωσσική πολυπλοκότητα. Κατά συνέπεια, φαίνονται πιο αξιόπιστα και επαγγελματικά στα θύματα, αυξάνοντας την πιθανότητα να πέσουν θύματα.
Σημαίνει επίσης ότι οι κυβερνοεπιτιθέμενοι των οποίων η μητρική γλώσσα δεν είναι τα αγγλικά θα δυσκολευτούν λιγότερο να στοχεύσουν επιχειρήσεις σε αγγλόφωνες χώρες. Τέλος, οι απατεώνες φαίνεται να χρησιμοποιούν τεχνητή νοημοσύνη για να δοκιμάσουν A/B διαφορετικές παραλλαγές ανεπιθύμητης αλληλογραφίας, προσπαθώντας να προσδιορίσουν ποιες παραλλαγές διατύπωσης έχουν την καλύτερη απόδοση σε πραγματικές συνθήκες.
Ο καλύτερος τρόπος για να προστατευτείτε από τα ανεπιθύμητα email που δημιουργούνται από την τεχνητή νοημοσύνη είναι να χρησιμοποιήσετε λύσεις ασφάλειας email που υποστηρίζονται από την τεχνητή νοημοσύνη. Στην εποχή πριν από το GPT, κάποιος μπορούσε να εντοπίσει το ηλεκτρονικό ψάρεμα (phishing) και το ανεπιθύμητο περιεχόμενο απλώς σαρώνοντας τα email — αυτά τα μηνύματα ήταν συνήθως γεμάτα ορθογραφικά και γραμματικά λάθη, και η γλώσσα ήταν συχνά αγενής και άγνωστη.
Επειδή η Τεχνητή Νοημοσύνη έχει αφαιρέσει αυτές τις κόκκινες σημαίες, μια προηγμένη λύση ασφάλειας email, εξοπλισμένη με ανίχνευση πολλαπλών επιπέδων και ενεργοποιημένη από Τεχνητή Νοημοσύνη/Μηχανική Μάθηση (AI/ML)Αυτό είναι «κρίσιμο», κατέληξαν οι ερευνητές. Αυτό απαιτεί επενδύσεις σε προηγμένες τεχνολογίες για την προστασία των οργανισμών από προηγμένες απειλές.
