Ο Μήνας Ευαισθητοποίησης για την Κυβερνοασφάλεια μπορεί να μην έχει την ίδια απήχηση με άλλα σημαντικά γεγονότα του Οκτωβρίου — το να χαζεύεις το γυαλισμένο φύλλωμα ή να τρως υπερβολικά γλυκά για το Halloween — αλλά μπορεί να ωθήσει τους εταιρικούς ηγέτες και τους καταναλωτές να συμμετάσχουν σε μια σημαντική τελετουργία: την επανεκτίμηση της προσέγγισής τους στην κυβερνοασφάλεια.

Και υπάρχουν πολλά να σκεφτούμε μέσα από τη χρονιά που πέρασε. Οι εταιρείες θα πρέπει ιδιαίτερα να αναρωτιούνται αυτόν τον μήνα (και κάθε μήνα): Πώς έχει αλλάξει το τοπίο των διαδικτυακών απειλών; Και οι πρακτικές ασφαλείας της επιχείρησής σας κάνουν αρκετά για να συμβαδίσουν με αυτές τις αλλαγές;

Η τεχνητή νοημοσύνη αναμφισβήτητα ήταν ο μεγαλύτερος παράγοντας που άλλαξε τα δεδομένα φέτος. Τα εργαλεία τεχνητής νοημοσύνης, συμπεριλαμβανομένων των μεγάλων γλωσσικών μοντέλων (LLM) όπως το ChatGPT, έχουν ενισχύσει τις ικανότητες των εισβολέων. Εν τω μεταξύ, ένας αυξανόμενος αριθμός εταιρειών ενσωματώνει την Τεχνητή Νοημοσύνη στην καθημερινή του επιχείρηση, ωθώντας τους επαγγελματίες στον κυβερνοχώρο να διαφυλάξουν νέα σύνορα χωρίς ιδιαίτερο προηγούμενο για το πώς να το κάνουν αυτό. Εν τω μεταξύ, οι καταναλωτές βρίσκονται παγιδευμένοι σε αυτό το ταχέως μεταβαλλόμενο περιβάλλον τεχνητής νοημοσύνης.

Αυτές ακριβώς οι δυναμικές απασχολούσαν πολλούς από τους 20.000 συμμετέχοντες στο φετινό Συνέδριο Black Hat στο Λας Βέγκας. Από τα πολυτελή περίπτερα στο πάτωμα της αίθουσας επιχειρηματικών εκδηλώσεων μέχρι την πρωτοποριακή έρευνα που παρουσιάζεται στις ομιλίες και τις ήσυχες συζητήσεις που ενδιάμεσα, η Τεχνητή Νοημοσύνη κυριάρχησε στη συζήτηση.

Στην εναρκτήρια ομιλία της εκδήλωσης, ο μακροχρόνιος ερευνητής κυβερνοασφάλειας Mikko Hyppönen χαρακτήρισε την Τεχνητή Νοημοσύνη ως τη «μεγαλύτερη τεχνική επανάσταση» που είχε δει στη ζωή του, σημειώνοντας ότι οι ερευνητές που χρησιμοποιούν LLM έχουν ήδη ανακαλύψει μερικές δεκάδες μηδενικές ημέρες — ένας όρος του κλάδου για μη ανιχνευμένες αδυναμίες σε λογισμικό ή κώδικα.

«Όταν οι ερευνητές εντοπίζουν τρωτά σημεία ασφαλείας με την Τεχνητή Νοημοσύνη, αυτό είναι υπέροχο, επειδή μπορούμε να τα διορθώσουμε», δήλωσε ο Hyppönen. «Όταν οι επιτιθέμενοι κάνουν το ίδιο, αυτό είναι απαίσιο.» Αυτό θα συμβεί επίσης.

Οι διαδικτυακοί απατεώνες χρησιμοποιούν ήδη LLM για να γράφουν πιο πειστικά και στοχευμένα email ηλεκτρονικού "ψαρέματος" (phishing) και το κάνουν σε πολύ μεγαλύτερη κλίμακα από ό,τι θα μπορούσαν ποτέ χωρίς εργαλεία τεχνητής νοημοσύνης.

Πέρασαν οι εποχές των κακογραμμένων, γενικών email που ακόμη και ο λιγότερο τεχνολογικά καταρτισμένος άνθρωπος μπορούσε να εντοπίσει ως απάτες. Οι απατεώνες που δεν έχουν ως μητρική γλώσσα τα αγγλικά είναι πλέον επαγγελματίες στο να βελτιώνουν τα μηνύματά τους με LLM.

Και ακόμη και αυτοί οι απατεώνες που παριστάνουν τους μοναχικούς στρατιώτες που σταθμεύουν στο εξωτερικό, προωθώντας μια επιχειρηματική ευκαιρία που φαίνεται πολύ καλή για να είναι αληθινή (γιατί στην πραγματικότητα είναι), προσθέτουν προσωπικές λεπτομέρειες που εξορύσσονται από την Τεχνητή Νοημοσύνη για να κάνουν αυτά τα μηνύματα πολύ πιο πιστευτά.

Έχουν επίσης προχωρήσει πέρα από το ηλεκτρονικό ταχυδρομείο, μεταφέροντας τις πλέον καλοσχεδιασμένες επικοινωνίες τους στα μέσα κοινωνικής δικτύωσης, σε μηνύματα κειμένου, ακόμη και σε τηλεφωνικές κλήσεις.

Ταυτόχρονα, έχει παρατηρηθεί αύξηση στα απάτη μέσω μηνυμάτων που περιέχουν deepfakes ήχου ή βίντεο. Πέρυσι, ένας εργαζόμενος στο Χονγκ Κονγκ εξαπατήθηκε ώστε να πληρώσει 25 εκατομμύρια δολάρια σε απατεώνες, αφού συμμετείχε σε αυτό που νόμιζε ότι ήταν βιντεοκλήση με αξιωματούχους της πολυεθνικής του εταιρείας, συμπεριλαμβανομένου του οικονομικού διευθυντή. Αλλά αποδείχθηκε ότι οι άλλοι στην κλήση ήταν ζωντανές βιντεοσκοπημένες αναπαραστάσεις αυτών των ανθρώπων.

Οι καταναλωτές έχουν επίσης στοχοποιηθεί σε απάτες με deepfake ήχου. Εκεί ακριβώς οι κυβερνοεγκληματίες χρησιμοποιούν την Τεχνητή Νοημοσύνη για να παραποιήσουν τις φωνές ανθρώπων, συνήθως νεότερων, και στη συνέχεια χρησιμοποιούν τη μιμούμενη φωνή για να καλέσουν μέλη της οικογένειάς τους, λέγοντάς τους ότι έχουν απαχθεί ή βρίσκονται στη φυλακή, για να τους αποσπάσουν χρήματα.

Όλα αυτά, όπως είναι εύλογο, έχουν τρομοκρατήσει εταιρείες και καταναλωτές. Μια πρόσφατη μελέτη που διεξήχθη για την Mastercard , στην οποία συμμετείχαν περίπου 13.000 καταναλωτές σε όλο τον κόσμο, συμπεριλαμβανομένων περίπου 1.000 στις ΗΠΑ, διαπίστωσε ότι το ψεύτικο περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη αποτελεί την κύρια μελλοντική ανησυχία των καταναλωτών σχετικά με τις απάτες. Ωστόσο, μόνο το 13% των ερωτηθέντων δήλωσαν ότι είναι πολύ σίγουροι για την ικανότητά τους να εντοπίζουν απειλές ή απάτες που δημιουργούνται από την Τεχνητή Νοημοσύνη, εάν γίνουν στόχος αυτών.

Η συντριπτική πλειοψηφία των ερωτηθέντων ανέφερε συγκεκριμένα ανησυχίες σχετικά με πιο εξελιγμένες επιθέσεις από συστήματα τεχνητής νοημοσύνης που παραβιάζονται και μετατρέπονται σε κακόβουλες, αυτοματοποιημένες κυβερνοεπιθέσεις μεγάλης κλίμακας και πιο πειστικά email ηλεκτρονικού "ψαρέματος" που δημιουργούνται από την τεχνητή νοημοσύνη.

Και οι ανήσυχοι καταναλωτές μπορούν να σημαίνουν μεγάλα προβλήματα για τις εταιρείες που τους εξυπηρετούν. Εάν οι καταναλωτές δεν μπορούν να εμπιστευτούν ότι έχουν να κάνουν με μια νόμιμη εταιρεία ή ότι τα προσωπικά τους στοιχεία είναι ασφαλή, θα μπορούσαν να επιλέξουν να μεταφέρουν την επιχείρησή τους αλλού.  

Προς το παρόν, τουλάχιστον, φαίνεται ότι οι αμυντικοί έχουν το πλεονέκτημα. Εκτός από την ασφάλεια των νέων στοιχείων Τεχνητής Νοημοσύνης στα συστήματα των επιχειρηματικών πελατών τους, οι εταιρείες κυβερνοασφάλειας ενσωματώνουν την Τεχνητή Νοημοσύνη στα δικά τους προϊόντα, με στόχο την ταχύτερη και αποτελεσματικότερη αντιμετώπιση των διαδικτυακών απειλών.

Εν τω μεταξύ, οι απατεώνες και άλλοι κυβερνοεγκληματίες δεν έχουν ακόμη αρκετά κίνητρα για να καινοτομήσουν με τον ίδιο τρόπο. Ενώ χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης για να εργάζονται πιο γρήγορα και να αποδίδουν περισσότερο, οι ειδικοί λένε ότι σε μεγάλο βαθμό επιμένουν σε βελτιωμένες εκδόσεις των ίδιων παλιών απατών.

Η Nicole Perlroth, πρώην δημοσιογράφος για την κυβερνοασφάλεια, η οποία τώρα εργάζεται ως εταίρος σε θέματα επιχειρηματικών δραστηριοτήτων στην Ballistic Ventures και ηγείται του δικού της ταμείου κυβερνοαποστολών, Silver Buckshot, δήλωσε στην κεντρική ομιλία της στο Black Hat ότι είναι ενθαρρυμένη από τις νέες και αναδυόμενες τεχνολογίες που βλέπει στην κυβερνοασφάλεια.

Επεσήμανε τις νέες τεχνολογίες ανίχνευσης deepfake με τεχνητή νοημοσύνη που έρχονται στην αγορά και σημείωσε ότι η τεχνητή νοημοσύνη έχει βοηθήσει στον «εκδημοκρατισμό» των προϊόντων και των υπηρεσιών κυβερνοασφάλειας, καθιστώντας τα πιο προσιτά σε μικρότερες εταιρείες που δεν μπορούσαν να τα αντέξουν οικονομικά στο παρελθόν.

Ο Hyppönen σημείωσε ότι οι απάτες deepfake είναι επί του παρόντος πολύ σπάνιες, αλλά πρόσθεσε ότι αναμένει ότι όλα τα είδη διαδικτυακών απατήσεων, μαζί με το ransomware, θα επιδεινώνονται καθώς οι τεχνολογίες τεχνητής νοημοσύνης βελτιώνονται και φθηναίνουν.

Τα καλά νέα είναι ότι οι αμυντικοί έχουν ένα προβάδισμα όσον αφορά την Τεχνητή Νοημοσύνη.

«Οι επιτιθέμενοι χρησιμοποιούν επίσης Τεχνητή Νοημοσύνη, αλλά μόλις τώρα αρχίζουν», είπε. «Μέχρι στιγμής έχουμε δει μόνο αρκετά απλές επιθέσεις με Τεχνητή Νοημοσύνη.» Θα αλλάξει, αλλά αυτή τη στιγμή θα έλεγα ότι είμαστε προετοιμασμένοι.