Πώς οι χάκερ χρησιμοποιούν το Generative AI στις επιθέσεις τους και τι μπορούμε να κάνουμε γι 'αυτό

Η γενετική τεχνητή νοημοσύνη (AI) βρίσκεται στο επίκεντρο τον τελευταίο καιρό. Το ChatGPT που υποστηρίζεται από τεχνητή νοημοσύνη και άλλα υποστηριζόμενα συστήματα επεξεργασίας φυσικής γλώσσας, όπως το VALL-E, έφεραν το γενετικό AI στο ευρύ κοινό και απελευθέρωσαν τα οφέλη και τις αρνητικές επιπτώσεις του.

Μία από τις βασικές ανησυχίες σχετικά με τη γενετική τεχνητή νοημοσύνη είναι το γεγονός ότι μπορεί να χρησιμοποιηθεί για την αναβάθμιση κακόβουλων εκμεταλλεύσεων και την επίτευξη πιο εξελιγμένων κυβερνοεπιθέσεων. Λοιπόν, πώς χρησιμοποιούν οι χάκερ τη γενετική τεχνητή νοημοσύνη στις επιθέσεις τους και τι σημαίνει αυτό για το μέλλον της κυβερνοασφάλειας;

Τι είναι το Generative AI και πώς λειτουργεί;

Όπως υποδηλώνει το όνομά του, η γενετική τεχνητή νοημοσύνη είναι ένας τύπος τεχνητής νοημοσύνης που είναι ικανός να δημιουργεί νέο περιεχόμενο—εικόνες, κείμενο, ήχο και συνθετικά δεδομένα.

Ένα διάσημο παράδειγμα είναι το ChatGPT, ένα chatbot με τεχνητή νοημοσύνη, με το οποίο μπορείτε να κάνετε ανθρώπινες συνομιλίες και λάβετε μερικές εξαιρετικές προτάσεις ταινιών—δηλαδή, εάν δεν μπορείτε να σκεφτείτε μια πιο ουσιαστική αποστολή για να στείλετε το ChatGPT επί.

Επιτρέψτε μας να σας δώσουμε μια ή δύο ιδέες — θα μπορούσατε λάβετε το ChatGPT για να γράψει όλα αυτά τα δύσκολα email για εσάς, χρησιμοποιήστε Το ChatGPT ως εργαλείο μετάφρασης, και ακόμα μετατρέψτε το ChatGPT στον βοηθό σας στον υγιεινό προγραμματισμό γευμάτων. Συνολικά, μέσα σε λίγα δευτερόλεπτα, αυτό το chatbot μπορεί να δημιουργήσει φαινομενικά νέο, πειστικό περιεχόμενο και να το παρουσιάσει με έναν αρκετά πολιτικά ορθό τρόπο.

Ωστόσο, μια γενετική τεχνητή νοημοσύνη δεν μπορεί να είναι δημιουργική με τρόπο που μπορεί ένας άνθρωπος. Αυτό συμβαίνει επειδή χρησιμοποιεί αλγόριθμους μηχανικής μάθησης χωρίς επίβλεψη και ημι-επίβλεψη για την επεξεργασία πολλών δεδομένων και τη δημιουργία προσαρμοσμένων εξόδων.

Για παράδειγμα, αν θέλετε να παραγγείλετε έναν πίνακα που μοιάζει με τον Πικάσο από μια γενετική τεχνητή νοημοσύνη όπως το DALL-E 2, θα πρέπει να πληκτρολογήσετε η περιγραφή σας σε ένα καθορισμένο πεδίο - ας πούμε "Η Guernica του Πικάσο αλλά με γατάκια" - και μείνετε για μερικά δευτερόλεπτα. Κατά τη διάρκεια αυτής της περιόδου, η τεχνητή νοημοσύνη θα εφαρμόσει όλα τα συγκεκριμένα χαρακτηριστικά του στυλ του καλλιτέχνη που έμαθε πριν, προσθέστε γατάκια για καλό μέτρο, και καταλήξαμε σε κάτι πρωτότυπο - έχουμε αυτή την εικόνα που μπορείτε να δείτε ελαφρώς πάνω από.

Πώς χρησιμοποιούν οι χάκερ το Generative AI στις επιθέσεις τους;

Οι κακοί πάντα έλκονταν από καλούς αλγόριθμους. Επομένως, δεν αποτελεί έκπληξη που εκμεταλλεύονται τη γενετική τεχνητή νοημοσύνη για να ενισχύσουν τις επιθέσεις τους. Με τη χρήση μεθόδων ML, όπως η ενισχυτική μάθηση και τα δίκτυα δημιουργίας αντιπάλων, οι κυβερνοεγκληματίες μπορούν να επινοήσουν νέες, πιο εξελιγμένες κυβερνοεπιθέσεις που μπορούν να ξεπεράσουν τα πρότυπα κυβερνοάμυνες.

Ένα παράδειγμα αυτής της διαστροφής είναι το chatbot «αιχμής» του OpenAI, όπως Το ChatGPT αξιοποιείται από κυβερνοεγκληματίες για τη σύνταξη κακόβουλου λογισμικού. Στην αρχή, το ChatGPT φαινόταν διασκεδαστικό και παιχνίδι, αλλά τώρα εκτίθεται ως μία από τις σημαντικότερες απειλές για την ασφάλεια και το απόρρητο. Αν σας αρέσει να συνομιλείτε με το ChatGPT, είναι έξυπνο να το προσέχετε πράγματα που θα μπορούσαν να κάνουν οι κυβερνοεγκληματίες με το ChatGPT.

Εν ολίγοις, το ChatGPT και άλλα εργαλεία παραγωγής τεχνητής νοημοσύνης έχουν κάνει τη ζωή ευκολότερη για τους εγκληματίες του κυβερνοχώρου και δυσκολότερη για τις ομάδες ασφαλείας. Μερικοί από τους τρόπους με τους οποίους οι φορείς απειλών στον κυβερνοχώρο χρησιμοποιούν την τεχνητή νοημοσύνη στις επιθέσεις τους περιλαμβάνουν:

• Δημιουργία καλύτερου, πιο εξελιγμένου κακόβουλου λογισμικού: Στα χέρια των χάκερ, η γενετική τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί για να δημιουργήσει δύσκολα ανιχνεύσιμα στελέχη κακόβουλου λογισμικού και να εκτελέσει επιθέσεις. Σε συνδυασμό με μοντέλα τεχνητής νοημοσύνης, το κακόβουλο λογισμικό θα μπορούσε να κρύψει την πρόθεσή του μέχρι να εκπληρώσει τον κακό σκοπό του.
• Σύνταξη εξατομικευμένων μηνυμάτων ηλεκτρονικού ψαρέματος με τεχνητή νοημοσύνη: Με τη βοήθεια της τεχνητής νοημοσύνης που δημιουργείται, τα μηνύματα ηλεκτρονικού ψαρέματος δεν έχουν πλέον τα ενδεικτικά σημάδια απάτης—όπως κακή ορθογραφία, κακή γραμματική και έλλειψη περιεχομένου. Επιπλέον, με την τεχνητή νοημοσύνη όπως το ChatGPT, οι φορείς απειλών μπορούν να εξαπολύσουν επιθέσεις phishing σε πρωτοφανή ταχύτητα και κλίμακα.
• Δημιουργία βαθιάς ψεύτικων δεδομένων: Δεδομένου ότι μπορεί να δημιουργήσει πειστικές απομιμήσεις ανθρώπινων δραστηριοτήτων—όπως η γραφή, ο λόγος και εικόνες — το γενετικό AI μπορεί να χρησιμοποιηθεί σε δόλιες δραστηριότητες όπως κλοπή ταυτότητας, οικονομική απάτη και παραπληροφόρηση.
• Σπάσιμο CAPTCHA και εικασία κωδικού πρόσβασης: Το CAPTCHA χρησιμοποιείται από ιστότοπους και δίκτυα για την εξάλειψη ρομπότ που αναζητούν μη εξουσιοδοτημένη πρόσβαση, το CAPTCHA μπορεί πλέον να παρακαμφθεί από χάκερ. Χρησιμοποιώντας την ML, μπορούν επίσης να εκπληρώσουν άλλες επαναλαμβανόμενες εργασίες, όπως η εικασία κωδικού πρόσβασης και οι επιθέσεις ωμής βίας.
• Σαμποτάροντας ML στον εντοπισμό απειλών στον κυβερνοχώρο: Εάν ένα σύστημα ασφαλείας κατακλύζεται από πάρα πολλά ψευδώς θετικά στοιχεία, ένας χάκερ μπορεί να το αιφνιδιάσει με μια πραγματική κυβερνοεπίθεση.

Πώς μπορούμε να καταπολεμήσουμε την απειλή της γενετικής τεχνητής νοημοσύνης;

Καθώς οι επιθέσεις στον κυβερνοχώρο γίνονται πιο εξελιγμένες και οι συνέπειές τους πιο σοβαρές, τα παραδοσιακά συστήματα ασφαλείας θα μετατραπούν σε πράγματα της περασμένης εποχής. Με την ικανότητα να μαθαίνει κανείς από προηγούμενες επιθέσεις και να προσαρμόζεται, η τεχνητή νοημοσύνη είναι ένα ανεκτίμητο πλεονέκτημα τόσο για τους εγκληματίες του κυβερνοχώρου όσο και για τους αντιπάλους τους.

Η χρήση της τεχνητής νοημοσύνης στην ασφάλεια στον κυβερνοχώρο έχει ορισμένα σοβαρά πλεονεκτήματα, όπως ταχύτερη ανίχνευση απειλών, αναγνώριση απειλών και απόκριση απειλών—έτσι, η καταπολέμηση της πυρκαγιάς με φωτιά φαίνεται ως η σωστή απάντηση. Πριν οι εγκληματίες του κυβερνοχώρου μάθουν πώς να καταφέρουν καταστροφικά πλήγματα σε άτομα και εταιρείες σε ολόκληρη την περιοχή παγκοσμίως, οι επαγγελματίες της κυβερνοασφάλειας πρέπει να διδάξουν τα συστήματά τους που λειτουργούν με AI να προστατεύονται από αυτά επιθέσεις.

Ωστόσο, δεν εξαρτάται όλα από την τεχνητή νοημοσύνη. Σε τελική ανάλυση, μπορούμε επίσης να ενισχύσουμε τη δική μας ασφάλεια και απόρρητο με δοκιμασμένες μεθόδους όπως ο έλεγχος ταυτότητας πολλαπλών παραγόντων (MFA), η βιομετρική τεχνολογία, η χρήση διαχειριστή κωδικών πρόσβασης, χρησιμοποιώντας το καλύτερα κρυπτογραφημένα εργαλεία συνεργασίας, και μια καλή, παλιά κοινή λογική.

Καταπολέμηση AI με AI

Λοιπόν, θα γίνουμε μάρτυρες πολέμων κυβερνοασφάλειας AI στο εγγύς μέλλον; Λοιπόν, ελπίζουμε όχι. Ωστόσο, καθώς η τεχνητή νοημοσύνη συνεχίζει να προοδεύει και να γίνεται προσιτή σε όλους—τους εγκληματίες στον κυβερνοχώρο όσο και στους επαγγελματίες της κυβερνοασφάλειας—ο ρόλος της τεχνητής νοημοσύνης και της ML θα γίνει μεγαλύτερος τα επόμενα χρόνια.