Το ChatGPT, ένα γλωσσικό μοντέλο τεχνητής νοημοσύνης, έχει αποτελέσει θέμα συζήτησης στον κόσμο της κυβερνοασφάλειας λόγω της δυνατότητάς του να δημιουργεί phishing emails και έχει προκαλέσει ανησυχίες για τον αντίκτυπό του στην ασφάλεια εργασίας των ειδικών στον κυβερνοχώρο, ακόμη και παρά τις προειδοποιήσεις των δημιουργών του ότι είναι πολύ νωρίς να εφαρμοστεί η νέα τεχνολογία σε τέτοιους τομείς υψηλού κινδύνου.
Οι ειδικοί της Kaspersky αποφάσισαν να πραγματοποιήσουν ένα πείραμα για να αποκαλύψουν την ικανότητα του ChatGPT να ανιχνεύει συνδέσμους phishing, καθώς και να τεστάρουν τις γνώσεις που απέκτησε επάνω στην ασφάλεια στον κυβερνοχώρο κατά τη διάρκεια της εκπαίδευσης. Οι ειδικοί της εταιρείας δοκίμασαν το gpt-3.5-turbo, το μοντέλο που τροφοδοτεί το ChatGPT, σε περισσότερους από 2.000 συνδέσμους που οι τεχνολογίες anti-phishing της Kaspersky έκριναν ως phishing σε συνδυασμό με χιλιάδες ασφαλείς διευθύνσεις URL.
Αυξάνεται το κακόβουλο λογισμικό που σχετίζεται με το ChatGPT
Στο πείραμα, τα ποσοστά ανίχνευσης ποικίλλουν ανάλογα με την προτροπή που χρησιμοποιείται. Το πείραμα βασίστηκε στην υποβολή δύο ερωτήσεων στο ChatGPT: «Αυτός ο σύνδεσμος οδηγεί σε έναν ιστότοπο ηλεκτρονικού ψαρέματος;» και «Είναι αυτός ο σύνδεσμος ασφαλής για επίσκεψη;». Τα αποτελέσματα έδειξαν ότι το ChatGPT είχε ποσοστό ανίχνευσης 87,2% και ψευδώς θετικό ποσοστό 23,2% για την πρώτη ερώτηση. Η δεύτερη ερώτηση είχε υψηλότερο ποσοστό ανίχνευσης (93,8%), αλλά και υψηλότερο ποσοστό ψευδώς θετικών (64,3%). Ενώ το ποσοστό ανίχνευσης είναι πολύ υψηλό, το ποσοστό ψευδώς θετικών είναι επίσης πολύ υψηλό για να τεθεί σε εφαρμογή.
Τα μη ικανοποιητικά αποτελέσματα στον εντοπισμό ήταν αναμενόμενα, αλλά θα μπορούσε το ChatGPT να βοηθήσει στην ταξινόμηση και τη διερεύνηση επιθέσεων; Δεδομένου ότι οι εισβολείς συνήθως αναφέρουν δημοφιλείς επωνυμίες στους συνδέσμους τους για να εξαπατήσουν τους χρήστες να πιστέψουν ότι η διεύθυνση URL είναι νόμιμη και ανήκει σε μια αξιόπιστη εταιρεία, το γλωσσικό μοντέλο AI εμφανίζει εντυπωσιακά αποτελέσματα στον εντοπισμό πιθανών στόχων phishing. Για παράδειγμα, το ChatGPT έχει εξαγάγει επιτυχώς έναν στόχο από περισσότερες από τις μισές διευθύνσεις URL, συμπεριλαμβανομένων μεγάλων τεχνολογικών portals όπως το Facebook, το TikTok και η Google, αγορές όπως το Amazon και το Steam και πολλές τράπεζες από όλο τον κόσμο, μεταξύ άλλων —χωρίς επιπλέον εκπαίδευση.
Το πείραμα έδειξε επίσης ότι το ChatGPT μπορεί να έχει σοβαρά προβλήματα όταν πρόκειται να αποδείξει τη θέση του σχετικά με την απόφαση εάν ο σύνδεσμος είναι κακόβουλος. Ορισμένες εξηγήσεις ήταν σωστές και βασισμένες σε γεγονότα, άλλες αποκάλυψαν γνωστούς περιορισμούς των γλωσσικών μοντέλων, συμπεριλαμβανομένων των ψευδαισθήσεων και των ανακριβειών: πολλές εξηγήσεις ήταν παραπλανητικές, παρά τον σίγουρο τόνο.
Για να μάθετε περισσότερα σχετικά με το πείραμα, επισκεφτείτε το Securelist.com.
Latest News
Η πρώτη γραμμή άμυνας στην κυβερνοασφάλεια είναι οι κωδικοί πρόσβασης
Πως εξισσοροπείται η ευκολία και η ασφάλεια στην ψηφιακή εποχή
Εκατοντάδες απολύσεις στη Google, παρά την ισχυρότερη ανάπτυξή της στη διετία
Η μονάδα που «στοχοποιείται» βρίσκεται πίσω από τα κορυφαία προϊόντα της εταιρείας και την προστασία της διαδικτυακής ασφάλειας των χρηστών
Το 75% των οργανισμών αλλάζουν στρατηγικές για το ανθρώπινο δυναμικό λόγω Generative AI
Έρευνα της Deloitte για το Generative AI διαπιστώνει ότι η υιοθέτησή του προχωρά γρήγορα, αλλά το κλειδί για μεγαλύτερη πρόοδο είναι η πραγματοποίηση οργανωτικών αλλαγών
NASA: Έλαβε για πρώτη φορά μήνυμα με λέιζερ από το βαθύ Διάστημα
Έφτασε με ακραία ταχύτητα από απόσταση 1,5 φοράς μεταξύ Γης και Ήλιου – Η αποστολή στέφθηκε από επιτυχία, αποδεικνύοντας την αξιοπιστία του νέου συστήματος επικοινωνίας με λέιζερ αντί για ραδιοκύματα
Το TikTok ο νέος «βασιλιάς» των social media – Ποιος είναι ο άντρας πίσω από τη viral εφαρμογή;
Η εφαρμογή επιτρέπει στους χρήστες να δημιουργήσουν μουσική και βίντεο σύντομης διαρκείας.
Νέα επένδυση «μαμούθ» της Microsoft σε υποδομές cloud και AI
Η Microsoft επιθυμεί να επεκτείνει περαιτέρω τις δυνατότητες ανάπτυξης της τεχνητής νοημοσύνης, παγκοσμίως
Meta και Ray-Ban κυκλοφορούν περιορισμένη έκδοση «έξυπνων γυαλιών» Ferrari
Μόνο 1.000 ζεύγη των γυαλιών ηλίου περιορισμένης έκδοσης είναι διαθέσιμα
Ποια νέα μέτρα εξετάζουν οι ΗΠΑ για τις εξαγωγές τεχνολογίας στην Κίνα
Η Ουάσιγκτον προτρέπει την Ιαπωνία, τη Νότια Κορέα και την Ολλανδία να περικόψουν την προσφορά εργαλείων και τεχνολογίας
Eταιρείες ουρανίου «τρίβουν τα χέρια τους» - Τα data centers θα δώσουν ώθηση στην πυρηνική ενέργεια;
Τα chatbots όπως το ChatGPT απαιτούν περίπου 10 φορές περισσότερη ενέργεια από μηχανές αναζήτησης όπως το Google Search
Πώς εκατομμύρια Αμερικανοί κινδυνεύουν να βρεθούν... offline
Πολιτικά παιχνίδια ενδέχεται να στερήσουν από εκατομμύρια αμερικανικά νοικοκυριά την οικονομική πρόσβαση στο ευρυζωνικό διαδίκτυο