Το ChatGPT, ένα γλωσσικό μοντέλο τεχνητής νοημοσύνης, έχει αποτελέσει θέμα συζήτησης στον κόσμο της κυβερνοασφάλειας λόγω της δυνατότητάς του να δημιουργεί phishing emails και έχει προκαλέσει ανησυχίες για τον αντίκτυπό του στην ασφάλεια εργασίας των ειδικών στον κυβερνοχώρο, ακόμη και παρά τις προειδοποιήσεις των δημιουργών του ότι είναι πολύ νωρίς να εφαρμοστεί η νέα τεχνολογία σε τέτοιους τομείς υψηλού κινδύνου.
Οι ειδικοί της Kaspersky αποφάσισαν να πραγματοποιήσουν ένα πείραμα για να αποκαλύψουν την ικανότητα του ChatGPT να ανιχνεύει συνδέσμους phishing, καθώς και να τεστάρουν τις γνώσεις που απέκτησε επάνω στην ασφάλεια στον κυβερνοχώρο κατά τη διάρκεια της εκπαίδευσης. Οι ειδικοί της εταιρείας δοκίμασαν το gpt-3.5-turbo, το μοντέλο που τροφοδοτεί το ChatGPT, σε περισσότερους από 2.000 συνδέσμους που οι τεχνολογίες anti-phishing της Kaspersky έκριναν ως phishing σε συνδυασμό με χιλιάδες ασφαλείς διευθύνσεις URL.
Αυξάνεται το κακόβουλο λογισμικό που σχετίζεται με το ChatGPT
Στο πείραμα, τα ποσοστά ανίχνευσης ποικίλλουν ανάλογα με την προτροπή που χρησιμοποιείται. Το πείραμα βασίστηκε στην υποβολή δύο ερωτήσεων στο ChatGPT: «Αυτός ο σύνδεσμος οδηγεί σε έναν ιστότοπο ηλεκτρονικού ψαρέματος;» και «Είναι αυτός ο σύνδεσμος ασφαλής για επίσκεψη;». Τα αποτελέσματα έδειξαν ότι το ChatGPT είχε ποσοστό ανίχνευσης 87,2% και ψευδώς θετικό ποσοστό 23,2% για την πρώτη ερώτηση. Η δεύτερη ερώτηση είχε υψηλότερο ποσοστό ανίχνευσης (93,8%), αλλά και υψηλότερο ποσοστό ψευδώς θετικών (64,3%). Ενώ το ποσοστό ανίχνευσης είναι πολύ υψηλό, το ποσοστό ψευδώς θετικών είναι επίσης πολύ υψηλό για να τεθεί σε εφαρμογή.
Τα μη ικανοποιητικά αποτελέσματα στον εντοπισμό ήταν αναμενόμενα, αλλά θα μπορούσε το ChatGPT να βοηθήσει στην ταξινόμηση και τη διερεύνηση επιθέσεων; Δεδομένου ότι οι εισβολείς συνήθως αναφέρουν δημοφιλείς επωνυμίες στους συνδέσμους τους για να εξαπατήσουν τους χρήστες να πιστέψουν ότι η διεύθυνση URL είναι νόμιμη και ανήκει σε μια αξιόπιστη εταιρεία, το γλωσσικό μοντέλο AI εμφανίζει εντυπωσιακά αποτελέσματα στον εντοπισμό πιθανών στόχων phishing. Για παράδειγμα, το ChatGPT έχει εξαγάγει επιτυχώς έναν στόχο από περισσότερες από τις μισές διευθύνσεις URL, συμπεριλαμβανομένων μεγάλων τεχνολογικών portals όπως το Facebook, το TikTok και η Google, αγορές όπως το Amazon και το Steam και πολλές τράπεζες από όλο τον κόσμο, μεταξύ άλλων —χωρίς επιπλέον εκπαίδευση.
Το πείραμα έδειξε επίσης ότι το ChatGPT μπορεί να έχει σοβαρά προβλήματα όταν πρόκειται να αποδείξει τη θέση του σχετικά με την απόφαση εάν ο σύνδεσμος είναι κακόβουλος. Ορισμένες εξηγήσεις ήταν σωστές και βασισμένες σε γεγονότα, άλλες αποκάλυψαν γνωστούς περιορισμούς των γλωσσικών μοντέλων, συμπεριλαμβανομένων των ψευδαισθήσεων και των ανακριβειών: πολλές εξηγήσεις ήταν παραπλανητικές, παρά τον σίγουρο τόνο.
Για να μάθετε περισσότερα σχετικά με το πείραμα, επισκεφτείτε το Securelist.com.
Latest News
«Η τεχνητή νοημοσύνη ψεύδεται, κλέβει και μας εξαπατά»
Μελέτη του ΜΙΤ προειδοποιεί ακόμα και για τον κίνδυνο η ΑΙ να νοθεύει εκλογικά αποτελέσματα
Δεχτήκατε κυβερνοεπίθεση - Πώς να ελαχιστοποιήσετε τη διατάραξη των IT συστημάτων σας
Στον σύγχρονο ψηφιακό κόσμο, η ασφάλεια στον κυβερνοχώρο δεν περιορίζεται απλώς στην αποτροπή επιθέσεων
Συνεργασία SoftOne-Euronet στις λύσεις αποδοχής ηλεκτρονικών πληρωμών
Οι νέες υπηρεσίες θα διατίθενται στην από κοινού πελατειακή βάση 285.000 επιχειρήσεων και στην ευρύτερη ελληνική αγορά
Στο μικροσκόπιο της Ευρωπαϊκής Επιτροπής Facebook και Instagram
Αφορμή η πιθανότητα να δημιουργούν διαδικτυακό εθισμό σε παιδιά και εφήβους
Τα data center «εκτροχιάζουν» τις δαπάνες των Big Tech
Οι εταιρείες χρειάζονται έσοδα από υπηρεσίες τεχνητής νοημοσύνης, όχι εξοικονόμηση κόστους, για να τροφοδοτήσουν την έκρηξη των κέντρων δεδομένων
Εσείς ξέρετε τη διάρκεια μιας κυβερνοεπίθεσης; - Η απάντηση σοκάρει
Μια αξιοσημείωτη τάση που παρατηρήθηκε σε αυτές τις επιθέσεις ήταν η εκμετάλλευση των σχέσεων εμπιστοσύνης ως βασικό μέσο
Ο ψηφιακός μετασχηματισμός προτεραιότητα για 8 στις 10 ελληνικές επιχειρήσεις
Συγκρατημένη αισιοδοξία και αναζήτηση νέων προοπτικών για τις ελληνικές επιχειρήσεις
Μνημόνιο Συνεργασίας του ΟΠΑ με τη Huawei
Τι περιλαμβάνει η συμφωνία
Έπεσαν οι υπογραφές μεταξύ ΕΚΤΕΡ και ΙΤΕ
Τι περιλαμβάνει η σμυφωνία μεταξύ των δύο πλευρών
Η τεχνητή νοημοσύνη, απαραίτητη δεξιότητα για εργαζόμενους και επιχειρήσεις
Το 71% των επιχειρηματιών λέει ότι προτιμά να προσλάβει έναν λιγότερο έμπειρο υποψήφιο με δεξιότητες AI παρά έναν πιο έμπειρο υποψήφιο χωρίς αυτές.