Το Check Point Research (CPR), τμήμα έρευνας της Check Point Software, παρατήρησε πως οι εγκληματίες του κυβερνοχώρου τείνουν να χρησιμοποιούν bots του Telegram για να παρακάμψουν τους περιορισμούς του ChatGPT σε υπόγεια φόρουμ.

Τα bots χρησιμοποιούν το API του OpenAI για να επιτρέψουν τη δημιουργία κακόβουλων μηνυμάτων ηλεκτρονικού ταχυδρομείου ή κώδικα. Οι κατασκευαστές bot καλύπτουν επί του παρόντος έως και 20 δωρεάν αιτήματα, αλλά στη συνέχεια χρεώνουν 5,50 δολάρια για κάθε 100. Η CPR προειδοποιεί για συνεχείς προσπάθειες από εγκληματίες στον κυβερνοχώρο να παρακάμψουν τους περιορισμούς του ChatGPT προκειμένου να χρησιμοποιήσουν το OpenAI για να κλιμακώσουν κακόβουλους σκοπούς.

Το ChatGPT ξεπέρασε και το TikTok ως η πιο δημοφιλής εφαρμογή στον κόσμο

Συνομιλία Telegram ChatGPT Bot-as-a-Service

Η CPR βρήκε διαφημίσεις bots Telegram σε υπόγεια φόρουμ. Τα bots χρησιμοποιούν το API του OpenAI για να επιτρέψουν σε έναν παράγοντα απειλής να δημιουργήσει κακόβουλα μηνύματα ηλεκτρονικού ταχυδρομείου ή κώδικα. Οι δημιουργοί του bot προσφέρουν έως και 20 δωρεάν αιτήματα, αλλά στη συνέχεια χρεώνουν 5.50 $ για κάθε 100.

Εικόνα 1. Υπόγεια διαφήμιση του bot OpenAI στο Telegram σε φόρουμ

Εικόνα 2. Παράδειγμα ηλεκτρονικού “ψαρέματος” που δημιουργήθηκε σε ένα Telegram bot για να αποδείξει τη δυνατότητα χρήσης του API του OpenAI χωρίς περιορισμούς

Εικόνα 3. Παράδειγμα της δυνατότητας δημιουργίας κώδικα κακόβουλου λογισμικού χωρίς περιορισμούς κατάχρησης σε ένα Telegram bot χρησιμοποιώντας το API OpenAI

Εικόνα 4. Το μοντέλο επιχειρηματικής λειτουργίας του καναλιού ChatGPT με βάση το API

Google: Απαντά στη Microsoft με περισσότερη τεχνητή νοημοσύνη

Σενάρια για παράκαμψη περιορισμών ChatGPT

Η CPR παρατήρησε επίσης τους εγκληματίες του κυβερνοχώρου να δημιουργούν βασικές δέσμες ενεργειών που χρησιμοποιούν το OpenAIs API για να παρακάμψουν τους περιορισμούς κατάχρησης.

Εικόνα 5. Παράδειγμα δέσμης ενεργειών που υποβάλλει απευθείας ερώτημα στο API και παρακάμπτει τους περιορισμούς για την ανάπτυξη κακόβουλου λογισμικού

Ακολουθήστε τον ot.grστο Google News και μάθετε πρώτοι όλες τις ειδήσεις
Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, στον ot.gr

Latest News

Πρόσφατα Άρθρα Τεχνολογία
Τεχνητή νοημοσύνη: Εφαρμογή δημιουργίας κλινικών σημειώσεων
Tεχνητή νοημοσύνη |

Εφαρμογή τεχνητής νοημοσύνης γίνεται το... δεξί χέρι των γιατρών

Το DAX Express δημιουργεί κλινικές σημειώσεις μέσα σε δευτερόλεπτα, έτσι ώστε οι γιατροί να μπορούν να ελέγχουν αμέσως τις αυτοματοποιημένες περιλήψεις των επισκέψεών τους σε ασθενείς