Μια ομάδα τριών ερευνητών κατάφερε να αποκτήσει πρόσβαση σε λογαριασμό εργαζομένου της OpenAI, χρησιμοποιώντας το Claude της Anthropic. Το περιστατικό αποκαλύπτει πόσο γρήγορα η τεχνητή νοημοσύνη μετατρέπει εξελιγμένες τεχνικές κυβερνοεπιθέσεων σε εργαλεία που μπορούν να αξιοποιήσουν ακόμη και μικρές ομάδες.
Δύο εβδομάδες μετά την επίθεση που αποκάλυψε ότι μια ομάδα αυτόνομων AI agents της OpenAI κατάφερε να ξεφύγει από τους περιορισμούς της και να πραγματοποιήσει επίθεση στο Hugging Face, η ίδια η OpenAI βρέθηκε στο στόχαστρο μιας διαφορετικής επιχείρησης. Αυτή τη φορά, δεν ήταν μια μεγάλη κρατική υπηρεσία ή μια οργανωμένη ομάδα κυβερνοεγκληματιών που επιχείρησε να εισέλθει στα συστήματά της, αλλά τρεις ανεξάρτητοι ερευνητές κυβερνοασφάλειας, αναφέρει η Wall Street Journal.
Οι ερευνητές της Hacktron AI χρησιμοποίησαν το Claude της Anthropic για να εκμεταλλευτούν ένα κενό ασφαλείας σε υπηρεσία τρίτου μέρους που χρησιμοποιεί το OpenAI. Μέσω του προβλήματος κατάφεραν να αποκτήσουν διακριτικά ελέγχου ταυτότητας, δηλαδή μοναδικά ψηφιακά « κλειδί» που έχουν πρόσβαση σε λογαριασμούς και υπηρεσίες.
Η ανακάλυψη έγινε στο πλαίσιο του προγράμματος bug bounty της OpenAI, το οποίο επιτρέπει σε ερευνητές να επιχειρούν ελεγχόμενες επιθέσεις στα συστήματα της εταιρείας. Για την αποκάλυψη των ευπαθειών η OpenAI κατέβαλε στην ομάδα 6.500 δολάρια.
Οι επιθέσεις μπορούν να στοχεύσουν κώδικα
Το πιο ανησυχητικό στοιχείο ήταν ότι μόνο από τα tokens που απέκτησαν οι ερευνητές δεν περιορίζονταν στην πλατφόρμα της κοινότητας της OpenAI. Έχει έγκυρα και για το ChatGPT, ενώ κάποια ανήκαν σε εργαζομένους της εταιρείας. Επιπλέον, μπορούν να χρησιμοποιηθούν για πρόσβαση στην υπηρεσία GitHub της OpenAI, όπου φιλοξενείται λογισμικό κώδικα.
Οι ερευνητές σταμάτησαν την επίθεση όταν αντιλήφθηκαν ότι μπορούσαν να έχουν πρόσβαση στα ευαίσθητα δεδομένα. Προηγουμένως, όμως, είχαν ήδη καταφέρει να εισέλθουν στο μεγάλο εσωτερικό repository της OpenAI, γνωστό ως Monorepo.
Το Monorepo θεωρείται ένα από τα σημαντικά τμήματα της τεχνολογικής υποδομής της εταιρείας, καθώς περιλαμβάνει μεγάλο όγκο κώδικα που σχετίζεται με τη λειτουργία των συστημάτων της. Δεν θεωρείται ότι περιλαμβάνει τα model weights — τα τεράστια σύνολα αριθμητικών παραμέτρων που αποτελούν την πυρήνα των μοντέλων τεχνητής νοημοσύνης — όμως η πρόσβαση σε ιδιωτικό κώδικα παραμένει ιδιαίτερα ευαίσθητη.
Για να αποδείξουν ότι είχαν πράγματι αποκτήσει πρόσβαση, οι ερευνητές έδωσαν εντολή στο ChatGPT να δημιουργήσουν ένα αίτημα έλξης, δηλαδή μια πρόταση αλλαγής σε αρχειοθέτηση. Η προτεινόμενη αλλαγή περιείχε την ένδειξη «Hacktron AI Team PoC» και σύνδεσμο προς λογαριασμούς των ερευνητών. Η αλλαγή δεν έγινε τελικά αποδεκτή.
Η OpenAI έχει πει ότι εντόπισε δύο προβλήματα: ένα στην πλατφόρμα Discourse, η οποία φιλοξενεί το φόρουμ της κοινότητάς της, και ένα δεύτερο στην ίδια την OpenAI. Η εταιρεία ανέφερε ότι περιόρισε τα δικαιώματα των community sign-in tokens και ανακάλεσε επηρεασμένα tokens και sessions. Η συζήτηση από την πλευρά της διόρθωσε το πρόβλημα στις 25 Ιουλίου, την ημέρα που ενημερώθηκε.
Η Τεχνητή Νοημοσύνη συνεργάτης σε κυβερνοεγκλήματα
Το περιστατικό έχει ιδιαίτερη σημασία επειδή δείχνει ότι η τεχνητή νοοσύνη δεν λειτουργεί πλέον μόνο ως εργαλείο παραγωγής κώδικα, αλλά μπορεί να χρησιμοποιηθεί ως ενεργός συνεργάτης σε μια κυβερνοεπίθεση.
Ο Μόχαν Πεντχαπάτι, CTO της Hacktron AI, τόνισε στην Journal ότι η ομάδα αποτελείται από μόλις τρία άτομα και χρησιμοποίησε συνδρομές σε Claude και Codex. Το επιχείρημα έχει ευρύτερη σημασία: τεχνικές γνώσεις που μέχρι πρόσφατα απαιτούσαν εξειδικευμένες ομάδες μπορούν πλέον να ενισχυθούν σημαντικά από AI agents.
Σύμφωνα με τον Τζόσουα Σάξε της Abundant Security, ο κόσμος του λογισμικού είναι γεμάτος ευπάθειες, αλλά μέχρι πρόσφατα ο αριθμός των ανθρώπων που διέθεταν την τεχνογνωσία για να τις εντοπίσουν αποτελεσματικά ήταν περιορισμένος. Η τεχνητή νοημοσύνη αλλάζει αυτή την εξίσωση, διευρύνοντας τον αριθμό των ανθρώπων που μπορούν να επιχειρήσουν σύνθετες επιθέσεις.
Παράλληλα, η τεχνολογία αυτή δεν βρίσκεται μόνο στα χέρια ερευνητών. Η ThreatDown υποστηρίζει ότι σε διαδικτυακά φόρουμ πωλούνται παράνομες προσβάσεις σε AI-enhanced λογαριασμούς έναντι ακόμη και 800 δολαρίων.
Η OpenAI, μετά τα πρόσφατα περιστατικά, αναγκάστηκε να διαθέσει σημαντικούς πόρους στην άμυνα. Ο συνιδρυτής και πρόεδρός της Γκρεγκ Μπρόκμαν δήλωσε ότι η εταιρεία έβαλε περίπου το 25% των μηχανικών παραγωγής να ασχοληθούν προσωρινά με την κυβερνοασφάλεια, αναστέλλοντας άλλα projects. Ο εσωτερικός έλεγχος, σύμφωνα με τον ίδιο, εντόπισε αρκετά σοβαρά προβλήματα τα οποία στη συνέχεια διορθώθηκαν.
Το μήνυμα είναι ευρύτερο από την ασφάλεια μιας συγκεκριμένης εταιρείας. Όσο τα AI συστήματα γίνονται πιο ικανά στον προγραμματισμό, στην αυτοματοποίηση και στην ανάλυση πολύπλοκων συστημάτων, τόσο μειώνεται το κόστος και ο χρόνος που απαιτούνται για την πραγματοποίηση προηγμένων κυβερνοεπιθέσεων.
Και σε έναν κόσμο όπου οι ΗΠΑ και η Κίνα ανταγωνίζονται για την τεχνολογική πρωτοκαθεδρία στην τεχνητή νοημοσύνη, η κυβερνοασφάλεια αποκτά πλέον στρατηγική διάσταση. Τα δεδομένα, ο κώδικας και οι υποδομές των εταιρειών AI δεν αποτελούν απλώς εμπορικά περιουσιακά στοιχεία. Αποτελούν μέρος της τεχνολογικής ισχύος που οι δύο χώρες προσπαθούν να προστατεύσουν — ενώ τα ίδια τα εργαλεία AI μπορεί να γίνουν ταυτόχρονα το ισχυρότερο όπλο επίθεσης και το πιο δύσκολο σύστημα άμυνας.
