Οι εταιρείες μπορεί να έχουν ομάδες κυβερνοασφάλειας, αλλά πολλές δεν είναι ακόμη προετοιμασμένες για το πώς τα συστήματα Τεχνητής Νοημοσύνης αποτυγχάνουν στην πραγματικότητα, λέει ένας ερευνητής ασφάλειας σε Τεχνητή Νοημοσύνη.
Ο Σάντερ Σάλχοφ, ο οποίος έγραψε έναν από τους πρώτους οδηγούς άμεσης μηχανικής και επικεντρώνεται στα τρωτά σημεία των συστημάτων Τεχνητής Νοημοσύνης, δήλωσε σε ένα επεισόδιο του “Lenny’s Podcast” που δημοσιεύτηκε την Κυριακή ότι πολλοί οργανισμοί δεν έχουν το ταλέντο που απαιτείται για να κατανοήσουν και να διορθώσουν τους κινδύνους ασφάλειας της Τεχνητής Νοημοσύνης, αναφέρει το Business Insider.
Οι παραδοσιακές ομάδες κυβερνοασφάλειας εκπαιδεύονται να επιδιορθώνουν σφάλματα και να αντιμετωπίζουν γνωστά τρωτά σημεία, αλλά η Τεχνητή Νοημοσύνη δεν συμπεριφέρεται έτσι.
«Μπορείς να επιδιορθώσεις ένα σφάλμα, αλλά δεν μπορείς να επιδιορθώσεις έναν εγκέφαλο», είπε ο Σάλχοφ, περιγράφοντας αυτό που βλέπει ως αναντιστοιχία μεταξύ του τρόπου σκέψης των ομάδων ασφαλείας και του τρόπου με τον οποίο αποτυγχάνουν τα μεγάλα γλωσσικά μοντέλα.
Το πρόβλημα ασφαλείας στην Τεχνητή Νοημοσύνη
«Υπάρχει αυτή η αποσύνδεση σχετικά με το πώς λειτουργεί η Τεχνητή Νοημοσύνη σε σύγκριση με την κλασική κυβερνοασφάλεια», πρόσθεσε.
Αυτό το κενό εμφανίζεται σε πραγματικές εφαρμογές. Οι επαγγελματίες κυβερνοασφάλειας μπορούν να εξετάσουν ένα σύστημα Τεχνητής Νοημοσύνης για τεχνικά ελαττώματα χωρίς να ρωτήσουν: «Τι γίνεται αν κάποιος ξεγελάσει την Τεχνητή Νοημοσύνη να κάνει κάτι που δεν πρέπει;» είπε ο Σάλχοφ, ο οποίος διευθύνει μια πλατφόρμα άμεσης μηχανικής και ένα hackathon συνεργασίας για ομάδες Τεχνητής Νοημοσύνης.
Σε αντίθεση με το παραδοσιακό λογισμικό, τα συστήματα Τεχνητής Νοημοσύνης μπορούν να χειραγωγηθούν μέσω γλώσσας και έμμεσων οδηγιών, πρόσθεσε.
Ο Σάλχοφ είπε ότι άτομα με εμπειρία τόσο στην ασφάλεια της Τεχνητής Νοημοσύνης όσο και στην κυβερνοασφάλεια θα ξέρουν τι να κάνουν εάν ένα μοντέλο Τεχνητής Νοημοσύνης εξαπατηθεί ώστε να δημιουργήσει κακόβουλο κώδικα. Για παράδειγμα, θα εκτελέσουν τον κώδικα σε απομονωμένο περιβάλλον και θα διασφαλίσουν ότι η έξοδος της Τεχνητής Νοημοσύνης δεν επηρεάζει το υπόλοιπο σύστημα.
Η διασταύρωση της ασφάλειας της Τεχνητής Νοημοσύνης και της παραδοσιακής κυβερνοασφάλειας είναι το σημείο όπου «βρίσκονται οι θέσεις εργασίας ασφαλείας του μέλλοντος», πρόσθεσε.
Η άνοδος των startups ασφάλειας Τεχνητής Νοημοσύνης
Ο Σάλχοφ είπε επίσης ότι πολλές νεοφυείς επιχειρήσεις ασφάλειας Τεχνητής Νοημοσύνης προβάλλουν προστατευτικά στοιχεία που όμως δεν προσφέρουν πραγματική προστασία. Επειδή τα συστήματα Τεχνητής Νοημοσύνης μπορούν να χειραγωγηθούν με αμέτρητους τρόπους, οι ισχυρισμοί ότι αυτά τα εργαλεία μπορούν να «πιάσουν τα πάντα» είναι παραπλανητικοί.
«Αυτό είναι ένα απόλυτο ψέμα», είπε, προσθέτοντας ότι θα υπάρξει μια διόρθωση της αγοράς στην οποία «τα έσοδα απλώς θα στερέψουν εντελώς για αυτά τα προστατευτικά στοιχεία».
Οι νεοφυείς επιχειρήσεις ασφάλειας τεχνητής νοημοσύνης έχουν καβαλήσει το κύμα του επενδυτικού ενδιαφέροντος. Οι μεγάλες εταιρείες τεχνολογίας και επιχειρηματικών κεφαλαίων έχουν επενδύσει χρήματα στον χώρο, καθώς οι εταιρείες σπεύδουν να ασφαλίσουν συστήματα τεχνητής νοημοσύνης.
Τον Μάρτιο, η Google αγόρασε την startup κυβερνοασφάλειας Wiz για 32 δισεκατομμύρια δολάρια, μια συμφωνία που στοχεύει στην ενίσχυση της επιχείρησης ασφάλειας cloud.
Ο Διευθύνων Σύμβουλος της Google, Σουντάρ Πιτσάι, δήλωσε ότι η Τεχνητή Νοημοσύνη εισήγαγε «νέους κινδύνους» σε μια εποχή που οι ρυθμίσεις πολλαπλών cloud και υβριδικών συστημάτων γίνονται όλο και πιο συνηθισμένες.
«Σε αυτό το πλαίσιο, οι οργανισμοί αναζητούν λύσεις κυβερνοασφάλειας που βελτιώνουν την ασφάλεια cloud και εκτείνονται σε πολλαπλά cloud», πρόσθεσε.
Το Business Insider ανέφερε πέρυσι ότι οι αυξανόμενες ανησυχίες για την ασφάλεια γύρω από τα μοντέλα τεχνητής νοημοσύνης έχουν βοηθήσει στην τροφοδοσία ενός κύματος νεοφυών επιχειρήσεων που προσφέρουν εργαλεία για την παρακολούθηση, τη δοκιμή και την ασφάλεια συστημάτων τεχνητής νοημοσύνης.
