Έντονη προειδοποίηση σχετικά με τους κινδύνους της τεχνητής νοημοσύνης και πόσο ευάλωτη είναι σε χακαρίσματα, εξέπεμψε ο πρώην διευθύνων σύμβουλος της Google, Έρικ Σμιντ.
Ο Σμιντ, ο οποίος διετέλεσε διευθύνων σύμβουλος της Google από το 2001 έως το 2011, προειδοποίησε για «τα κακά πράγματα που μπορεί να κάνει η τεχνητή νοημοσύνη», όταν ρωτήθηκε αν η τεχνητή νοημοσύνη είναι πιο καταστροφική από τα πυρηνικά όπλα κατά τη διάρκεια μιας συνομιλίας παράλληλα με τη Σύνοδο του περιοδικού Sifted.
«Υπάρχει πιθανότητα προβλήματος πολλαπλασιασμού στην τεχνητή νοημοσύνη; Απολύτως», δήλωσε ο Σμιντ την Τετάρτη. Οι κίνδυνοι πολλαπλασιασμού της Τεχνητής Νοημοσύνης περιλαμβάνουν την πτώση της τεχνολογίας στα χέρια κακόβουλων παραγόντων και την επαναχρησιμοποίησή της και την κακή χρήση της.
«Υπάρχουν ενδείξεις ότι μπορείτε να πάρετε μοντέλα, κλειστά ή ανοιχτά, και να τα χακάρετε για να αφαιρέσετε τα προστατευτικά τους κιγκλιδώματα. Έτσι, κατά τη διάρκεια της εκπαίδευσής τους, μαθαίνουν πολλά πράγματα. Ένα κακό παράδειγμα θα ήταν να μάθουν πώς να σκοτώνουν κάποιον», είπε ο Σμιντ.
«Όλες οι μεγάλες εταιρείες καθιστούν αδύνατο για αυτά τα μοντέλα να απαντήσουν σε αυτό το ερώτημα. Καλή απόφαση. Όλοι το κάνουν αυτό. Το κάνουν καλά και το κάνουν για τους σωστούς λόγους. Υπάρχουν ενδείξεις ότι μπορούν να ανακατασκευαστούν και υπάρχουν πολλά άλλα παραδείγματα αυτού του είδους».
Ευάλωτη σε χακαρίσματα η ΑΙ
Τα συστήματα Τεχνητής Νοημοσύνης είναι ευάλωτα σε επιθέσεις, με ορισμένες μεθόδους να περιλαμβάνουν άμεσες ενέσεις και «jailbreaking». Σε μια επίθεση άμεσης έγχυσης, οι χάκερ κρύβουν κακόβουλες οδηγίες σε εισόδους χρηστών ή εξωτερικά δεδομένα, όπως ιστοσελίδες ή έγγραφα, για να ξεγελάσουν την Τεχνητή Νοημοσύνη (ΤΝ) ώστε να κάνει πράγματα που δεν προορίζεται να κάνει — όπως η κοινοποίηση ιδιωτικών δεδομένων ή η εκτέλεση επιβλαβών εντολών, σημειώνει το CNBC.
Από την άλλη πλευρά, το jailbreaking περιλαμβάνει τον χειρισμό των απαντήσεων της ΤΝ, ώστε να αγνοεί τους κανόνες ασφαλείας της και να παράγει περιορισμένο ή επικίνδυνο περιεχόμενο.
Το 2023, λίγους μήνες μετά την κυκλοφορία του ChatGPT της OpenAI, οι χρήστες χρησιμοποίησαν ένα κόλπο «jailbreaking» για να παρακάμψουν τις οδηγίες ασφαλείας που είναι ενσωματωμένες στο chatbot.
Αυτό περιελάμβανε τη δημιουργία ενός alter-ego του ChatGPT που ονομάζεται DAN, ένα αρκτικόλεξο για το «Do Anything Now», το οποίο περιελάμβανε την απειλή του chatbot με θάνατο εάν δεν συμμορφωνόταν. Το alter-ego θα μπορούσε να παρέχει απαντήσεις σχετικά με το πώς να διαπράττονται παράνομες δραστηριότητες ή να απαριθμεί τις θετικές ιδιότητες του Αδόλφου Χίτλερ.
Ο Σμιντ είπε ότι δεν υπάρχει ακόμη ένα καλό «καθεστώς μη διάδοσης» που να βοηθά στον περιορισμό των κινδύνων της AI.
Η Τεχνητή Νοημοσύνη είναι «υποτιμημένη»
Παρά τη ζοφερή προειδοποίηση, ο Σμιντ ήταν αισιόδοξος για την Τεχνητή Νοημοσύνη γενικότερα και είπε ότι η τεχνολογία δεν λαμβάνει την δημοσιότητα που της αξίζει.
«Έγραψα δύο βιβλία με τον Χένρι Κίσινγκερ σχετικά με αυτό πριν πεθάνει και καταλήξαμε στην άποψη ότι η άφιξη μιας ξένης νοημοσύνης που δεν είμαστε ακριβώς εμείς και λίγο πολύ υπό τον έλεγχό μας είναι πολύ σημαντική για την ανθρωπότητα, επειδή οι άνθρωποι έχουν συνηθίσει να βρίσκονται στην κορυφή της αλυσίδας. Νομίζω ότι μέχρι στιγμής, αυτή η θέση αποδεικνύει ότι το επίπεδο ικανότητας αυτών των συστημάτων θα ξεπεράσει κατά πολύ αυτό που μπορούν να κάνουν οι άνθρωποι με την πάροδο του χρόνου», είπε ο Σμιντ.
Τα σχόλιά του έρχονται εν μέσω αυξανόμενων συζητήσεων για μια φούσκα της Τεχνητής Νοημοσύνης, καθώς οι επενδυτές επενδύουν σε εταιρείες που επικεντρώνονται στην Τεχνητή Νοημοσύνη και οι αποτιμήσεις φαίνονται υπερβολικές, με συγκρίσεις να γίνονται με την κατάρρευση της φούσκας των dot-com στις αρχές της δεκαετίας του 2000.
Ο Σμιντ δήλωσε ότι δεν πιστεύει ότι η ιστορία θα επαναληφθεί.
«Αυτό που ξέρω είναι ότι οι άνθρωποι που επενδύουν χρήματα που κέρδισαν με κόπο πιστεύουν ότι η οικονομική απόδοση σε μεγάλο χρονικό διάστημα είναι τεράστια. Γιατί αλλιώς να αναλάβουν το ρίσκο;»
