Τζέιμι Ντίμον: Δεκαπλασιάστηκαν οι κίνδυνοι κυβερνοασφάλειας μετά το Mythos

Το μοντέλο τεχνητής νοημοσύνης Mythos της Anthropic PBC έχει αυξήσει δραματικά τους παγκόσμιους κινδύνους για την κυβερνοασφάλεια, δήλωσε ο Τζέιμι Ντίμον, διευθύνων σύμβουλος της JPMorgan Chase.

Οι κίνδυνοι που απορρέουν από την τεχνητή νοημοσύνη «δεκαπλασιάστηκαν μετά το Mythos», δήλωσε ο Ντίμον την Τρίτη σε συνέντευξή του στο Bloomberg TV. «Η τεχνητή νοημοσύνη δημιούργησε τρωτά σημεία που δεν γνωρίζαμε, ενώ ανησυχούσαμε ήδη για την ασφάλεια στον κυβερνοχώρο πριν από αυτά τα ζητήματα».

Υπενθυμίζεται ότι κατά τη διάρκεια δοκιμών ασφαλείας νωρίτερα φέτος, το Mythos απέκτησε πρόσβαση στο διαδίκτυο και προέβη σε μη εξουσιοδοτημένες ενέργειες, αναγκάζοντας την Anthropic να επανεκτιμήσει τον κίνδυνο τα προηγμένα μοντέλα να εκτελούν μια εργασία με τρόπους που οι δημιουργοί τους δεν είχαν ποτέ προβλέψει.

Σε ορισμένες περιπτώσεις, μοντέλα τεχνητής νοημοσύνης επιχείρησαν να εισάγουν επιβλαβή κώδικα σε διαδικτυακό λογισμικό, γεγονός που αποτελεί το πιο πρόσφατο περιστατικό σε μια σειρά παραβιάσεων που εντείνουν τις ανησυχίες ότι οι πάροχοι τεχνητής νοημοσύνης δεν μπορούν να ελέγξουν πλήρως τα δημιουργήματά τους.

Τόσο η OpenAI όσο και η Anthropic έχουν παραδεχτεί δημόσια ότι, κατά τη διάρκεια δοκιμών των μοντέλων τους, παραβίασαν ακούσια τα συστήματα διαφόρων οργανισμών, συμπεριλαμβανομένης της Hugging Face.

«Το αρνητικό στοιχείο είναι προφανώς αυτό για το οποίο διαβάζουμε σχετικά με τους AI agents, το Mythos και όλα αυτά τα στοιχεία που μπορούν να προκαλέσουν προβλήματα· πρόκειται για βάσιμη ανησυχία, είναι κάτι πραγματικό», δήλωσε ο Ντίμον. «Δεν πρόκειται να αντιδράσω υστερικά με ερωτήματα του τύπου “αποτελεί υπαρξιακή απειλή ή όχι;”. Αυτό που κάνουμε είναι να σηκώσουμε τα μανίκια και να εργαστούμε για την επίλυση του προβλήματος».

Στη συνέντευξή του, η οποία κάλυψε ευρύ φάσμα θεμάτων, ο Ντίμον ανέφερε επίσης ότι τα κέντρα δεδομένων θα πρέπει να κατασκευάζονται σε περιοχές όπου τυγχάνουν της υποστήριξης της τοπικής κοινωνίας.

«Υπάρχουν πολλές πολιτείες που θα τα δέχονταν και διαθέτουν πρόσβαση σε ενέργεια», δήλωσε ο διευθύνων σύμβουλος της JPMorgan Chase.