Τα μικρά μοντέλα τεχνητής νοημοσύνης ενδέχεται να απέχουν μόλις λίγους μήνες από το να είναι επαρκώς ικανά να αυτοαναπαράγονται σε εμπορικές συσκευές του Διαδικτύου των Πραγμάτων (IoT), όπως έξυπνοι φούρνοι και οι Android TV, δήλωσε τη Δευτέρα η Anthropic.
Ειδικότερα, στα πειράματά της η εταιρεία εξέτασε αν τα μοντέλα AI θα μπορούσαν να εντοπίσουν ευάλωτες συσκευές, να αντιγράψουν τον εαυτό τους σε αυτές και να συνεχίσουν να εξαπλώνονται χωρίς ανθρώπινη παρέμβαση.
Διαπίστωσε, έπειτα, ότι μικρά μοντέλα κάτω των 30 δισεκατομμυρίων παραμέτρων θα μπορούσαν να ολοκληρώσουν τα πολυάριθμα βήματα που απαιτούνται για την εν λόγω αναπαραγωγή.
Ωστόσο, η Anthropic διαπίστωσε ότι τα εν λόγω μοντέλα AI δυσκολεύονταν να φέρουν εις πέρας ολόκληρη την αλληλουχία ενεργειών από την αρχή ως το τέλος, σύμφωνα με το Reuters.
Προ των πυλών η «ολική αυτο-αναπαραγωγή»
Στις απλουστευμένες δοκιμές της, όπου είχαν αφαιρεθεί ορισμένα βήματα ασφαλείας, η Anthropic διαπίστωσε ότι το GLM-5.2 και ισχυρότερα μοντέλα ήταν ικανά για ολική αναπαραγωγή.
Μάλιστα, η Anthropic προειδοποίησε ότι ο τερματισμός της λειτουργίας των αναπαραγόμενων μοντέλων θα ήταν δύσκολος, καθώς δεν υπάρχει… κεντρικός «διακόπτης απενεργοποίησης».
Επίσης, σε αντίθεση με το κοινό κακόβουλο λογισμικό, αυτά τα μοντέλα θα μπορούσαν επίσης να αποκωδικοποιήσουν άγνωστες συσκευές από μόνα τους, στοχεύοντας επεξεργαστές κέντρων δεδομένων, αναφέρει το Reuters.
Η προειδοποίηση της Anthropic
Στην έρευνά της, η εταιρεία επικεντρώθηκε σε συσκευές IoT, όπως τηλεοράσεις Android, έξυπνες οικιακές συσκευές και άλλα gadget συνδεδεμένα στο διαδίκτυο, καθώς αυτά διαθέτουν συνήθως χαμηλό επίπεδο ασφάλειας.
Ο κολοσσός της τεχνητής νοημοσύνης προειδοποίησε επίσης ότι, εάν τα μικρά μοντέλα βελτιώνονταν βάσει του ρυθμού εξέλιξης που έχουν καταγράψει έως τώρα, θα ήταν σε θέση να αναπαράγονται αυτόνομα έως το τέλος του τρέχοντος έτους, με τα αναπαραγόμενα μοντέλα που βασίζονται σε AI ανοιχτού βάρους να ακολουθούν σύντομα.
Επιπλέον, η Anthropic ανέφερε ότι τέτοια αυτόνομα συστήματα AI είναι πιθανό να αναπαράγονται αργά και να βασίζονται σε ευρέως διαθέσιμους, σχετικά μη ασφαλείς υπολογιστικούς πόρους. Πρόσθεσε δε ότι τα συστήματα θα πρέπει να θωρακιστούν, ώστε να καταστεί δυσκολότερη η εξάπλωση τέτοιων πρακτόρων AI.
