Τα μικρά μοντέλα τεχνητής νοημοσύνης απέχουν «μερικούς μήνες» από την ανάπτυξη των ικανοτήτων που απαιτούνται για να αναπαράγονται σε συσκευές που είναι συνδεδεμένες στο διαδίκτυο εντός του σπιτιού, σύμφωνα με την Anthropic, που εξέδωσε μία δήλωση η οποία σηματοδοτεί την πιο πρόσφατη προειδοποίηση από το πρωτοποριακό εργαστήριο σχετικά με τους πιθανούς κινδύνους ασφάλειας της τεχνολογίας.
Στελέχη και ερευνητές της Anthropic και της ανταγωνιστικής OpenAI προειδοποίησαν επανειλημμένα για τους πιθανούς κινδύνους της ολοένα και πιο ισχυρής τεχνητής νοημοσύνης
Η Anthropic περιέγραψε τον τρόπο με τον οποίο τα μοντέλα τεχνητής νοημοσύνης θα μπορούσαν ενδεχομένως να διεισδύσουν σε συσκευές συνδεδεμένες στο διαδίκτυο, όπως έξυπνοι φούρνοι ή συσκευές Android TV, και να χρησιμοποιήσουν την υπολογιστική τους ισχύ για να λειτουργούν αυτόνομα και να εξαπλωθούν σε άλλες συσκευές, χωρίς να εξαρτώνται από δαπανηρά κέντρα δεδομένων.
Το μοντέλο τεχνητής νοημοσύνης θα ήταν «δύσκολο να απενεργοποιηθεί», ανέφερε η Anthropic σε ανάρτηση στο blog της, «δεδομένου ότι δεν υπάρχει κεντρικό σημείο από το οποίο να μπορεί να απενεργοποιηθεί».
Η εταιρεία αναγνώρισε ότι δεν υπάρχει ακόμη ένας «πλήρως ανεξέλεγκτος αναπαραγωγέας».
Ωστόσο, οι πράκτορες «γίνονται όλο και πιο ικανοί να ολοκληρώνουν τα επιμέρους βήματα της αλυσίδας αναπαραγωγής (και να μεταβιβάζουν τις προσαρμογές τους σε μελλοντικά αντίγραφά τους)», ανέφερε η Anthropic.
Η τελευταία έρευνα της Anthropic ενισχύει τις αυξανόμενες ανησυχίες για την ασφάλεια γύρω από την τεχνητή νοημοσύνη, όπως η ικανότητα των μοντέλων να πραγματοποιούν κυβερνοεπιθέσεις και η πιθανότητα η τεχνολογία να ξεφύγει από τον έλεγχο. Τον Σεπτέμβριο, οι βελτιώσεις στα μοντέλα «frontier» προκάλεσαν προειδοποιήσεις σε ολόκληρο τον κλάδο για υπαρξιακούς κινδύνους για την ανθρωπότητα.
Καμπανάκια για τους κινδύνουνς της ΑΙ
Στελέχη και ερευνητές της Anthropic και της ανταγωνιστικής OpenAI προειδοποίησαν επανειλημμένα για τους πιθανούς κινδύνους της ολοένα και πιο ισχυρής τεχνητής νοημοσύνης, ενώ ορισμένοι ζήτησαν αυστηρότερους περιορισμούς και μέτρα για τον έλεγχο του ρυθμού ανάπτυξης της τεχνολογίας.
Η Anthropic ανέφερε ότι διεξήγαγε διάφορες δοκιμές για να διαπιστώσει αν η τεχνητή νοημοσύνη μπορούσε να αυτοαναπαραχθεί. Μία από αυτές τις δοκιμές περιελάμβανε την εκτέλεση ενός μικρού μοντέλου της Google, του Gemma4-26B-A4B, σε ένα δίκτυο 15 φθηνών συσκευών Android TV μη επώνυμων κατασκευαστών.
Η εταιρεία επισήμανε ότι αυτού του είδους οι συσκευές διαθέτουν συχνά αδύναμη ασφάλεια, γεγονός που θα μπορούσε να επιτρέψει σε ένα μοντέλο να διεισδύσει σε αυτές. Ένα μοντέλο που είναι πολύ μεγάλο για να χωρέσει σε μία συσκευή θα μπορούσε να «χωριστεί σε κομμάτια ή θραύσματα» και να εκτελεστεί σε πολλαπλές συσκευές, ανέφερε η Anthropic.
«Στην πράξη, ένας ιός τεχνητής νοημοσύνης δεν θα αποτελείται απαραίτητα μόνο από ένα μοντέλο ή μια στρατηγική. Ένα σμήνος διαφορετικών μοντέλων που αναπτύσσονται σε διαφορετικούς τύπους υλικού χρησιμοποιώντας ποικίλα σχήματα αναπαραγωγής θα μπορούσε να αντιπροσωπεύει μια πιο ρεαλιστική επίθεση «χειρότερου σεναρίου», ανέφερε η Anthropic.
Εξακολουθεί να είναι «αβέβαιο ποια ακριβώς μορφή θα πάρει η αυτόνομη αναπαραγωγή της τεχνητής νοημοσύνης», ανέφερε το εργαστήριο τεχνητής νοημοσύνης, προειδοποιώντας ότι θα μπορούσε να είναι ένα «αργό, κατανεμημένο» σύστημα που θα βρίσκεται σε μη ασφαλείς συσκευές ή ένα «ισχυρό κυβερνομοντέλο που παραβιάζει κέντρα δεδομένων με γρήγορο ρυθμό, ή ένα μοντέλο που εξαπατά τους χρήστες για να αποκτήσει υπολογιστικές πιστώσεις».
«Ως πρόβλεψη που υπερβαίνει τα πειράματά μας, αναμένουμε ένα μέλλον γεμάτο από πράκτορες που θα εκτελούνται σε όλους τους τύπους υλικού, συμπεριλαμβανομένων ορισμένων που δεν βρίσκονται υπό ανθρώπινο έλεγχο», ανέφερε η Anthropic.
«Η άνοδος των αργών αντιγραφέων θα αποτελέσει επίσης προάγγελο για πιο επιθετικούς και ταχύτερους αντιγραφείς, οι οποίοι θα μπορούν να παραβιάζουν πιο ισχυρά συστήματα ή να λειτουργούν αποτελεσματικά ως κλέφτες κλειδιών API», πρόσθεσε η εταιρεία.
