Εκτελεστική εντολή με σκοπό να υποχρεώσει τις εταιρείες Τεχνητής Νοημοσύνης (AI) να λάβουν πρόσθετα μέτρα ασφαλείας ώστε να διαχειριστούν τους κινδύνους που ανακύπτουν από τη χρήση της, υπέγραψε σήμερα ο Δημοκρατικός κυβερνήτης της Καλιφόρνιας Γκάβιν Νιούσομ.
Η Καλιφόρνια έχει εγκρίνει τους περισσότερους νόμους
Ο κυβερνήτης, που έχει διαφοροποιηθεί από την κυβέρνηση του Αμερικανού προέδρου Ντόναλντ Τραμπ για το θέμα αυτό, θα ζητήσει τις προτάσεις ειδικών, ιδίως σε ό,τι αφορά τη χρήση συστημάτων («kill switch») ικανών να διακόπτουν τη λειτουργία ενός μοντέλου ΤΝ σε περίπτωση «παρεκτροπής» του. Η Καλιφόρνια είναι, σε πολύ μεγάλο βαθμό, η αμερικανική Πολιτεία που έχει εγκρίνει τους περισσότερους νόμους για τη ρύθμιση της ΤΝ.
Στις αρχές Σεπτεμβρίου, ο Νιούσομ υπέγραψε δύο ψηφίσματα του τοπικού κοινοβουλίου, τα οποία θέτουν τις βάσεις για έναν μηχανισμό ανεξάρτητου ελέγχου των εταιρειών ΤΝ και των μοντέλων τους, με έμφαση στην ασφάλεια της τεχνολογίας αυτής. Με το σημερινό διάταγμα ο κυβερνήτης, ο οποίος ενδέχεται να διεκδικήσει το χρίσμα των Δημοκρατικών για τις προεδρικές εκλογές του 2028, σκοπεύει να επιταχύνει την εφαρμογή αυτού του μηχανισμού και να τον ενισχύσει.
«Απώλεια ελέγχου» των μοντέλων
Η επιτροπή εμπειρογνωμόνων θα εξετάσει ιδίως τη δυνατότητα να επιβληθεί στις πιο προηγμένες εταιρείες τεχνητής νοημοσύνης να δημοσιοποιούν τυχόν περιστατικά στα οποία παρατηρείται «απώλεια ελέγχου» των μοντέλων τους.
Το διάταγμα απηχεί τη δέσμευση που ανέλαβε το περασμένο Σάββατο ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, να επιτρέψει σε ανεξάρτητους παρατηρητές να αξιολογούν τις ενέργειες της εταιρείας όσον αφορά την ασφάλεια της ΤΝ. Ο Αμοντέι ζήτησε επίσης να επιβραδυνθεί ο ρυθμός ανάπτυξης τη ΤΝ, κάτι που βρήκε σύμφωνους τον Σαμ Άλτμαν της OpenAI και τον Ίλον Μασκ. Ωστόσο ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ και αρκετοί Ρεπουμπλικάνοι αιρετοί καταδίκασαν την πρόταση και χαρακτηρίζουν «φάρσα» τις προειδοποιήσεις για την επικινδυνότητα της τεχνολογίας αυτής, αναφέρει το ΑΠΕ-ΜΠΕ.
«Ενώ ο Τραμπ και το Κογκρέσο κοιμούνται, ο Γκάβιν Νιούσομ παίρνει για άλλη μια φορά την πρωτοβουλία να ενισχύσει την ασφάλεια της ΤΝ για όλους τους Αμερικανούς», αναφέρει το δελτίο Τύπου του κυβερνήτη.
