Πρόσθετες δικλείδες ασφαλείας διαπραγματεύεται η OpenAI με το υπουργείο Άμυνας των ΗΠΑ, με στόχο την αποτροπή της μαζικής παρακολούθησης Αμερικανών πολιτών με την χρήση της Τεχνητής Νοημοσύνης της, ενώ «τρέχει» η συμφωνία που ανακοινώθηκε εσπευσμένα την Παρασκευή, μετά το «ναυάγιο» των σχέσεων Anthropic και Πενταγώνου.
Η εταιρεία του Σαμ Άλτμαν έχει ήδη αλλάξει τη συμβατική διατύπωση σχετικά με την επιτήρηση και επιδιώκει να προσθέσει και άλλες δικλείδες ασφαλείας κατά τη διάρκεια της τρίμηνης περιόδου εφαρμογής της συμφωνίας.
Νομικοί εμπειρογνώμονες και προσωπικό έχουν εξετάσει λεπτομερώς τη διατύπωση στη σύμβαση που απαγορεύει την «σκόπιμη» ή «στοχευμένη» επιτήρηση, ανέφεραν πηγές στους Financial Times, οι οποές εξέφρασαν ανησυχίεςότι η κυβέρνηση θα μπορούσε να επιτηρεί Αμερικανούς «τυχαία» ή «ακούσια» χρησιμοποιώντας σύγχρονα εργαλεία ΑΙ.
«Αυτό που δεν έχει ακόμη διευθετηθεί είναι η εφαρμογή [αυτών των συμβάσεων]», δήλωσε στους FT άτομο κοντά στην OpenAI.
Η επόμενη φάση θα καλύψει ζητήματα «πέρα από τη διατύπωση των συμβάσεων», συμπεριλαμβανομένου του πού θα αναπτυχθεί η τεχνολογία και των τεχνικών διασφαλίσεων και πότε τα μοντέλα ΑΙ ενδέχεται να αρνηθούν να εκτελέσουν εντολές.
Η OpenAI σε αντίθετη πορεία από την Anthropic
Η προσπάθεια προσθήκης προστατευτικών δικλείδων έρχεται καθώς η OpenAI έχει επανειλημμένα επιδιώξει να αποσαφηνίσει τους όρους της σύμβασής της και να κατευνάσει τις ανησυχίες, από το προσωπικό της, σχετικά με την πιθανή κατάχρηση της τεχνητής νοημοσύνης της εταιρείας.
Η προσέγγιση της εταιρείας του Άλτμαν έρχεται σε αντίθεση με την αντίπαλη Anthropic, η οποία αρνήθηκε να αποδεχθεί τους όρους της σύμβασης λόγω ανησυχιών για την επιτήρηση.
Ο Άλτμαν παραδέχτηκε ότι η βιασύνη για την επίτευξη συμφωνίας μετά την κατάρρευση των συνομιλιών της Anthropic «φαινόταν ευκαιριακή και πρόχειρη».
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, επιτέθηκε στα «ψευδή» μηνύματα της OpenAI σχετικά με την αρχική της σύμβαση σε σημείωμα προς το προσωπικό.
Κατηγόρησε τον Άλτμαν ότι «προσπαθεί να υπονομεύσει τη θέση μας, ενώ παράλληλα φαίνεται να την υποστηρίζει», σύμφωνα με το υπόμνημα που στάλθηκε στο προσωπικό την Παρασκευή.
Ο Άλτμαν ανακοίνωσε ενημερώσεις στη σύμβαση τη Δευτέρα, οι οποίες «απαγορεύουν την σκόπιμη παρακολούθηση, επιτήρηση ή παρακολούθηση Αμερικανών πολιτών ή υπηκόων, συμπεριλαμβανομένης της προμήθειας ή χρήσης εμπορικά αποκτηθέντων προσωπικών ή αναγνωρίσιμων πληροφοριών».
Ο ρόλος των υπηρεσιών ασφαλείας
Οι υπηρεσίες πληροφοριών όπως η Εθνική Υπηρεσία Ασφαλείας (NSA), της οποίας η συλλογή μαζικών μετα-δεδομένων από τα τηλέφωνα απλών Αμερικανών αποκαλύφθηκε από τον Έντουαρντ Σνόουντεν το 2013, θα αποκλειστούν επίσης από τη συμφωνία, πρόσθεσε.
Η Κόνι ΛαΡόσα, επικεφαλής της πολιτικής εθνικής ασφάλειας των ΗΠΑ της OpenAI, δήλωσε στους FT την Τετάρτη ότι οι όροι των διασφαλίσεων για την προστασία από την επιτήρηση «βρίσκονται ακόμη υπό διαπραγμάτευση».
Η OpenAI δήλωσε ότι η συμφωνία της με το Πεντάγωνο έχει υπογραφεί και ότι «πιστεύουμε ότι οι νέες ενημερώσεις από τη Δευτέρα ήταν σημαντικές. Θα συνεργαστούμε στενά με το τμήμα σε αυτή τη φάση εφαρμογής».
Ο υπουργός Άμυνας Πιτ Χέσγκεθ επέμεινε ότι οι εταιρείες τεχνητής νοημοσύνης πρέπει να διαθέτουν την τεχνολογία τους για «όλους τους νόμιμους σκοπούς».
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέιi, εξέφρασε ανησυχία για την πιθανότητα αλλαγής της πολιτικής του Πενταγώνου, η οποία σήμερα απαιτεί ανθρώπινη συμμετοχή στην ενεργοποίηση όπλων. Όπως σημείωσε, η πολιτική αυτή θα μπορούσε να αλλάξει μονομερώς από τον υπουργό Άμυνας, κάτι που προκαλεί ανησυχία για τη χρήση αυτόνομων οπλικών συστημάτων.
Ο Αμοντέι ζήτησε επίσης να υπάρχει ρήτρα που να απαγορεύει στις κρατικές υπηρεσίες να συλλέγουν μεγάλα δημόσια σύνολα δεδομένων και να χρησιμοποιούν εργαλεία της Anthropic για την ανάλυσή τους, καθώς κάτι τέτοιο θα μπορούσε να οδηγήσει σε μαζική εγχώρια παρακολούθηση.
Η μηχανιστική προσέγγιση του Άλτμαν στις δικλείδες ασφαλείας
Αντίθετα, η OpenAI υποστηρίζει ότι μπορεί να διατηρήσει αντίστοιχους περιορισμούς μέσω τεχνικών μηχανισμών ασφαλείας και στενής συνεργασίας με κυβερνητικούς αξιωματούχους. Ο Αμοντέι απέρριψε αυτή την προσέγγιση, υποστηρίζοντας ότι τα μέτρα αυτά δεν είναι αποτελεσματικά και ότι υιοθετήθηκαν κυρίως για να καθησυχάσουν τους εργαζομένους και όχι για να αποτρέψουν πραγματικές καταχρήσεις.
Νομικοί επισημαίνουν ότι υπάρχει σημαντική ασάφεια στο ισχύον νομικό πλαίσιο για την παρακολούθηση και τη χρήση της τεχνητής νοημοσύνης, γεγονός που δυσκολεύει τις εταιρείες να καθορίσουν σαφείς κανόνες συνεργασίας με το κράτος. Σύμφωνα με πρώην αξιωματούχους, η έλλειψη ξεκάθαρης πολιτικής έχει δημιουργήσει την εντύπωση ότι δεν υπάρχει ουσιαστικό ρυθμιστικό πλαίσιο.
Παράλληλα, ειδικοί στις πολιτικές ελευθερίες υποστήριξαν στους FT ότι οι υφιστάμενοι νόμοι δεν επαρκούν, καθώς η τεχνολογική εξέλιξη προχωρά ταχύτερα από τη νομοθεσία, επισημαίνοντας ότι υπάρχει αβεβαιότητα για το αν η σημερινή κυβέρνηση αναγνωρίζει ή εφαρμόζει τις υπάρχουσες εγγυήσεις προστασίας.
Πρώην αξιωματούχοι των ΗΠΑ σημειώνουν επίσης ότι ο Λευκός Οίκος δεν έχει ξεκαθαρίσει εάν διατηρεί σε ισχύ το Μνημόνιο Εθνικής Ασφάλειας για την τεχνητή νοημοσύνη, το οποίο είχε θεσπίσει κανόνες για την προστασία των πολιτικών ελευθεριών και των ανθρωπίνων δικαιωμάτων.
Ο πρώην επικεφαλής της Υπηρεσίας Εθνικής Ασφαλείας (NSA), Πολ Νακασόνε, τόνισε ότι η αμερικανική κοινωνία αντιμετωπίζει διαχρονικά την κρατική επιτήρηση με καχυποψία και ότι η εμπιστοσύνη προς τις υπηρεσίες πληροφοριών εξαρτάται από τη βεβαιότητα ότι ενεργούν πάντα σύμφωνα με τον νόμο.
