Στη συνάντηση στο παλιό αρχοντικό στο Νο4 της οδού Χάμιλτον Πλέις, έδρα της Βασιλικής Αεροναυτικής Εταιρείας στο Λονδίνο, οι παριστάμενοι έμειναν με το στόμα ανοιχτό ακούγοντας την ιστορία που είχε να τους πει ο Αμερικανός αντισμήναρχος Τάκερ Χάμιλτον για την ραγδαία εξέλιξη της τεχνητής νοημοσύνης (ΑΙ).
Περιέγραψε μια δυστοπική προσομοίωση, στην οποία ένα μη επανδρωμένο αεροσκάφος με ΑΙ είχε εντολή να αναγνωρίσει και να εξαλείψει θέσεις εχθρικής αεράμυνας.
Digital economy forum 2023- Γενετική Τεχνητή Νοημοσύνη: 10,7 δισ. ευρώ στην οικονομία μέχρι το 2030
Όταν ο χειριστής του άρχισε να παρεμβαίνει σε αυτόν τον στόχο, ανέφερε, το drone κατέστρεψε το σύστημα επικοινωνιών και τον σκότωσε, προκειμένου να μπορέσει να φέρει σε πέρας την αποστολή του.
Το ακροατήριό του -αξιωματούχοι, ακαδημαϊκοί και εργολάβοι στον αμυντικό τομέα- όχι μόνο πίστεψε τον αντισμήναρχο Χάμιλτον, αλλά η ιστορία έκανε τον περασμένο Μάιο τον γύρο όλου του του κόσμου.
Σε μια εποχή αυξανόμενης δημόσιας ανησυχίας για το θέμα, δεν ήταν δύσκολο να γίνει πιστευτή.
Πολλώ μάλλον όταν είχε ειπωθεί από τα χείλη ενός ανώτερου στελέχους της Πολεμικής Αεροπορίας των ΗΠΑ, υπεύθυνου για τις δοκιμές και επιχειρήσεις τεχνητής νοημοσύνης.
Όμως ο αντισμήναρχος Τάκερ Χάμιλτον διευκρίνισε όψιμα ότι η ιστορία ήταν κατασκευασμένη. Η προσομοίωση αυτή δεν είχε γίνει ποτέ, υποστήριξε.
Τα όσα είπε ήταν ένα πείραμα σκέψης και μια προειδοποίηση για τα πιθανά μελλούμενα.
Τα συστήματα τεχνητής νοημοσύνης γίνονται όλο και πιο ισχυρά και, όπως λένε πολλοί επικριτές, όλο και πιο δύσκολα ελέγξιμα.
Παρά τα αναπάντητα ερωτήματα, καθώς και τα νομικά και ηθικά ζητήματα που εκκρεμούν γύρω από τη χρήση της ΑΙ, ο ισχυρότερος στρατός στη Γη, αυτός των ΗΠΑ, «ποντάρει» πολλά στην τεχνητή νοημοσύνη.
Το αμερικανικό υπουργείο Άμυνας έχει ζητήσει 1,8 δισεκατομμύρια δολάρια για την τεχνητή νοημοσύνη και τη μηχανική μάθηση το 2024.
Κούρσα υπεροχής
«Οι ΗΠΑ έχουν δηλώσει ένα πολύ ενεργό ενδιαφέρον για την ενσωμάτωση της τεχνητής νοημοσύνης σε όλες τις πολεμικές λειτουργίες», παρατηρεί ο Μπενιαμίν Μπουντρό, συγγραφέας έκθεσης για τις στρατιωτικές εφαρμογές την ΑΙ και ερευνητής πολιτικής στην RAND Corporation: την ισχυρότερη δεξαμενή σκέψης στις ΗΠΑ και κατά πολλούς «εγκέφαλο» του Πενταγώνου και του βαθέως αμερικανικού κράτους.
Στο ίδιο μονοπάτι βαδίζουν κι άλλες χώρες φυσικά, συμπεριλαμβανομένης της Κίνας, που επενδύουν επίσης σημαντικά στη στρατιωτική τεχνητή νοημοσύνη.
Όμως ο αμερικανικός στρατός έχει γίνει ιδιαίτερα ανυπόμονος ως προς «τα έργα που θα πρέπει να χρηματοδοτηθούν», ανέφερε σε email στον ιστότοπο Undark ο Σιν Σμιθ, επικεφαλής μηχανικός στη BlueHalo, μια αμυντική εταιρεία που πουλάει τεχνητή νοημοσύνη και αυτόνομα συστήματα.
Το 2020 η DARPA -η αρμόδια υπηρεσία του αμερικανικού υπουργείου Άμυνας για την ανάπτυξη νέων τεχνολογιών για στρατιωτική χρήση- χρηματοδότησε ένα πρόγραμμα με έναν πιλότο τεχνητής νοημοσύνης.
Αναμετρήθηκε σε πέντε προσομοιώσεις αερομαχιών με έναν κανονικό πιλότο της Πολεμικής Αεροπορίας. Το σκορ ήταν 5-0 υπέρ της ΑΙ.
Μέρος του στόχου του προγράμματος, σύμφωνα με την DARPA, ήταν να κάνει τους πιλότους να εμπιστευτούν και να σεβαστούν τα ρομπότ και να θέσει τις βάσεις για περισσότερη συνεργασία μεταξύ ανθρώπου-μηχανών στους αιθέρες.
Σήμερα, οι εφαρμογές της τεχνητής νοημοσύνης στις υπηρεσίες του αμερικανικού Πενταγώνου έχουν σαφώς επεκταθεί.
Περιλαμβάνουν καθημερινές λειτουργίες, όπως η χρήση του ChatGPT.
Όμως το μέλλον, γράφει το Undark, επιφυλάσσει υψηλότερα και πιο εντυπωσιακά διακυβεύματα.
Σε αυτά συγκαταλέγονται τα θανατηφόρα αυτόνομα οπλικά συστήματα και πλήρης ενσωμάτωση της ΑΙ σε άρματα μάχης και σε μη επανδρωμένα αεροσκάφη.
Σε εξέλιξη είναι επίσης οι έρευνες για το πρόγραμμα JADC2, το οποίο στοχεύει στη συγκέντρωση και ομαδοποίηση δεδομένων από όλες τις Ένοπλες Δυνάμεις των ΗΠΑ.
Ένα ενοποιημένο σύστημα, που θα μπορούσε ωστόσο να είναι πιο ευάλωτο, όπως π.χ. σε κυβερνοεπιθέσεις.
Αυτά, ενώ ο διεθνής ανταγωνισμός για τη στρατιωτική χρήση της τεχνητής νοημοσύνης εντείνεται…
Αναζητώντας «δίχτυ ασφαλείας»
Ελλείψει εν τω μεταξύ ρυθμιστικού πλαισίου, ο Αμερικανός πρόεδρος Μπάιντεν υπέγραψε διάταγμα στα τέλη Οκτωβρίου, ζητώντας την ανάπτυξη ενός Mνημονίου Eθνικής Aσφάλειας.
«Θα διασφαλίζει ότι ο στρατός και η κοινότητα πληροφοριών των ΗΠΑ θα χρησιμοποιούν την ΑΙ με ασφάλεια, ηθική και αποτελεσματικότητα στις αποστολές τους», αναφέρεται στο κείμενο.
Επίσης, «θα κατευθύνει δράσεις για την αντιμετώπιση της στρατιωτικής χρήσης της ΑΙ από τους αντιπάλους».
Όμως «γνωρίζουμε ότι αυτά τα συστήματα τεχνητής νοημοσύνης είναι ευάλωτα και αναξιόπιστα», τονίζει ο Μπουρντό.
Επιπλέον «δεν έχουμε πάντα καλές προβλέψεις για το ποια αποτελέσματα θα προκύψουν στην πραγματικότητα, όταν βρίσκονται σε πολύπλοκα περιβάλλοντα λειτουργίας».
Προς επίρρωση, πρόσφατη δημοσκόπηση του Ινστιτούτου Πολιτικής Τεχνητής Νοημοσύνης δείχνει ότι το 63% των Αμερικανών πιστεύει ότι «η ρύθμιση θα πρέπει να στοχεύει στην ενεργή αποτροπή της υπερνοημοσύνης της ΑΙ».
Εκφράζονται εύλογοι φόβοι για λανθασμένες πληροφορίες ή κακόβουλη τεχνητή νοημοσύνη.
«Ο μετριασμός του κινδύνου εξαφάνισης από την ΑΙ πρέπει να αποτελέσει παγκόσμια προτεραιότητα, μαζί με άλλους κινδύνους κοινωνικής κλίμακας, όπως οι πανδημίες και ο πυρηνικός πόλεμος», υπογραμμίζουν χαρακτηριστικά σε πρόσφατη κοινή δήλωση επιστήμονες και στελέχη του τεχνολογικού κλάδου.
Περίπου 34.000 έχουν μέχρι στιγμής συνυπογράψει, εν τω μεταξύ, την ανοιχτή επιστολή, που δημοσιοποιήθηκε τον περασμένο Μάρτιο, με αίτημα την «Παύση των γιγαντιαίων πειραμάτων Τεχνητής Νοημοσύνης».
Η κίνηση χαρακτηρίζεται στο κείμενο απαραίτητη για να διαπιστωθεί αν τα αποτελέσματα αυτών των πειραμάτων είναι θετικά και να γίνουν διαχειρίσιμοι τυχόν κίνδυνοι με την ανάπτυξη και εφαρμογή «από κοινού ενός συνόλου πρωτοκόλλων ασφαλείας για τον σχεδιασμό και την ανάπτυξη προηγμένης τεχνητής νοημοσύνης, που θα ελέγχονται αυστηρά και θα επιβλέπονται από ανεξάρτητους εξωτερικούς εμπειρογνώμονες».
Όμως αυτή η παύση δεν έχει γίνει μέχρι τώρα. Ούτε και προβλέπεται…
Αβέβαιο μέλλον
Στο μεσοδιάστημα, τα ηθικά διλήμματα πολλαπλασιάζονται ως προς την εφαρμογή της τεχνητής νοημοσύνης στην εθνική ασφάλεια.
Αφορούν στην ορθή χρήση της. Στη διαφάνεια στη «σκέψη» της ΑΙ. Στον βαθμό επίτευξης αντικειμενικότητας ή αντίθετα στη μεροληψία των αλγορίθμων, και δη φυλετικών.
Βάσει αυτής εκφράζονται εξάλλου φόβοι ακόμη και για μη ορθό οπτικό εντοπισμό «φιλικών δυνάμεων».
Υπάρχουν μέχρι και νομικά ζητήματα.
«Όταν ένας στρατιώτης σκοτώνει έναν ένοπλο σε μια στρατιωτική σύγκρουση, θεωρείται απώλεια, όχι δολοφονία, σύμφωνα με το Δίκαιο των Ενόπλων Συγκρούσεων», επισημαίνει ενδεικτικά η δημοσιογράφος-συγγραφέας Σάρα Σκόουλς στο Undark.
Όμως το τοπίο γίνεται θολό με τη χρήση τεχνητής νοημοσύνης στα μέτωπα του πολέμου.
Σε αυτό το πλαίσιο και βάσει συστάσεων από το Συμβούλιο Αμυντικής Καινοτομίας -έναν ανεξάρτητο συμβουλευτικό οργανισμό του Πενταγώνου- το υπουργείο Άμυνας των ΗΠΑ κυκλοφόρησε το 2020 αρχές ηθικής της ΑΙ.
Μεταξύ αυτών αναφέρει ότι στα συστήματα τεχνητής νοημοσύνης πρέπει να υπάρχει πρόσβαση σε «διαφανείς και ελέγξιμες μεθοδολογίες, πηγές δεδομένων, διαδικασία σχεδιασμού και τεκμηρίωση».
Να είναι επίσης «ανιχνεύσιμα» και διαχειρίσιμα από το στρατιωτικό προσωπικό, που θα μπορεί να τα απενεργοποιεί, εφόσον χρειαστεί.
Προσώρας ωστόσο πρόκειται για γενικές κατευθυντήριες γραμμές στα λόγια.
Αν και οι στρατιωτικοί εργολάβοι πρέπει να συμμορφώνονται με γενικές πολιτικές και πρακτικές, απουσιάζει ένα συγκεκριμένο πλαίσιο, συμπεριλαμβανομένης μιας συμφωνίας για το πώς πρέπει να χρησιμοποιείται η ΑΙ στον πόλεμο.
Όπως ο αμερικανικός στρατός, έτσι και το ΝΑΤΟ έχει απλώς εκδώσει οδηγίες, υπό τη μορφή «Αρχών υπεύθυνης χρήσης της τεχνητής νοημοσύνης στην άμυνα».
Θέτει ζητήματα νομιμότητας, αξιοπιστίας, ελέγχου, λογοδοσίας και μετριασμού των προκαταλήψεων «ως επίπεδο αναφοράς για τους Συμμάχους, καθώς η χρήση της τεχνητής νοημοσύνης στο πλαίσιο της άμυνας και της ασφάλειας».
Όμως αυτό δεν εξαλείφει τον κίνδυνο παράκαμψης διασφαλίσεων στην πορεία, πολλώ μάλλον όταν μη φιλικά έθνη ανεβάζουν τον πήχη του ανταγωνισμού…
Πηγή: in.gr
Latest News
Ο Σαμ Άλτμαν «επιλέγει» τον δρόμο της πυρηνικής ενέργειας για την AI
Αντί για συμβατικούς αντιδραστήρες, η εταιρεία Oklo, στην οποία είναι πρόεδρος ο Άλτμαν, στοχεύει να χρησιμοποιήσει μίνι πυρηνικούς αντιδραστήρες
Επενδύσεις της Alibaba στην Κίνα για να κυριαρχήσει στην AI
Ο γίγαντας του ηλεκτρονικού εμπορίου προσφέρει πόρους με αντάλλαγμα συμμετοχή σε start up επιχειρήσεις
Έρχονται τσιπ AI και από την Arm Holdings
Η Arm που εδρεύει στο Ηνωμένο Βασίλειο θα δημιουργήσει ένα τμήμα μικροτσίπ τεχνητής νοημοσύνης και θα στοχεύσει να κατασκευάσει ένα πρωτότυπο μέχρι την άνοιξη του 2025
Η Microsoft αναπτύσσει Generative AI για... κατασκόπους
Η Microsoft ισχυρίζεται ότι το μοντέλο που δημιούργησε για την κυβέρνηση των ΗΠΑ είναι «καθαρό», που σημαίνει ότι μπορεί να διαβάζει αρχεία χωρίς να μαθαίνει από αυτά
Το ChatGPT μπαίνει στο iPhone - Κλείνει το deal
Η Apple «κάνει βουτιά» στην τεχνητή νοημοσύνη - Τα νέα χαρακτηριστικά του iOS 18
Το TikTok «ξεσκεπάζει» την τεχνητή νοημοσύνη - Πώς θα γίνεται η αυτόματη επισήμανση
Για την πραγματοποίηση αυτών των ενεργειών συνεργάζεται με τον Συνασπισμό για την Προέλευση και Αυθεντικότητα Περιεχομένου
Γιατί οι εργαζόμενοι κρύβουν ότι χρησιμοποιούν ΑΙ
Οι εργαζόμενοι χρησιμοποιούν κρυφά την τεχνητή νοημοσύνη καθώς φοβούνται ότι τους κάνει να φαίνονται αντικαταστάσιμοι, σύμφωνα με νέα έρευνα της Microsoft και του LinkedIn
Μέγας κίνδυνος για τον κόσμο τα Deepfakes - Τι επισημαίνει η Teneo
Τα deepfakes είναι πλέον το πιο επικίνδυνο είδος fake news
Το 75% των υπαλλήλων γραφείου χρησιμοποιούν ήδη AI στην εργασία τους
Ορισμένες εταιρείες και οργανισμοί έθεσαν από νωρίς απαγορεύσεις στο ChatGPT, ενώ άλλοι, σύμφωνα με τη Microsoft, συμφωνούν ότι η τεχνητή νοημοσύνη είναι αναγκαιότητα
Νέα iPad και τσιπ τεχνητής νοημοσύνης ανακοίνωσε η Apple
Το Apple M4 είναι πιο αποδοτικό και διαθέτει μεγαλύτερα τμήματα αφιερωμένα στον χειρισμό εργασιών τεχνητής νοημοσύνης