![Τεχνητή νοημοσύνη: Στα σκαριά χρήση και από υπηρεσίες πληροφοριών](https://www.ot.gr/wp-content/uploads/2022/12/usa-china.jpg)
Οι υπηρεσίες πληροφοριών των Ηνωμένων Πολιτειών παλεύουν με μια νέα πρόκληση: να καταστήσουν την τεχνητή νοημοσύνη ασφαλή για τους κατασκόπους της Αμερικής.
Όπως αποκαλύπτει δημοσίευμα του Bloomberg, ένας κλάδος του Γραφείου του Διευθυντή της Εθνικής Υπηρεσίας Πληροφοριών (Office of the Director of National Intelligence) αξιοποιεί εταιρείες και κολέγια για να βοηθήσει στην αξιοποίηση της ταχέως αναπτυσσόμενης τεχνολογίας AI που θα μπορούσε να προσφέρει ένα πλεονέκτημα έναντι παγκόσμιων ανταγωνιστών, όπως η Κίνα.
Η τεχνητή νοημοσύνη στον στρατό της Βόρειας Κορέας – Ο στόχος του Κιμ Γιονγκ Ουν
Η πρόκληση είναι να διασφαλιστεί ότι δεν ανοίγει μια κερκόπορτα στα κορυφαία μυστικά της χώρας ή δεν δημιουργεί πλαστά δεδομένα.
«Η κοινότητα των (υπηρεσιών) πληροφοριών θέλει να επωφεληθεί από τα μοντέλα μεγάλης γλώσσας εκεί έξω, αλλά υπάρχουν πολλά άγνωστα σημεία», είπε ο Τιμ ΜακΚίνον, επιστήμονας δεδομένων που διαχειρίζεται ένα από τα έργα του ODNI, γνωστό ως Bengal. «Ο τελικός στόχος είναι να μπορέσουμε να δουλέψουμε με ένα μοντέλο με εμπιστοσύνη».
Η εστίαση στην αξιοπιστία και την ασφάλεια είναι μέρος μιας ευρύτερης εκστρατείας του αμερικανικού στρατού και των υπηρεσιών πληροφοριών για την αξιοποίηση της δύναμης της τεχνητής νοημοσύνης στον ανταγωνισμό με την Κίνα, η οποία επιδιώκει να γίνει παγκόσμιος ηγέτης στον τομέα έως το 2030. Βοηθά επίσης στην αύξηση της τεχνητής νοημοσύνης – σχετικές προσλήψεις στην περιοχή της Ουάσιγκτον καθώς η κυβέρνηση και οι εργολάβοι της αγκαλιάζουν την συγκεκριμένη αναδυόμενη τεχνολογία.
Ανησυχίες και οφέλη
Οι πιο πιεστικές ανησυχίες επικεντρώνονται σε μοντέλα μεγάλων γλωσσών, τα οποία χρησιμοποιούν τεράστια σύνολα δεδομένων σε εργαλεία όπως το ChatGPT της OpenAI για να παρέχουν λεπτομερείς απαντήσεις σε υποδείξεις και ερωτήσεις των χρηστών.
«Η κοινότητα των υπηρεσιών πληροφοριών βλέπει την τεχνητή νοημοσύνη με υγιή σκεπτικισμό και μια δόση ενθουσιασμού», δήλωσε η Έμιλι Χάρντινγκ, διευθύντρια του Προγράμματος Πληροφοριών, Εθνικής Ασφάλειας και Τεχνολογίας στο Κέντρο Στρατηγικών και Διεθνών Σπουδών, αναφέροντας ως παράδειγμα την ικανότητα των αναλυτών να επεξεργάζονται μεγάλους όγκους πληροφοριών αλλά με αμφιβολίες για την αξιοπιστία των σημερινών μοντέλων.
«Είναι ένα εργαλείο στα πρώτα του στάδια χρήσης», είπε.
Ο επικεφαλής τεχνολογίας της CIA (Κεντρική Υπηρεσία Πληροφοριών), Ναντ Μαλχαντανί, βλέπει ότι η τεχνητή νοημοσύνη δυνητικά ενισχύει την παραγωγικότητα «χωνεύοντας» τεράστιους όγκους περιεχομένου και βρίσκοντας μοτίβα που θα ήταν δύσκολο ή αδύνατο να διακρίνουν οι άνθρωποι. Θεωρεί επίσης ότι είναι ένας τρόπος να ανταγωνιστεί το αριθμητικό πλεονέκτημα της Κίνας στη στελέχωση των υπηρεσιών πληροφοριών.
«Τα ανθρώπινα όντα είναι σπουδαία, αλλά είναι δύσκολο να κλιμακωθούν», είπε ο Μαλχαντανί στο Bloomberg. «Η βοήθεια στην κλιμάκωση των ανθρώπινων όντων με την τεχνολογία είναι η έξυπνη επιχειρηματική κίνηση».
Οι υπηρεσίες κατασκοπείας των ΗΠΑ έχουν ήδη αρχίσει να πειραματίζονται με δικά τους προγράμματα τεχνητής νοημοσύνης. Η Κεντρική Υπηρεσία Πληροφοριών ετοιμαζόταν να κυκλοφορήσει ένα χαρακτηριστικό παρόμοιο με το ChatGPT που θα δώσει στους αναλυτές καλύτερη πρόσβαση σε νοημοσύνη ανοιχτού κώδικα, ανέφερε το Bloomberg News τον Σεπτέμβριο.
Η ελκυστικότητα της τεχνητής νοημοσύνης στις υπηρεσίες πληροφοριών των ΗΠΑ πηγάζει εν μέρει από τη δυνατότητά της να διακρίνει τα σήματα από τον θόρυβο μεταξύ των δεδομένων που συλλέγονται καθημερινά, καθώς και να αναπτύσσει δημιουργικούς τρόπους αντιμετώπισης προβλημάτων, σύμφωνα με έναν αναλυτή πληροφοριών που μίλησε με την προϋπόθεση ότι δεν θα σχολίαζε εσωτερικά υπηρεσιακά θέματα. Ωστόσο, υπάρχουν τρόποι να επηρεάσετε και να παρέμβετε σε μοντέλα τεχνητής νοημοσύνης που εισάγουν νέους κινδύνους, είπε ο εν λόγω αναλυτής.
Ο ΜακΚίνον είπε ότι η τεχνητή νοημοσύνη είναι ευάλωτη τόσο σε εσωτερικές απειλές όσο και σε εξωτερικές παρεμβάσεις. Αυτές οι απειλές θα μπορούσαν να είναι άνθρωποι που προσπαθούν να εξαπατήσουν τα συστήματα για να αποκαλύψουν απόρρητες πληροφορίες. Ή το αντίθετο: ένα παραβιασμένο σύστημα «που προσπαθεί να αποσπάσει πληροφορίες από τους ανθρώπους που δεν θα έπρεπε», είπε.
Το πρόγραμμα Bengal
Το πρόγραμμα Bengal του ΜακΚίνον — συντομογραφία για τα Bias Effects και Notable Generative AI Limitations — διευθύνεται από την Intelligence Advanced Research Projects Activity, έναν ελάχιστα γνωστό οργανισμό που υπάγεται στο ODNI. Το Bengal έχει συγκεντρώσει στοιχεία από εταιρείες, συμπεριλαμβανομένης μιας μονάδας της Amazon, αλλά ο ΜακΚίνον αρνήθηκε να πει εάν συνεργάζεται με συγκεκριμένες εταιρείες.
Το πρόγραμμα στοχεύει να μετριάσει ορισμένους από τους κινδύνους της τεχνητής νοημοσύνης αναπτύσσοντας τρόπους αντιμετώπισης πιθανών προκαταλήψεων ή τοξικών αποτελεσμάτων, όπως «παραισθήσεις», όταν ένα πρόγραμμα κατασκευάζει πληροφορίες ή παρέχει ένα εσφαλμένο αποτέλεσμα, κάτι που δεν είναι ασυνήθιστο.
«Αυτή τη στιγμή υπάρχουν μόνο λίγα μοντέλα που είναι δημόσια διαθέσιμα, αλλά θα γίνουν πιο διαδεδομένα και οι τρόποι εκπαίδευσης τους θα μπορούσαν να είναι μεροληπτικοί», είπε ο ΜακΚίνον. «Εάν υπάρχει ένα “μολυσμένο” μοντέλο, θέλουμε να είμαστε σε θέση να το μετριάσουμε».
![ot.gr](/wp-content/themes/whsk_otgr/common/imgs/fav.ico/favicon-32x32.png)
![ot.gr](/wp-content/themes/whsk_otgr/common/imgs/fav.ico/favicon-32x32.png)
Latest News
![OpenAI: Κηρύττει τον πόλεμο στην Google – Λανσάρει μηχανή αναζήτησης με στόχο την πίτα των 175 δισ.](https://www.ot.gr/wp-content/uploads/2024/07/OPENAI-scaled-1-600x400.jpg)
Κηρύττει τον πόλεμο στην Google η OpenAI – Λανσάρει μηχανή αναζήτησης με στόχο την πίτα των 175 δισ.
Το πειραματικό προϊόν, γνωστό ως SearchGPT αποτελεί το νέο «όπλο» της OpenAI - Με ποιο τρόπο θα γίνονται οι αναζητήσεις
![Τεχνητή Νοημοσύνη: Μοντέλα AI της Google «πήραν» ασημένιο μετάλλιο στη Διεθνή Μαθηματική Ολυμπιάδα 2024](https://www.ot.gr/wp-content/uploads/2023/03/2023-03-14T130758Z_1436153338_RC2FUY97WIM6_RTRMADP_5_GOOGLE-AI-600x400.jpg)
Τεχνητή Νοημοσύνη: Μοντέλα AI της Google «πήραν» ασημένιο μετάλλιο στη Διεθνή Μαθηματική Ολυμπιάδα 2024
Τα μοντέλα Τεχνητής Νοημοσύνης AlphaProof και AlphaGeometry 2 έλυσαν τέσσερα από τα έξι προβλήματα που τους τέθηκαν
![Τεχνητή νοημοσύνη: Τι είναι το «data wall» και πώς μπορεί να την επηρεάσει](https://www.ot.gr/wp-content/uploads/2024/04/ot_ai1-600x352.png)
Τί είναι το «data wall» και πώς μπορεί να την επηρεάσει την ανάπτυξη της τεχνητής νοημοσύνης
Η τεχνητή νοημοσύνη «τρέχει» με πολύ γρήγορους ρυθμούς όμως η έλλειψη δεδομένων μπορεί να φρενάρει την ανάπτυξή της
![Ιλον Μασκ: Θέλει να γεμίσει τα εργοστάσια με ανθρωποειδή ρομπότ [γράφημα]](https://www.ot.gr/wp-content/uploads/2024/07/ot_Musk_Robot_optimus-600x352.png)
Ο Μασκ θέλει να γεμίσει τα εργοστάσια με ανθρωποειδή ρομπότ [Γράφημα]
O Ιλον Μασκ πιστεύει ότι το Optimus θα μπορεί από το 2025 να έχει εξελιχθεί τόσο ώστε να μπορεί να εκτελεί εργασίες βιομηχανικής παραγωγής
![Μασκ: Τα χαμηλότερα κέρδη για την Tesla και η καθυστέρηση στα «ρομποταξί»](https://www.ot.gr/wp-content/uploads/2024/07/2024-06-11T210046Z_1335884131_RC2FK1A1S7OG_RTRMADP_5_OPENAI-MUSK-600x400.jpg)
Τα χαμηλότερα κέρδη για την Tesla του Μασκ και η καθυστέρηση στα «ρομποταξί»
Οι μετοχές πέφτουν παρά τον ισχυρισμό του Μασκ ότι τα σχέδια για τον «αυτόνομο στόλο» θα μεταμορφώσουν την αγοραστική αξία της εταιρείας
![Τεχνητή νοημοσύνη: Η πρωτοκαθεδρία των ΗΠΑ και οι σοσιαλιστικές αξίες της Κίνας](https://www.ot.gr/wp-content/uploads/2023/02/ot_artificial23-600x352.png)
Η πρωτοκαθεδρία των ΗΠΑ στην ΑΙ και οι σοσιαλιστικές αξίες της Κίνας
Οι ΗΠΑ πρωτοπορούν και ξοδεύουν για ΑΙ
![Τεχνητή νοημοσύνη: Έως το 2025 πραγματικότητα οι AI «εργάτες» που θα μιλούν μεταξύ τους](https://www.ot.gr/wp-content/uploads/2024/04/ot_ai2-600x352.png)
AI «εργάτες» που θα μιλούν μεταξύ τους έρχονται το 2025
Τι προβλέπει η εταιρεία παροχής τεχνολογικών υπηρεσιών Capgemini
![Τεχνητή νοημοσύνη: Η Google εκπαιδεύει το ελληνικό Δημόσιο](https://www.ot.gr/wp-content/uploads/2024/07/2024-07-17T151912Z_2045698199_RC2Q56AG2GX0_RTRMADP_5_BRITAIN-TECH-REGULATION-600x375.jpg)
Η Google εκπαιδεύει το ελληνικό Δημόσιο στην AI
Το πρόγραμμα της Google ξεκίνησε με 500 δημοσίους υπαλλήλους και θα επεκταθεί από τον Σεπτέμβριο σε όλες τις δημόσιες υπηρεσίες.
![Nvidia: Επέλαση στην κινεζική αγορά με νέο AI chip](https://www.ot.gr/wp-content/uploads/2024/02/ot_nvidia1-600x352.png)
Με νέο AI chip επελαύνει στην κινεζική αγορά η Nvdia
Η Nvidia αποκάλυψε τον περασμένο Μάρτιο τη σειρά chip «Blackwell», η οποία πρόκειται να παραχθεί μαζικά αργότερα μέσα στο έτος
![AI στην υπηρεσία του Ισλαμικού Κράτους](https://www.ot.gr/wp-content/uploads/2023/12/artificial-768x487-1-600x380.jpg)
AI στην υπηρεσία του Ισλαμικού Κράτους
Ο κόσμος της Τεχνητής Νοημοσύνης είναι συναρπαστικός, αλλά και επικίνδυνος - Aνησυχία προκαλεί η μαζική χρήση της από εξτρεμιστές για προπαγάνδα και παραπληροφόρηση