Guardian Agents: Οι φύλακες-άγγελοι για την καλή λειτουργία της AI

Η τεχνητή νοημοσύνη έφερε νέα εργαλεία στη διάθεση των επιχειρήσεων που φιλοδοξούν να αλλάξουν τον τρόπο του επιχειρείν. Ένα από αυτά τα εργαλεία για τα οποία γίνεται μεγάλη συζήτηση το τελευταίο διάστημα: οι AI Agents.

Οι AI Agents, οι «πράκτορες τεχνητής νοημοσύνης», είναι είναι αυτόνομα συστήματα λογισμικού που χρησιμοποιούν τεχνητή νοημοσύνη για την επίτευξη στόχων και την εκτέλεση εργασιών εκ μέρους των χρηστών. Το ενδιαφέρον σημείο είναι ότι μπορούν να αλληλεπιδρούν με το περιβάλλον τους, να λαμβάνουν αποφάσεις, να μαθαίνουν και να προσαρμόζουν τη συμπεριφορά τους με την πάροδο του χρόνου.

Οι πράκτορες τεχνητής νοημοσύνης χρησιμοποιούνται συχνά σε διάφορες εφαρμογές, όπως η ρομποτική, ο αυτοματισμός και η εξυπηρέτηση πελατών. Σε αυτό το σκηνικό έρχονται και οι λεγόμενοι Guardian Agents, δηλαδή τεχνολογίες που βασίζονται στην τεχνητή νοημοσύνη και έχουν σχεδιαστεί για να υποστηρίζουν αξιόπιστες και ασφαλείς αλληλεπιδράσεις μεταξύ των AI Agents.

Ουσιαστικά, δηλαδή, οι Guardian Agents είναι αυτοί που θα διασφαλίσουν ότι οι διαδικασίες τεχνητής νοημοσύνης θα παραμείνουν αξιόπιστες και ασφαλείς.

Για αυτούς λοιπόν του Guardian Agents, στην πραγματικότητα τους «φύλακες καλής λειτουργίας της AI», η εταιρεία ερευνών Gartner προβλέπει ότι μέχρι το 2030 οι συγκεκριμένες τεχνολογίες θα αντιπροσωπεύουν τουλάχιστον το 10 έως 15% της συνολικής αγοράς των AI Agents.

Οι Guardian Agents λειτουργούν τόσο ως βοηθοί τεχνητής νοημοσύνης (AI Assistants), υποστηρίζοντας τους χρήστες σε εργασίες όπως η αναθεώρηση, η παρακολούθηση και η ανάλυση περιεχομένου, όσο και ως εξελισσόμενοι ημιαυτόνομοι ή πλήρως αυτόνομοι πράκτορες, ικανοί να διαμορφώνουν και να εκτελούν σχέδια δράσης, καθώς και να ανακατευθύνουν ή να αποκλείουν ενέργειες για ευθυγράμμιση με προκαθορισμένους στόχους πρακτόρων.

Σύμφωνα με τη γενική εκτίμηση της Gartner, απαιτούνται μέτρα προστασίας καθώς η χρήση της τεχνητής νοημοσύνης από πρακτορικά μέσα συνεχίζει να αυξάνεται.

Η χρήση της AI κάνει απαραίτητα τα μέτρα προστασίας

Όπως αποκαλύπτει έρευνα της Gartner, σε 147 CIO και επικεφαλής λειτουργιών IT, το 24% των ερωτηθέντων είχε ήδη αναπτύξει μερικούς AI Agents (λιγότερους από δώδεκα) και ένα άλλο 4% είχε αναπτύξει πάνω από δώδεκα.

Η ίδια έρευνα διαπίστωσε ότι το 50% των ερωτηθέντων δήλωσαν ότι ερευνούν και πειραματίζονται με την τεχνολογία, ενώ ένα άλλο 17% των ερωτηθέντων δήλωσαν ότι δεν το έχουν κάνει, αλλά σχεδιάζουν να αναπτύξουν την τεχνολογία το αργότερο μέχρι το τέλος του 2026. Επιπλέον, διαπιστώνεται ότι απαιτούνται αυτοματοποιημένοι έλεγχοι εμπιστοσύνης, κινδύνου και ασφάλειας για να διατηρούνται αυτοί οι πράκτορες ευθυγραμμισμένοι και ασφαλείς, επιταχύνοντας την ανάγκη για την άνοδο των Guardian Agents.

«Η “πρακτορική τεχνητή νοημοσύνη” θα οδηγήσει σε ανεπιθύμητα αποτελέσματα εάν δεν ελεγχθεί με τα σωστά προστατευτικά κιγκλιδώματα», δήλωσε  η Αβίβα Λιτάν, αντιπρόεδρος της Gartner. «Οι Guardian Agents αξιοποιούν ένα ευρύ φάσμα δυνατοτήτων της agentic AI και βασισμένες στην τεχνητή νοημοσύνη, προσφέρουν αξιολογήσεις για την επίβλεψη και τη διαχείριση ολόκληρου του φάσματος των δυνατοτήτων των πρακτόρων, εξισορροπώντας τη λήψη αποφάσεων κατά τον χρόνο εκτέλεσης με τη διαχείριση κινδύνου».

Guardian Agents: Οι κίνδυνοι απαιτούν έλεγχο των AI Agents

To 52% των 125 ερωτηθέντων από την ίδια έρευνα δήλωσαν ότι οι AI Agents τους επικεντρώνονται ή θα επικεντρωθούν κυρίως σε περιπτώσεις χρήσης που σχετίζονται με εσωτερικές διοικητικές λειτουργίες, όπως η πληροφορική, το ανθρώπινο δυναμικό και η λογιστική, ενώ το 23% επικεντρώνεται σε εξωτερικές λειτουργίες που απευθύνονται σε πελάτες.

Καθώς οι περιπτώσεις χρήσης για τους πράκτορες τεχνητής νοημοσύνης συνεχίζουν να αυξάνονται, υπάρχουν αρκετές κατηγορίες απειλών που τους επηρεάζουν, συμπεριλαμβανομένης της χειραγώγησης εισόδου και της μόλυνσης δεδομένων, όπου οι πράκτορες βασίζονται σε χειραγωγημένα ή εσφαλμένα ερμηνευμένα δεδομένα.

Παραδείγματα περιλαμβάνουν:

• Υποκλοπή και κατάχρηση διαπιστευτηρίων που οδηγεί σε μη εξουσιοδοτημένο έλεγχο και κλοπή δεδομένων.
• Πράκτορες που αλληλεπιδρούν με ψεύτικους ή εγκληματικούς ιστότοπους και πηγές που μπορούν να οδηγήσουν σε «δηλητηριώδεις» ενέργειες.
• Απόκλιση από τον πράκτορα και ακούσια συμπεριφορά λόγω εσωτερικών ελαττωμάτων ή εξωτερικών παραγόντων που μπορούν να προκαλέσουν ζημιά στη φήμη και λειτουργική διαταραχή.

«Η ραγδαία επιτάχυνση και η αυξανόμενη δράση των AI Agents απαιτεί μια στροφή πέρα ​​από την παραδοσιακή ανθρώπινη εποπτεία», δήλωσε η Λιτάν. «Καθώς οι επιχειρήσεις κινούνται προς πολύπλοκα συστήματα πολλαπλών πρακτόρων που επικοινωνούν με ιλιγγιώδη ταχύτητα, οι άνθρωποι δεν μπορούν να αντιμετωπίσουν την πιθανότητα σφαλμάτων και κακόβουλων δραστηριοτήτων. Αυτό το κλιμακούμενο τοπίο απειλών υπογραμμίζει την επείγουσα ανάγκη για πράκτορες φύλαξης (Guardian Agents), οι οποίοι παρέχουν αυτοματοποιημένη εποπτεία, έλεγχο και ασφάλεια για εφαρμογές και πράκτορες AI».

Οι CIO και οι επικεφαλής ασφάλειας και τεχνητής νοημοσύνης θα πρέπει να επικεντρωθούν σε τρεις κύριους τύπους χρήσης των Guardian Agents για να συμβάλουν στην προστασία και διαφύλαξη των αλληλεπιδράσεων με την τεχνητή νοημοσύνη:

• Αξιολόγηση: Προσδιορισμός και αξιολόγηση της ακρίβειας και της αποδεκτής χρήσης των αποτελεσμάτων και του περιεχομένου που δημιουργούνται από την τεχνητή νοημοσύνη.
• Παρακολούθηση: Παρατήρηση και παρακολούθηση ενεργειών AI και πρακτόρων για παρακολούθηση με βάση τον άνθρωπο ή την τεχνητή νοημοσύνη
• Προστασία: Προσαρμογή ή αποκλεισμός ενεργειών και δικαιωμάτων τεχνητής νοημοσύνης και πρακτόρων χρησιμοποιώντας αυτοματοποιημένες ενέργειες κατά τη διάρκεια των λειτουργιών.

Οι Guardian Agents θα διαχειρίζονται τις αλληλεπιδράσεις και τις ανωμαλίες ανεξάρτητα από τον τύπο χρήσης. Αυτός είναι ένας βασικός πυλώνας της ενσωμάτωσής τους, καθώς η Gartner προβλέπει ότι το 70% των εφαρμογών τεχνητής νοημοσύνης θα χρησιμοποιούν συστήματα πολλαπλών πρακτόρων έως το 2028.