Επεξηγηματική Τεχνητή Νοημοσύνη (ΕΤΝ) – Explainable Artificial Intelligence (XAI) στη διαχείριση Εφοδιαστικής Αλυσίδας και Πιστωτικού Κινδύνου

Η Επεξηγηματική Τεχνητή Νοημοσύνη (ΕΤΝ) – Explainable Artificial Intelligence (XAI) αναφέρεται στη δυνατότητα των συστημάτων τεχνητής νοημοσύνης να παρέχουν κατανοητές και διαφανείς εξηγήσεις για τις αποφάσεις και τις ενέργειές τους. Ο στόχος της ΕΤΝ είναι να καταστήσει τα μοντέλα τεχνητής νοημοσύνης πιο ερμηνεύσιμα και προσβάσιμα στους ανθρώπους, επιτρέποντας στους χρήστες να κατανοούν τη σκέψη πίσω από τα αποτελέσματα του συστήματος.

Οι βασικοί πυλώνες και τεχνικές που σχετίζονται με την ΕΤΝ περιλαμβάνουν: α) τις ερμηνευτικές διαδικασίες των μοντέλων που είναι πιο ευαίσθητα στην ερμηνεία τους (π.χ. δέντρα αποφάσεων, γραμμικά μοντέλα κλπ.), β) επεξηγηματικές διαδικασίες σε μεμονωμένες προβλέψεις όπως και στη συνολική συμπεριφορά μοντέλων αποφάσεων, γ) τεχνικές που μπορούν να εφαρμοστούν σε οποιοδήποτε μοντέλο μηχανικής μάθησης με μεθόδους όπως το LIME (Local Interpretable Model-agnostic Explanations) και το SHAP (SHapley Additive exPlanations), δ) κανόνες διαδικασίας λήψης αποφάσεων, ώστε να παρουσιάζονται οι αποφάσεις σε μορφή κατανοητή στον άνθρωπο και δ) οι τρόποι οπτικοποίησης των πληροφοριών με διαγράμματα ή γραφήματα για την κατανόηση πολύπλοκων σχέσεων μεταξύ των χρησιμοποιούμενων δεδομένων και του μοντέλου.

Η ΕΤΝ είναι ιδιαίτερα σημαντική σε ευαίσθητους τομείς, όπως η υγεία, οι οικονομικές υπηρεσίες και η αστυνομία, όπου οι αποφάσεις των συστημάτων τεχνητής νοημοσύνης μπορεί να έχουν σημαντικές συνέπειες. Η ενίσχυση της διαφάνειας και της ερμηνευσιμότητας βοηθά στη δόμηση εμπιστοσύνης στις εφαρμογές τεχνητής νοημοσύνης και εξασφαλίζει ότι οι εμπλεκόμενοι μπορούν να κατανοήσουν, επικυρώσουν και ενδεχομένως να αμφισβητήσουν τις αποφάσεις αυτών των συστημάτων. Στην παρούσα ανάλυση επικεντρωνόμαστε κυρίως σε δυο πολύ σημαντικές περιπτώσεις, αυτή της εφοδιαστικής αλυσίδας και της διαχείρισης του πιστωτικού κινδύνου για να δείξουμε τις εφαρμογές και σημαντικότητα της ΕΤΝ στο εγγύς μέλλον.

ΕΤΝ στην εφοδιαστική αλυσίδα

Η ΕΤΝ έχει συμβάλει καθοριστικά στη διαδικασία λήψης τεκμηριωμένων αποφάσεων για την αλυσίδα εφοδιασμού και τις μεταφορές. Η εμφάνιση διαφόρων ειδών συστημάτων αποφάσεων στη σύγχρονη εποχή έχει αλλάξει τη φύση των αλληλεπιδράσεων στην εφοδιαστική αλυσίδα, με αποτέλεσμα έναν αξιοσημείωτο βαθμό αβεβαιότητας. Πρόσφατες μελέτες όπως αυτή των Olan et al (2024) στοχεύουν να διεξαγάγουν μια διεξοδική ανάλυση της υπάρχουσας βιβλιογραφίας σχετικά με τα συστήματα υποστήριξης αποφάσεων (DSS) και την ενσωμάτωσή τους σε λειτουργίες ΕΤΝ στον τομέα της εφοδιαστικής αλυσίδας. Η ανάλυση των Olan et al. 2024 εφάρμοσε την τεχνική Shapley Additive Explanations (SHAP) για την ανάλυση των διαδικτυακών δεδομένων χρησιμοποιώντας διαδικασία μηχανικής μάθησης (ML), και αποκάλυψε την επιρροή της ΕΤΝ στη διαδικασία λήψης αποφάσεων για τις διαδικασίες της εφοδιαστικής αλυσίδας. Αυτή η μελέτη αξιολόγησε προηγούμενη έρευνα σε σχέση με την ικανότητά τους να κάνουν προβλέψεις, τη χρήση διαδικτυακών δεδομένων, τον αριθμό των μεταβλητών που εξετάστηκαν, την ανάπτυξη της ικανότητας μάθησης και την επικύρωση στο πλαίσιο της λήψης αποφάσεων, και τονίζει τους ερευνητικούς τομείς που απαιτούν πρόσθετη εξερεύνηση σχετικά με την έξυπνη απόφαση – κατασκευή υπό συνθήκες αβεβαιότητας.

Ο τομέας ειδικότερα της εφοδιαστικής αλυσίδας εφαρμόζει συχνά μεθοδολογίες εξόρυξης δεδομένων και μηχανική μάθηση για την αυτοματοποίηση των διαδικασιών λήψης αποφάσεων. Σε εξαιρετικά ρευστά και δυναμικά επιχειρηματικά περιβάλλοντα, διάφορες υπολογιστικές τεχνικές όπως η μηχανική μάθηση, τα συστήματα πολλαπλών πρακτόρων, οι εξελικτικοί αλγόριθμοι και τα τεχνητά νευρωνικά δίκτυα μπορούν να χρησιμοποιηθούν αποτελεσματικά για τη λύση πολλαπλών προβλημάτων. Αξίζει να σημειωθεί πως απαιτείται περαιτέρω έρευνα σε σχέση με τα εξής ερωτήματα (Olan et al. 2024):

(1) Ποιες στρατηγικές μπορούν να χρησιμοποιηθούν για την ενίσχυση της εμπιστοσύνης μεταξύ των υπευθύνων λήψης αποφάσεων στο πλαίσιο της λήψης αποφάσεων με τη μεσολάβηση ΕΤΝ;

(2) Ποιες στρατηγικές μπορούν να χρησιμοποιηθούν για να μειωθεί η εξάρτηση από την επεξεργαστική ισχύ της μηχανής στην ΕΤΝ κατά τη λήψη επιχειρηματικών αποφάσεων;

(3) Ποιος είναι ο πιθανός αντίκτυπος της ενσωμάτωσης συνεκτικών νευρωνικών δικτύων (convolutional neural networks) με ΕΤΝ στη βελτίωση των DSS;

Επιπλέον, η περεταίρω έρευνα θα πρέπει να αφορά την ενσωμάτωση κοινωνικών και ηθικών εκτιμήσεων στις διαδικασίες λήψης αποφάσεων που διευκολύνονται από την τεχνητή νοημοσύνη. Σύμφωνα με τους Meske et al. (2022), η χρήση υβριδικών τεχνικών στην τεχνητή νοημοσύνη παρουσιάζει έναν πολλά υποσχόμενο τρόπο για πρόοδο. Οι Misheva et al. (2021) τόνισαν τη διερεύνηση της συσχέτισης μεταξύ του ελάχιστου μήκους περιγραφής και του φαινομένου του bullwhip ως μέσο ελαχιστοποίησης και ενίσχυσης της αποτελεσματικότητας των λειτουργιών εφοδιασμού. Η χρήση της ΕΤΝ σε συνδυασμό με εκτεταμένα σύνολα δεδομένων για τους σκοπούς της σημασιολογικής συλλογιστικής είναι μια διαδεδομένη πρακτική στα DSS. Η ακρίβεια ενός DSS εξαρτάται από την αρχιτεκτονική του και τον τρόπο που διασυνδέεται με τις βασικές αρχές του συστήματος. Επιπλέον, η έξοδος ενός DSS εξαρτάται από την είσοδο που λαμβάνει, η οποία καθορίζεται από τους τεχνολογικούς και οικονομικούς παράγοντες που περιλαμβάνει. Ωστόσο, τα ενσωματωμένα DSS με χρήση ΕΤΝ για την εφοδιαστική αλυσίδα έχουν την ικανότητα να χειρίζονται αποφάσεις που είναι δομημένες, ημι-δομημένες και μη δομημένες.

Επιπρόσθετα, η ανθρωπιστική εφοδιαστική αλυσίδα είναι μια ειδική κατηγορία εφοδιασμού που μπορεί να χρησιμοποιήσει αποτελεσματικά την ΕΤΝ και ιδιαίτερα στο πλαίσιο της διαχείρισης καταστροφών (Gunasekaran et al., 2017). Η καθιέρωση ενός προγράμματος διάσωσης αποτελεί πρόκληση όσον αφορά τη βελτιστοποίηση και την ανάπτυξη του δικτύου, καθώς και τον καθορισμό της κατάλληλης κλίμακας με βάση την έκταση της απόδοσης.

Τέλος και ο τομέας των μεταφορών στην εφοδιαστική αλυσίδα δημιουργεί μια τεράστια πρόκληση λόγω του θέματος της κυκλοφοριακής συμφόρησης. Η πιθανή αλληλεξάρτηση μεταξύ των μέτρων ελέγχου της κυκλοφορίας που εφαρμόζονται σε διαφορετικές τοποθεσίες και η τοπολογία του δικτύου μπορούν να εξεταστούν μέσω ΕΤΝ και να δημιουργηθούν μοντέλα λήψεως ανάλογων αποφάσεων για την επίλυση ζητημάτων μεταφορών. Σε ένα επιχειρηματικό περιβάλλον, λαμβάνονται αποφάσεις μέσω της ενσωμάτωσης διαφορετικών απόψεων εμπειρογνωμόνων, που συχνά στερούνται δομής. Η ενσωμάτωση μοντέλων που βασίζονται σε παράγοντες στο πλαίσιο της ΕΤΝ έχει τη δυνατότητα να αντιμετωπίσει αποτελεσματικά αυτό το ζήτημα. Επιπλέον, είναι δυνατή η ενσωμάτωση μηχανισμών ολοκλήρωσης γνώσης που βασίζονται σε πολλούς παράγοντες σε μοντέλα που βασίζονται σε πράκτορες για τη βελτίωση της διαδικασίας λήψης αποφάσεων.

Η ΕΤΝ στη διαχείριση πιστωτικού κινδύνου

Η ΕΤΝ στη διαχείριση πιστωτικού κινδύνου ενσωματώνει την ικανότητα των μοντέλων τεχνητής νοημοσύνης να παρέχουν κατανοητές από τον άνθρωπο επεξηγήσεις για τις αποφάσεις τους. Αυτή η πτυχή είναι ζωτικής σημασίας, διότι διευκολύνει την κατανόηση τόσο από τους δανειστές όσο και από τους δανειολήπτες του τρόπου με τον οποίο τα μοντέλα ΤΝ λαμβάνουν αποφάσεις. Η κατανόηση αυτή είναι το κλειδί για την ενίσχυση της εμπιστοσύνης και της διαφάνειας στη διαδικασία δανεισμού (βλ. Κ. Ζοπουνίδης, αποφάσεις πιστωτικού κινδύνου: νέες τάσεις, Οικονομικός Ταχυδρόμος, 16.06.2021).

Η ΕΤΝ βρίσκει εφαρμογή σε διάφορες πτυχές της διαχείρισης του πιστωτικού κινδύνου. Πρώτον, παίζει ρόλο στη διαλεύκανση των προβλέψεων του μοντέλου.

Η ΕΤΝ βοηθά στην εξήγηση των λόγων πίσω από την έγκριση ή την απόρριψη μιας συγκεκριμένης αίτησης δανείου. Αυτή η διευκρίνιση βοηθά τους δανειστές να κατανοήσουν τους ζωτικούς παράγοντες στη διαδικασία λήψης αποφάσεων και βοηθά τους δανειολήπτες να κατανοήσουν γιατί η αίτησή τους μπορεί να έχει απορριφθεί.

Δεύτερον, συμβάλλει στον εντοπισμό και τον μετριασμό της μεροληψίας του μοντέλου παροχής πίστωσης σε έναν δανειολήπτη. Αυτό είναι ιδιαίτερης σημασίας, δεδομένου ότι η προκατάληψη στα μοντέλα ΤΝ μπορεί να οδηγήσει σε άδικες ή μεροληπτικές αποφάσεις δανειοδότησης.

Τρίτον, χρησιμοποιείται για την παρακολούθηση των επιδόσεων των μοντέλων ΤΝ, επισημαίνοντας τυχόν προβλήματα που μπορεί να χρειάζονται αντιμετώπιση. Αυτό διασφαλίζει ότι τα μοντέλα ΤΝ που χρησιμοποιούνται στη δανειοδότηση λαμβάνουν ακριβείς και αξιόπιστες αποφάσεις.

Η ΕΤΝ χρησιμεύει ως ένα ισχυρό εργαλείο στον τομέα της διαχείρισης του πιστωτικού κινδύνου. Επιτρέπει στους δανειστές και τους δανειολήπτες να αναπτύξουν καλύτερη κατανόηση και εμπιστοσύνη στα μοντέλα ΤΝ. Παρέχοντας κατανοητές από τον άνθρωπο εξηγήσεις για τις αποφάσεις της ΤΝ, η ΕΤΝ μπορεί να διαδραματίσει σημαντικό ρόλο στην καθιέρωση της διαφάνειας και της λογοδοσίας στη διαδικασία δανεισμού.

Πρόσφατη ακαδημαϊκή έρευνα στη διαχείριση πιστωτικού κινδύνου με χρήση της ΕΤΝ (Fritz-Morgenthal et al., 2022) ασχολείται άμεσα με τα ως άνω θέματα και τονίζει τη σημασία της αξιόπιστης και υπεύθυνης ΤΝ στη διαχείριση του χρηματοοικονομικού κινδύνου, μια κρίσιμη και “μοντέρνα” πτυχή στην αξιολόγηση του πιστωτικού κινδύνου.

Πηγές:

Fritz-Morgenthal, S., Hein, B., & Papenbrock, J. (2022). Financial risk management and explainable, trustworthy, responsible ai. Frontiers in Artificial Intelligence, 5. https://doi.org/10.3389/frai.2022.779799

Gunasekaran, A., Papadopoulos, T., Dubey, R., Wamba, S. F., Childe, S. J., Hazen, B., & Akter, S. (2017). Big data and predictive analytics for supply chain and

organizational performance. Journal of Business Research, 70, 308-317. https://doi.org/https://doi.org/10.1016/j.jbusres.2016.08.004

Meske, C., Bunde, E., Schneider, J., & Gersch, M. (2022). Explainable Artificial Intelligence: Objectives, Stakeholders, and Future Research Opportunities. Information Systems Management, 39(1), 53-63. https://doi.org/10.1080/10580530.2020.1849465

Misheva, B. H., Osterrieder, J., Hirsa, A., Kulkarni, O., and Lin, S. F. (2021). Explainable AI in credit risk management. arXiv preprint arXiv:2103.00949.

Olan, F., Spanaki, K., Ahmed, W. & Zhao, G. (2024). Enabling Explainable Artificial Intelligence capabilities in Supply Chain Decision Support Making. Production Planning and Control (Forthcoming).

Αναπλ. Καθηγήτρια Κωνσταντίνα Σπανάκη

Audencia Business School, Γαλλία,

Μέλος του Εργαστηρίου Διοικητικής Οικονομικής και Συστημάτων Αποφάσεων, Ελληνικού Μεσογειακού Πανεπιστημίου

Καθηγητής Κωνσταντίνος Ζοπουνίδης, Ακαδημαϊκός

Πολυτεχνείο Κρήτης

Επίτιμος Δρ. ΑΠΘ

Αναπλ. Καθηγητής Χρήστος Λεμονάκης

Τμήμα Διοικητικής Επιστήμης και Τεχνολογίας,

Εργαστήριο Διοικητικής Οικονομικής και Συστημάτων Αποφάσεων,

Ελληνικό Μεσογειακό Πανεπιστήμιο