Το σχέδιο νόμου του υπουργείου Εργασίας για την Τεχνητή Νοημοσύνη (ΤΝ) στην αγορά εργασίας, που βρίσκεται σε δημόσια διαβούλευση ως τις 19 Νοεμβρίου, ζητά από τις ψηφιακές πλατφόρμες εργασίας να αναθέτουν την εποπτεία των αυτοματοποιημένων αποφάσεων σε ανθρώπους με την ικανότητα, την κατάρτιση και την εξουσία να τις αγνοούν, να τις παρακάμπτουν ή να τις ανατρέπουν, και δίνει σε όσους εκτελούν εργασία μέσω πλατφορμών δικαίωμα να ζητούν εξηγήσεις για τις αυτοματοποιημένες αποφάσεις και την επανεξέτασή τους. Ο ευρωπαϊκός Κανονισμός για την ΤΝ προβλέπει κάτι αντίστοιχο για όσους οργανισμούς ή επιχειρήσεις χρησιμοποιούν συστήματα υψηλού κινδύνου, οι οποίοι πρέπει να αναθέτουν την εποπτεία σε ανθρώπους που έχουν την ικανότητα, την κατάρτιση και την εξουσία να την ασκήσουν, καθώς και την υποστήριξη που χρειάζονται.
Η ΤΝ μπορεί να μας βοηθήσει να κάνουμε τη δουλειά μας πιο γρήγορα, πιο εύκολα και με μεγαλύτερη ακρίβεια, όμως, όπως κάθε σύστημα, κάνει και λάθη. Εκεί όπου η απόφαση αγγίζει την πραγματική ζωή ενός ανθρώπου, όπως η έγκριση ενός δανείου ή μια πρόσληψη, πρέπει να είμαστε διπλά σίγουροι για το αποτέλεσμα και να έχουμε κάνει ό,τι είναι δυνατόν για να εντοπίσουμε και να διορθώσουμε αυτά τα λάθη.
Στην Ελλάδα δεν έχω δει πραγματικά στοιχεία ότι οι εταιρείες προμηθεύονται, εγκαθιστούν και χρησιμοποιούν εξειδικευμένα συστήματα ΤΝ. Η προσωπική μου εκτίμηση είναι ότι, όπου χρησιμοποιείται σήμερα, χρησιμοποιείται κυρίως μέσα από το ChatGPT ή κάποιο αντίστοιχο εργαλείο, και ότι σε αυτές τις χρήσεις δεν γίνεται ουσιαστικός έλεγχος. Όταν όμως η ΤΝ μπει σε αποφάσεις για δάνεια, ασφαλίσεις ή προσλήψεις, ο έλεγχος, κατά την εκτίμησή μου, θα κριθεί σε ένα συγκεκριμένο σημείο: στην οθόνη όπου ένας άνθρωπος βλέπει την πρόταση του συστήματος και αποφασίζει.
Μία οθόνη, δύο δρόμοι
Το μοτίβο είναι γνώριμο σε όποιον σχεδιάζει τέτοιες οθόνες. Το σύστημα παρουσιάζει μια πρόταση, συνήθως μαζί με ένα ποσοστό βεβαιότητας που την κάνει να φαίνεται πιο σίγουρη απ’ όσο είναι, και δίπλα ένα εμφανές κουμπί «Έγκριση». Η έγκριση θέλει ένα κλικ. Η απόρριψη ανοίγει δεύτερη οθόνη, όπου διαλέγεις λόγο, εξηγείς γιατί διαφωνείς και, ορισμένες φορές, στέλνεις την υπόθεση σε κάποιον άλλον για έγκριση.
Οι περισσότερες ομάδες δεν το σχεδιάζουν έτσι επίτηδες. Το προϊόν θέλει λιγότερα βήματα, η λειτουργία θέλει ταχύτητα και η συμμόρφωση θέλει καταγραφή κάθε απόρριψης, και κάθε απαίτηση στέκει μόνη της. Σε πραγματικές συνθήκες εργασίας, η συμφωνία καταλήγει να μην κοστίζει τίποτα και η διαφωνία να είναι διοικητική δουλειά για κάποιον που έχει ουρά αιτημάτων ή ανοιχτών υποθέσεων να αδειάσει.
Όταν ο άνθρωπος εγκρίνει μια λανθασμένη πρόταση, λέμε ότι εμπιστεύτηκε υπερβολικά τη μηχανή. Μπορεί. Πριν το πούμε, όμως, αξίζει να ρωτήσουμε αν του δείξαμε τα στοιχεία που χρειαζόταν για να διαφωνήσει και αν είχε τον χρόνο να το κάνει. Αν περιμένουμε από κάποιον να ελέγξει εξήντα υποθέσεις την ώρα, και του αφήνουμε ένα λεπτό για την καθεμία, μάλλον προδικάζουμε το αποτέλεσμα.
Τι να ζητήσετε πριν υπογράψετε
Μια εταιρεία που αγοράζει ένα τέτοιο σύστημα θα πρέπει να ζητήσει από τον προμηθευτή να καταγράψει τα ακριβή σημεία όπου ο άνθρωπος μπορεί να παρέμβει, και να έχει ελεγχθεί και καταγραφεί πώς ακριβώς λειτουργεί αυτή η παρέμβαση: πώς λειτουργεί το σύστημα, ποια στοιχεία παρουσιάζονται ώστε να μπορεί να κρίνει ο άνθρωπος, και τι συμβαίνει όταν διαφωνεί με την πρόταση. Το τελευταίο μετράει περισσότερο απ’ όσο φαίνεται, γιατί ένα κουμπί που καταγράφει τη διαφωνία χωρίς να αλλάζει την απόφαση δεν προσφέρει πολλή εποπτεία.
Για να δείξετε ότι η εποπτεία λειτουργεί, χρειάζεστε στοιχεία από το τι κάνουν οι άνθρωποι στην πράξη, και ο πιο άμεσος τρόπος είναι μια δοκιμή. Σε μια ελεγχόμενη δοκιμή, βάζετε στην ουρά προτάσεις που ξέρετε ότι είναι λανθασμένες, μαζί με σωστές, και ορίζετε από πριν πόσες πρέπει να εντοπιστούν. Οι σωστές χρειάζονται κι αυτές, αλλιώς ένας ελεγκτής που απορρίπτει τα πάντα θα έμοιαζε τέλειος.
Μια άσκηση για αυτή την εβδομάδα
Ανοίξτε μία πραγματική οθόνη ελέγχου στην εταιρεία σας, αυτήν που χρησιμοποιεί κάποιος για να εγκρίνει ή να απορρίψει μια πρόταση του συστήματος. Μετρήστε τι χρειάζεται για να συμφωνήσει και τι για να διαφωνήσει, και ακολουθήστε την απόρριψη μέχρι το σημείο όπου πράγματι αλλάζει κάτι. Υπολογίστε πόσος χρόνος μένει για κάθε απόφαση με τον σημερινό φόρτο.
Και, σε μια ασφαλή δοκιμή, βάλτε μπροστά του μια λανθασμένη πρόταση για να δείτε αν θα την εντοπίσει.
Αν δεν την εντοπίσει, μην ξεκινήσετε με περισσότερη εκπαίδευση. Κοιτάξτε πρώτα την οθόνη. Μπορεί να ανακαλύψετε ότι ο άνθρωπος έκανε ακριβώς αυτό που η οθόνη τον ενθάρρυνε να κάνει.
*Ο κ. Ματθαίος Μάντζιος είναι ιδρυτής της UXellence, εταιρείας συμβούλων εμπειρίας χρήστη (user experience, UX), Head of UX & Design στην ITML και εμπειρογνώμονας που έχει οριστεί από τον ΕΛΟΤ για την Ελλάδα στην ομάδα εργασίας 4 της CEN-CENELEC JTC 21, που συντάσσει ευρωπαϊκά πρότυπα για τον Κανονισμό για την Τεχνητή Νοημοσύνη.
