Οι αλγόριθμοι δεν είναι αθώοι

Η πρόσφατη απόφαση δικαστηρίου στο Νέο Μεξικό να επιβάλει στη Meta επιπλέον 567 εκατομμύρια δολάρια για τις επιπτώσεις των πλατφορμών της στην ψυχική υγεία και την ασφάλεια των ανηλίκων είναι κάτι περισσότερο από μια ακόμη δικαστική διαμάχη ανάμεσα σε μια αμερικανική πολιτεία και έναν τεχνολογικό κολοσσό. Είναι ένα μήνυμα για το πού μετακινείται πλέον η συζήτηση γύρω από την ευθύνη των social media.

Με τη νέα απόφαση, η συνολική οικονομική επιβάρυνση της Meta στην υπόθεση φτάνει τα 942 εκατομμύρια δολάρια. Περίπου 420 εκατομμύρια δολάρια από το νέο ποσό θα κατευθυνθούν σε υπηρεσίες θεραπείας και υποστήριξης νέων, ενώ προβλέπονται και μέτρα που αφορούν τον τρόπο λειτουργίας και τον σχεδιασμό των πλατφορμών. Η Meta έχει δηλώσει ότι διαφωνεί με την απόφαση και αναμένεται να την προσβάλει.

Η ουσία, ωστόσο, βρίσκεται αλλού. Για πρώτη φορά με τόσο εμφατικό τρόπο, η ευθύνη δεν εξετάζεται μόνο σε σχέση με το περιεχόμενο που ανεβάζουν οι χρήστες, αλλά και σε σχέση με τον ίδιο τον τρόπο με τον οποίο λειτουργεί η πλατφόρμα.

Και αυτό είναι το πραγματικό ζήτημα. Για χρόνια, όταν συζητούσαμε για τα παιδιά και τα social media, το βάρος έπεφτε κυρίως στους γονείς. Να ελέγχουν τον χρόνο χρήσης, να γνωρίζουν τι βλέπουν τα παιδιά τους, να βάζουν όρια. Όλα αυτά είναι απαραίτητα. Δεν αρκούν όμως.

Ένα παιδί δεν αποφασίζει μόνο του τι θα δει στο Instagram ή σε μια άλλη πλατφόρμα. Ο αλγόριθμος αποφασίζει σε μεγάλο βαθμό τι θα του προτείνει στη συνέχεια. Ένα βίντεο οδηγεί στο επόμενο, μια ειδοποίηση επαναφέρει τον χρήστη στην εφαρμογή, μια σύσταση λογαριασμού ανοίγει μια νέα αλυσίδα περιεχομένου.

Το ερώτημα, επομένως, δεν είναι μόνο τι κάνει το παιδί με την πλατφόρμα. Είναι και τι κάνει η πλατφόρμα με το παιδί. Αυτό είναι που αλλάζει. Η συζήτηση μετακινείται από το «οι γονείς πρέπει να προσέχουν» στο «οι εταιρείες πρέπει να σχεδιάζουν ασφαλέστερα προϊόντα για ανηλίκους». Και η απόφαση του Νέου Μεξικού είναι μια ένδειξη ότι αυτή η αλλαγή μπορεί να αποκτήσει και οικονομικό και νομικό κόστος για τις ίδιες τις εταιρείες.

Το θέμα αφορά άμεσα και την Ελλάδα. Από την 1η Ιανουαρίου 2027, η Ελλάδα έχει ανακοινώσει την εφαρμογή ορίου ηλικίας για την πρόσβαση των κάτω των 15 ετών στα μέσα κοινωνικής δικτύωσης. Παράλληλα, έχει παρουσιάσει το KidsWallet, ένα εργαλείο που επιτρέπει στους γονείς να διαχειρίζονται την πρόσβαση των παιδιών σε εφαρμογές και ψηφιακές υπηρεσίες.

Πρόκειται για μια σημαντική παρέμβαση. Δεν πρέπει όμως να θεωρήσουμε ότι ένα ηλικιακό όριο λύνει το πρόβλημα. Ένα παιδί δεν γίνεται ξαφνικά ψηφιακά ώριμο την ημέρα που κλείνει τα 15. Και η προστασία των ανηλίκων δεν μπορεί να εξαντλείται στην ερώτηση «πόσων ετών είσαι;». Η κρίσιμη ερώτηση είναι άλλη: τι κάνει η πλατφόρμα όταν γνωρίζει ότι απέναντί της βρίσκεται ένας ανήλικος;

Πόσο επιθετικά λειτουργούν οι αλγόριθμοι συστάσεων; Πόσο εύκολα μπορεί ένας ενήλικος να προσεγγίσει έναν ανήλικο; Πόσο γρήγορα ένα παιδί μπορεί να οδηγηθεί από ένα αθώο βίντεο σε περιεχόμενο που αφορά αυτοϋποτίμηση, διατροφικές διαταραχές, σεξουαλικοποίηση, εκφοβισμό ή άλλες επικίνδυνες συμπεριφορές;

Και κυρίως: εάν ένας αλγόριθμος διαπιστώνει ότι ένα συγκεκριμένο είδος περιεχομένου κρατά περισσότερο τον ανήλικο στην πλατφόρμα, ποια είναι η προτεραιότητα της εταιρείας; Η προστασία του παιδιού ή η διατήρηση της προσοχής του;

Εδώ βρίσκεται ίσως η μεγαλύτερη πρόκληση για την Ελλάδα και την Ευρώπη. Δεν χρειάζεται να δαιμονοποιήσουμε την τεχνολογία. Τα social media μπορούν να προσφέρουν επικοινωνία, δημιουργικότητα, ενημέρωση και μάθηση. Τα παιδιά δεν πρόκειται να μεγαλώσουν αποκομμένα από την ψηφιακή πραγματικότητα και δεν θα ήταν ούτε εφικτό ούτε απαραίτητα επιθυμητό.

Χρειάζεται όμως να αλλάξει η ισορροπία ευθύνης. Δεν μπορεί μια οικογένεια να καλείται να αντιμετωπίσει μόνη της αλγοριθμικά συστήματα που έχουν σχεδιαστεί από πολυεθνικές εταιρείες με τεράστιους τεχνολογικούς και οικονομικούς πόρους. Οι γονείς έχουν ευθύνη. Το σχολείο έχει ευθύνη. Η πολιτεία έχει ευθύνη. Αλλά έχουν ευθύνη και οι ίδιες οι πλατφόρμες.
Αυτό είναι ίσως το σημαντικότερο μάθημα από το Νέο Μεξικό.

Η προστασία των παιδιών στο διαδίκτυο δεν μπορεί να είναι μόνο υπόθεση γονικού ελέγχου. Πρέπει να είναι και υπόθεση εταιρικής ευθύνης και σχεδιασμού. Η Ελλάδα, καθώς προετοιμάζεται να εφαρμόσει το νέο ηλικιακό όριο, έχει την ευκαιρία να κάνει κάτι περισσότερο από το να βάλει έναν ψηφιακό φραγμό στην είσοδο των μικρότερων παιδιών.
Μπορεί να απαιτήσει από τις πλατφόρμες να αποδείξουν ότι, όταν ένας ανήλικος βρίσκεται μέσα στο ψηφιακό τους περιβάλλον, η ασφάλειά του έχει μεγαλύτερη αξία από τον χρόνο που περνά στην οθόνη.

Γιατί τελικά το πραγματικό ερώτημα δεν είναι αν τα παιδιά θα χρησιμοποιούν τεχνολογία. Αυτό θεωρείται πλέον δεδομένο.
Το ερώτημα είναι ποιος σχεδιάζει την τεχνολογία που χρησιμοποιούν και με ποιο κίνητρο. Και αν το κίνητρο είναι η οικονομική αξιοποίηση της προσοχής τους, τότε τα 567 εκατομμύρια δολάρια του Νέου Μεξικού μπορεί να μην είναι το τέλος μιας υπόθεσης. Μπορεί να είναι η αρχή μιας πολύ μεγαλύτερης αλλαγής.

O Δρ. Μιχάλης Kρητικός είναι Κύριος Ερευνητής του ΕΛΙΑΜΕΠ και Επίκουρος Καθηγητής σε θέματα Τεχνητής Νοημοσύνης και Ψηφιακής Μετάβασης

στη Σχολή Διακυβέρνησης του Πανεπιστημίου των Βρυξελλών