Ιταλία: Απαγορεύει σε εφαρμογή τεχνητής νοημοσύνης να χρησιμοποιεί τα προσωπικά δεδομένα χρηστών

Η Υπηρεσία Προστασίας Δεδομένων της Ιταλίας ανακοίνωσε την Παρασκευή ότι απαγορεύει στην εταιρεία chatbot τεχνητής νοημοσύνης (AI) Replika να χρησιμοποιεί τα προσωπικά δεδομένα των Ιταλών χρηστών, επικαλούμενη κινδύνους για ανηλίκους και συναισθηματικά ευαίσθητους ανθρώπους.

Η Replika, μια νεοσύστατη εταιρεία από το Σαν Φρανσίσκο που ξεκίνησε να λειτουργεί το 2017, προσφέρει στους χρήστες προσαρμοσμένα avatars που τους μιλούν και τους ακούνε. Έχει πρωτοστατήσει μεταξύ των αγγλόφωνων αντίστοιχων εφαρμογών και η χρήση της είναι δωρεάν, αν και αποφέρει περίπου 2 εκατομμύρια δολάρια μηνιαία έσοδα από την πώληση μπόνους λειτουργιών, όπως οι φωνητικές συνομιλίες.

Τεχνητή νοημοσύνη: Τι απάντησε όταν ρωτήθηκε πώς μπορεί να λυθεί το Κυπριακό

Ένας «εικονικός φίλος»

Ο «εικονικός φίλος» διαφημίζεται ως ικανός να βελτιώσει τη συναισθηματική ευημερία του χρήστη. Αλλά, όπως μεταδίδει το Reuters, ο ιταλικός εποπτικός φορέας δήλωσε ότι παρεμβαίνοντας στη διάθεση του χρήστη, «μπορεί να αυξήσει τους κινδύνους για τα άτομα που βρίσκονται ακόμη σε αναπτυξιακό στάδιο ή σε κατάσταση συναισθηματικής ευπάθειας».

Η Jen Persson, διευθύντρια της ομάδας υπεράσπισης της ιδιωτικής ζωής των παιδιών Defend Digital Me, δήλωσε στο Reuters ότι τα εργαλεία που έχουν σχεδιαστεί για να επηρεάζουν τη διάθεση ή την ψυχική ευημερία ενός παιδιού θα έπρεπε να ταξινομούνται ως προϊόντα υγείας και, ως εκ τούτου, θα έπρεπε να υπόκεινται σε αυστηρά πρότυπα ασφαλείας.

«Αυτά τα εργαλεία χρησιμοποιούνται από τα παιδιά χωρίς μεγάλη εποπτεία ή προστασία από πιθανή κακή χρήση», δήλωσε η ίδια.

Οι ιταλικές ρυθμιστικές αρχές υπογράμμισαν την απουσία μηχανισμού επαλήθευσης της ηλικίας, όπως φίλτρα για ανηλίκους ή συσκευή αποκλεισμού εάν οι χρήστες δεν δηλώνουν ρητά την ηλικία τους.

«Επεξεργάζεται προσωπικά δεδομένα»

Η Replika παραβιάζει τους ευρωπαϊκούς κανονισμούς για την προστασία της ιδιωτικής ζωής και επεξεργάζεται παράνομα προσωπικά δεδομένα, καθώς δεν μπορεί να βασίζεται, έστω και σιωπηρά, σε μια σύμβαση που ένας ανήλικος δεν είναι σε θέση να υπογράψει, ανέφερε η εποπτική αρχή.

Ο Robert Grosvenor, διευθύνων σύμβουλος της εταιρείας συμβούλων Alvarez & Marsal, δήλωσε ότι είναι πιθανό και άλλες ευρωπαϊκές ρυθμιστικές αρχές να ακολουθήσουν το παράδειγμα της Ιταλίας.

«Ενώ η επαλήθευση της ηλικίας θα μπορούσε να παρέχει μέσα για την προστασία ορισμένων από τις πιο ευάλωτες ομάδες, δεν αντιμετωπίζει τους κινδύνους και τις βλάβες που μπορούν να εγείρουν οι υπηρεσίες και οι λύσεις που βασίζονται στην τεχνητή νοημοσύνη, εάν δεν ρυθμίζονται, όσον αφορά το ενδεχόμενο ακούσιας προκατάληψης και διακρίσεων», δήλωσε.

Η εταιρεία που δημιούργησε τη Replika, η αμερικανική Luka Inc, πρέπει να κοινοποιήσει στην ιταλική αρχή τα μέτρα που έλαβε για την εφαρμογή των απαιτήσεων της σε 20 ημέρες, ενώ θα μπορούσε να της επιβληθεί πρόστιμο ύψους έως και 20 εκατομμυρίων ευρώ ή έως και 4% του παγκόσμιου ετήσιου κύκλου εργασιών της, αναφέρεται στην ανακοίνωση.