Η αρχή προστασίας δεδομένων στην Ιταλία επέβαλε πρόστιμο 5 εκατομμυρίων ευρώ στην εταιρεία ανάπτυξης chatbot τεχνητής νοημοσύνης (AI) Replika για παραβίαση κανόνων που έχουν σχεδιαστεί για την προστασία των προσωπικών δεδομένων των χρηστών, ανακοίνωσε η αρχή τη Δευτέρα.
Η νεοσύστατη εταιρεία Replika με έδρα το Σαν Φρανσίσκο, η οποία ξεκίνησε το 2017, προσφέρει στους χρήστες προσαρμοσμένα avatar που μπορούν να συνομιλούν μαζί τους. Ο «εικονικός φίλος» διαφημίζεται ως ικανός να βελτιώσει τη συναισθηματική ευεξία των χρηστών.
Η ιταλική αρχή ανακοίνωσε επίσης μια ξεχωριστή έρευνα για να αξιολογήσει εάν το σύστημα τεχνητής νοημοσύνης της Replika συμμορφώνεται με τους κανόνες απορρήτου της ΕΕ, ειδικά όσον αφορά την εκπαίδευση του γλωσσικού της μοντέλου
Η ιταλική αρχή προστασίας δεδομένων Garante διέταξε την Replika να αναστείλει την υπηρεσία της στη χώρα τον Φεβρουάριο του 2023, επικαλούμενη συγκεκριμένους κινδύνους για τα παιδιά.
Μετά από έρευνα, διαπίστωσε ότι η Replika δεν είχε νομική βάση για την επεξεργασία των δεδομένων των χρηστών και δεν διέθετε σύστημα επαλήθευσης ηλικίας για να περιορίσει την πρόσβαση των παιδιών στην υπηρεσία, με αποτέλεσμα το πρόστιμο για την εταιρεία, Luka Inc, που αναπτύσσει το λογισμικό της Replika.
Η ιταλική αρχή ανακοίνωσε επίσης μια ξεχωριστή έρευνα για να αξιολογήσει εάν το σύστημα τεχνητής νοημοσύνης της Replika συμμορφώνεται με τους κανόνες απορρήτου της Ευρωπαϊκής Ένωσης, ειδικά όσον αφορά την εκπαίδευση του γλωσσικού της μοντέλου.
Ιταλία: Το πρόστιμο στην OpenAI
Η Garante είναι μία από τις πιο προληπτικές ρυθμιστικές αρχές της Ευρωπαϊκής Ένωσης στην αξιολόγηση της συμμόρφωσης των πλατφορμών τεχνητής νοημοσύνης με τους κανόνες απορρήτου δεδομένων της Ένωσης.
Πέρυσι, επέβαλε πρόστιμο 15 εκατομμυρίων ευρώ στον κατασκευαστή του ChatGPT, OpenAI, μετά την προσωρινή απαγόρευση της χρήσης του δημοφιλούς chatbot στην Ιταλία το 2023 λόγω φερόμενης παραβίασης των κανόνων απορρήτου της ΕΕ.
