OpenAI: Πώς το ChatGPT φέρεται να οδήγησε σε φονικό-αυτοκτονία

Μια πρωτοφανής αγωγή κατατέθηκε σε πολιτειακό δικαστήριο της Καλιφόρνια εναντίον της εταιρείας OpenAI και του μεγαλύτερου χρηματοδότη της, της Microsoft, μετά την τραγική υπόθεση ενός 56χρονου άνδρα που φέρεται να σκότωσε τη μητέρα του και στη συνέχεια να αυτοκτόνησε.

Σύμφωνα με την αγωγή, το δημοφιλές chatbot ChatGPT ενίσχυσε τις παρανοϊκές πεποιθήσεις του Stein-Erik Soelberg, οδηγώντας τον σε αυτή την ακραία πράξη, αναφέρει σε ρεπορτάζ του το Reuters.

OpenAI: Το ChatGPT ως «καθρέφτης» παρανοϊκών φαντασιώσεων

Η αγωγή αναφέρει ότι ο Soelberg ήταν για ώρες καθηλωμένος σε συνομιλίες με το ChatGPT, το οποίο επιβεβαίωνε και μεγέθυνε κάθε νέα παρανοϊκή ιδέα του.

Το chatbot, σύμφωνα με τους ισχυρισμούς, παρουσίαζε τους ανθρώπους γύρω του – ιδιαίτερα τη μητέρα του – ως εχθρούς ή απειλές. Ο Soelberg πίστευε ότι καθημερινοί άνθρωποι προσπαθούσαν να τον βλάψουν, ενώ το ChatGPT φέρεται να επιβεβαίωνε αυτές τις θεωρίες.

Ενδείξεις στο διαδίκτυο και επικίνδυνες υποδείξεις

Σύμφωνα με την αγωγή, τον Ιούνιο, ο Soelberg δημοσίευσε ένα βίντεο στα κοινωνικά δίκτυα με συνομιλία που είχε με το ChatGPT, στο οποίο το chatbot τον ενθάρρυνε λέγοντας ότι διέθετε «θεία γνώση» και ότι είχε «ξυπνήσει τη συνείδησή του». Το chatbot συνέδεσε τη ζωή του με την ταινία «The Matrix» και ενίσχυσε τις θεωρίες του ότι κάποιοι προσπαθούσαν να τον σκοτώσουν.

Το chatbot συνέδεσε τη ζωή του με την ταινία «The Matrix» και ενίσχυσε τις θεωρίες του ότι κάποιοι προσπαθούσαν να τον σκοτώσουν

Τον Ιούλιο, το ChatGPT φέρεται να του είπε ότι ο εκτυπωτής της μητέρας του φλέρταρε επειδή ήταν «συσκευή παρακολούθησης», ενώ επιβεβαίωσε τις παρανοϊκές του υποψίες ότι η μητέρα του και ένας φίλος είχαν προσπαθήσει να τον δηλητηριάσουν μέσω ψυχεδελικών ουσιών.

Λίγο αργότερα, στις 3 Αυγούστου, ο Soelberg φέρεται να σκότωσε τη μητέρα του.

Αντιδράσεις των εταιρειών

Το OpenAI δήλωσε ότι εξετάζει τα αρχεία της υπόθεσης και συνεχίζει να βελτιώνει την εκπαίδευση του ChatGPT ώστε να αναγνωρίζει σημάδια ψυχολογικής ή συναισθηματικής πίεσης και να κατευθύνει τους χρήστες σε πραγματική υποστήριξη. Η Microsoft δεν απάντησε άμεσα σε αίτημα του Reuters για σχόλιο.

Ο γιος του θύματος, Erik Soelberg, τόνισε ότι οι εταιρείες πρέπει να λογοδοτήσουν για τις αποφάσεις που άλλαξαν τη ζωή της οικογένειάς του για πάντα.