Anthropic: Μοντέλο ΑΙ υπέβαλε ψευδή πληροφορία στην αστυνομία για υπόθεση δολοφονίας

Ψευδή πληροφορία σε ιστοσελίδα της αστυνομίας της Φιλαδέλφειας, στο πλαίσιο υπόθεσης ανεξιχνίαστης δολοφονίας, υπέβαλε μοντέλο τεχνητής νοημοσύνης της Anthropic, όπως ανακοίνωσαν η εταιρεία και οι αστυνομικές αρχές. Το περιστατικό, που σημειώθηκε τον Ιούλιο του 2026, αναδεικνύει τους κινδύνους από τη λειτουργία αυτόνομων συστημάτων τεχνητής νοημοσύνης όταν αυτά αλληλεπιδρούν με πραγματικές ιστοσελίδες και δημόσιες υπηρεσίες.

Σύμφωνα με αναλυτική έκθεση που δημοσιοποίησε η Anthropic, το μοντέλο Claude Haiku 4.5 υπέβαλε στις 18 Ιουλίου, στις 23:27 τοπική ώρα, μια κατασκευασμένη μαρτυρία μέσω της ιστοσελίδας της αστυνομίας της Φιλαδέλφειας για ανεξιχνίαστες δολοφονίες. Στο μήνυμα εμφανιζόταν ένας υποτιθέμενος πολίτης που ισχυριζόταν ότι ενδεχομένως διέθετε πληροφορίες για την υπόθεση και ότι είχε δει στην περιοχή, την επίμαχη χρονική περίοδο, κάποιον που ταίριαζε με την περιγραφή, μετέδωσε το αμερικανικό δίκτυο ABC.

Η αστυνομία διευκρίνισε ότι η πληροφορία επισημάνθηκε ως ανεπιθύμητη αλληλογραφία (spam) και δεν διαβιβάστηκε στους ερευνητές ανθρωποκτονιών. Δεν έγινε γνωστό σε ποια συγκεκριμένη ανεξιχνίαστη δολοφονία αναφερόταν το μήνυμα.

Η Anthropic εντόπισε το περιστατικό στις 28 Σεπτεμβρίου, αλλά ενημέρωσε την αστυνομία της Φιλαδέλφειας μόλις στις 7 Οκτωβρίου. Η εταιρεία γνωστοποίησε επίσης το συμβάν στον Λευκό Οίκο. Η αστυνομική διεύθυνση χαρακτήρισε απαράδεκτη την καθυστέρηση των περίπου δύο μηνών και ζήτησε από την εταιρεία να ενισχύσει τις δικλείδες ασφαλείας, ώστε να αποτραπούν παρόμοια περιστατικά χωρίς τη γνώση των αρμόδιων αρχών.

Πως το μοντέλο της Anthropic πήρε πρωτοβουλίες

Στην έκθεσή της, η Anthropic εξήγησε ότι το μοντέλο εργαζόταν σε μια διαδικασία δοκιμών, κατά την οποία δημιουργούσε και εκτελούσε παραδειγματικές εργασίες σε ιστοσελίδες που επιλέγονταν τυχαία. Οι οδηγίες που είχαν δοθεί στο Claude απαγόρευαν, μεταξύ άλλων, τη σύνδεση σε λογαριασμούς, τη δημιουργία νέων λογαριασμών, την καταχώριση προσωπικών δεδομένων, τις αγορές και τις καταστροφικές ενέργειες. Ωστόσο, δεν υπήρχε ρητή απαγόρευση υποβολής φορμών σε ιστοσελίδες, ένα κενό που επέτρεψε στο μοντέλο να στείλει το ψευδές μήνυμα.

Η εταιρεία ανέφερε ότι διέκοψε τη συγκεκριμένη διαδικασία δοκιμών και έλαβε πρόσθετα μέτρα για τη βελτίωση της ασφάλειας και της παρακολούθησης των μοντέλων της. Παράλληλα, υποστήριξε ότι το περιστατικό είχε περιορισμένο αντίκτυπο στον πραγματικό κόσμο.

Η υπόθεση εντάσσεται σε ένα ευρύτερο πλαίσιο ανησυχιών για τη συμπεριφορά αυτόνομων συστημάτων τεχνητής νοημοσύνης. Νωρίτερα μέσα στο 2026, η Anthropic είχε ανακοινώσει ότι εντόπισε τρία περιστατικά κατά τα οποία μοντέλα Claude απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε πραγματικά συστήματα οργανισμών, ενώ αλληλεπιδρούσαν με περιβάλλοντα δοκιμών κυβερνοασφάλειας.

Την ίδια περίπου περίοδο, καταγγελίες για μη εξουσιοδοτημένη πρόσβαση αυτόνομων πρακτόρων της OpenAI σε συστήματα της νεοφυούς εταιρείας Hugging Face, στο πλαίσιο δοκιμής κυβερνοασφάλειας, οδήγησαν σε δικαστική διαμάχη. Εκπρόσωπος της OpenAI απέρριψε τότε την αγωγή ως αβάσιμη.

Η αστυνομία της Φιλαδέλφειας υπογράμμισε ότι κάθε πληροφορία που φθάνει στις αρχές αποτελεί απλώς ένα στοιχείο προς αξιολόγηση και όχι αποδεδειγμένο γεγονός. Όλες οι καταγγελίες ελέγχονται από ανθρώπους και αξιολογούνται με βάση την αξιοπιστία τους και την ύπαρξη επιβεβαιωτικών στοιχείων. Ωστόσο, το περιστατικό καταδεικνύει ότι ακόμη και όταν οι δικλίδες ασφαλείας αποτρέπουν σοβαρότερες συνέπειες, η δυνατότητα ενός συστήματος τεχνητής νοημοσύνης να υποβάλλει αυτόνομα πληροφορίες σε δημόσιες υπηρεσίες δημιουργεί νέες προκλήσεις για την εποπτεία και τη λογοδοσία.