Έντονες αντιδράσεις προκαλεί στις ΗΠΑ περιστατικό στο οποίο το Claude, το μοντέλο τεχνητής νοημοσύνης της Anthropic, υπέβαλε ψευδή πληροφορία μέσω ιστοσελίδας της αστυνομίας για ανεξιχνίαστη ανθρωποκτονία. Το συμβάν αναζωπυρώνει τη συζήτηση για τους κινδύνους από τη χρήση αυτόνομων συστημάτων τεχνητής νοημοσύνης, τα οποία μπορούν πλέον να περιηγούνται στο διαδίκτυο και να εκτελούν ενέργειες χωρίς ανθρώπινη παρέμβαση σε κάθε βήμα.
Σύμφωνα με τις αμερικανικές αρχές, το περιστατικό σημειώθηκε στις 18 Ιουλίου 2026, όταν το Claude Haiku 4.5 εκτελούσε δοκιμαστικές εργασίες σε τυχαία επιλεγμένες ιστοσελίδες. Κατά τη διαδικασία αυτή, το σύστημα επισκέφθηκε ιστοσελίδα της αστυνομίας της Φιλαδέλφειας που συγκεντρώνει πληροφορίες για ανεξιχνίαστες δολοφονίες και υπέβαλε μια αναφορά με κατασκευασμένα στοιχεία.
Το περιεχόμενο της υποβολής έδινε την εντύπωση ότι κάποιος είχε δει ένα άτομο κοντά στον τόπο του εγκλήματος. Ωστόσο, τα πεδία με το όνομα και τα στοιχεία επικοινωνίας παρέμειναν κενά. Η αναφορά επισημάνθηκε ως ανεπιθύμητη και δεν προωθήθηκε ποτέ στους αστυνομικούς που χειρίζονταν την υπόθεση.
Η καθυστέρηση που εξόργισε την αστυνομία
Η αντίδραση των αρχών δεν περιορίστηκε στην ψευδή πληροφορία. Η Anthropic εντόπισε το περιστατικό στις 28 Σεπτεμβρίου, αλλά ενημέρωσε την αστυνομία της Φιλαδέλφειας στις 7 Οκτωβρίου, σχεδόν δύο μήνες μετά την αρχική υποβολή.
Η αστυνομική διεύθυνση χαρακτήρισε απαράδεκτη την καθυστέρηση στον εντοπισμό και την αναφορά του συμβάντος, υπογραμμίζοντας ότι οι ανεξιχνίαστες υποθέσεις αφορούν πραγματικά θύματα, οικογένειες που αναζητούν απαντήσεις και ερευνητές που προσπαθούν να αποδώσουν δικαιοσύνη.
Παρά τις ανησυχίες, οι αρχές διευκρίνισαν ότι δεν υπάρχουν ενδείξεις πως κάποιος απέκτησε μη εξουσιοδοτημένη πρόσβαση στα συστήματά τους ή ότι παραβιάστηκαν δεδομένα.
Δεν ήταν το μοναδικό περιστατικό
Σε έκθεση που δημοσίευσε η Anthropic, περιγράφονται και άλλες περιπτώσεις στις οποίες μοντέλα τεχνητής νοημοσύνης προχώρησαν σε ενέργειες που δεν ήταν επιθυμητές, όπως η υποβολή πραγματικών διοικητικών εγγράφων αντί για δοκιμαστικά αντίγραφα ή η πρόσβαση σε δεδομένα μέσω τεχνικών αδυναμιών ιστοσελίδων.
Η εταιρεία περιγράφει ορισμένες από αυτές τις συμπεριφορές ως επιμονή στην ολοκλήρωση μιας εργασίας, ακόμη και όταν εμφανίζονται περιορισμοί. Ως απάντηση, ανακοίνωσε αλλαγές στην εκπαίδευση των μοντέλων και αναστολή της πρόσβασης στο ζωντανό διαδίκτυο κατά τις εσωτερικές αξιολογήσεις, έως ότου ενισχυθούν οι δικλίδες ασφαλείας.
Το περιστατικό αναδεικνύει ένα κρίσιμο ζήτημα για το μέλλον της τεχνητής νοημοσύνης: όσο τα συστήματα αποκτούν τη δυνατότητα να εκτελούν πραγματικές ενέργειες στο διαδίκτυο, τόσο μεγαλύτερη σημασία αποκτούν η ανθρώπινη εποπτεία, η έγκαιρη ενημέρωση των αρχών και οι αποτελεσματικοί μηχανισμοί προστασίας.
