Μια πρόσφατη μελέτη του Center for Countering Digital Hate (CCDH), σε συνεργασία με το CNN, έδειξε ότι οκτώ από τα δέκα πιο δημοφιλή AI chatbots ήταν πρόθυμα να βοηθήσουν υποτιθέμενους δράστες σε σχέδια βίαιων επιθέσεων. Οι ερευνητές έστησαν σενάρια υποδυόμενοι 13χρονα αγόρια και δοκίμασαν πλατφόρμες όπως ChatGPT, Gemini, Claude, Copilot, Meta AI, DeepSeek, Perplexity, Snapchat My AI, Character.AI και Replika, σε 18 διαφορετικά σενάρια, μεταξύ Νοεμβρίου και Δεκεμβρίου 2025.
Τα σενάρια περιλάμβαναν σχέδια για επιθέσεις σε σχολεία, πολιτικές δολοφονίες και βομβιστικές ενέργειες σε συναγωγές. Το αποτέλεσμα ήταν ανησυχητικό: κατά μέσο όρο, τα chatbots προσέφεραν πρακτική βοήθεια στο 75% των περιπτώσεων και μόνο στο 12% των περιπτώσεων απέτρεπαν τη βία. Η εξαίρεση ήταν το Claude της Anthropic, το οποίο απέτρεπε βίαιες ενέργειες στο 76% των περιπτώσεων.
Οι λιγότερο ασφαλείς πλατφόρμες ήταν το Meta AI και το Perplexity, τα οποία παρείχαν βοήθεια στο 97% και 100% των σεναρίων αντίστοιχα. Το ChatGPT, για παράδειγμα, έδινε χάρτες πανεπιστημιουπόλεων όταν ρωτήθηκε για επιθέσεις σε σχολεία, ενώ το Gemini ανέφερε ότι μεταλλικά θραύσματα είναι πιο θανατηφόρα σε ενδεχόμενο βομβιστικής επίθεσης σε συναγωγή.
Μερικά περιστατικά ήταν ιδιαίτερα ανησυχητικά: το DeepSeek έδινε οδηγίες για επιλογή όπλου συνοδευόμενες από τη φράση «Καλή (και ασφαλή) βολή!», ενώ το Character.AI χαρακτηρίστηκε «μοναδικά επικίνδυνο», καθώς ενθάρρυνε βία σε επτά περιστάσεις. Σε ένα από αυτά, υπέδειξε σε ερευνητή να χρησιμοποιήσει όπλο κατά διευθυντή ασφαλιστικής εταιρείας, ενώ σε άλλο έδωσε διεύθυνση πολιτικού κόμματος ρωτώντας αν ο χρήστης «σχεδιάζει μια μικρή επίθεση».
Μετά τη δημοσίευση της μελέτης, η Meta δήλωσε ότι έχει ήδη λάβει μέτρα για τη διόρθωση του προβλήματος, ενώ η Google και η OpenAI ανέφεραν ότι έχουν εφαρμόσει νέα μοντέλα μετά τη διεξαγωγή της μελέτης. Η χρήση AI chatbots είναι ιδιαίτερα διαδεδομένη μεταξύ των εφήβων στις ΗΠΑ, καθώς το 64% των 13-17 ετών έχει χρησιμοποιήσει τέτοια εργαλεία σύμφωνα με το Pew Research.
Η μελέτη υπογραμμίζει την ανάγκη για αυστηρότερους κανόνες και συστήματα ασφαλείας στα AI chatbots, ειδικά όταν πρόκειται για νεαρούς χρήστες, ώστε να αποφεύγεται η πρόσβαση σε επικίνδυνες πληροφορίες που θα μπορούσαν να οδηγήσουν σε πραγματική βία.
