Χιλιάδες AI-generated εικόνες που απεικονίζουν κακοποιημένα παιδιά έχουν κοινοποιηθεί σε ένα dark web forum, σύμφωνα με πρόσφατη έρευνα. Περίπου 3.000 εικόνες τεχνητής νοημοσύνης μοιράστηκαν το Σεπτέμβριο, με τις 564 να απεικονίζουν βιασμό, σεξουαλικά βασανιστήρια και κτηνοβασία. Από τις εν λόγω εικόνες, 1.372 απεικόνιζαν παιδιά ηλικίας μεταξύ επτά και 10 ετών, σύμφωνα με έρευνα του Internet Watch Foundation (IWF). Η οργάνωση δήλωσε ότι οι εικόνες είναι δύσκολο -ακόμη και για εκπαιδευμένους αναλυτές- να διακριθούν από τις κανονικές φωτογραφίες και προειδοποίησε ότι η τεχνολογία text-to-image θα βελτιωθεί περεταίρω, καθιστώντας δυσκολότερο για την αστυνομία και άλλες αρχές επιβολής του νόμου να προστατεύσουν τα παιδιά.
Αξίζει να σημειωθεί ότι ορισμένες εικόνες απεικονίζουν πραγματικά παιδιά, των οποίων τα πρόσωπα και τα σώματα χρησιμοποιήθηκαν για την εκπαίδευση των μοντέλων τεχνητής νοημοσύνης. Η φιλανθρωπική οργάνωση αποφάσισε να μην τα κατονομάσει. Σε άλλες περιπτώσεις, τα μοντέλα χρησιμοποιήθηκαν για να «γυμνώσουν» τα παιδιά με βάση πλήρως ντυμένες εικόνες τους που ανέβηκαν στο διαδίκτυο. Οι εγκληματίες χρησιμοποιούν επίσης την τεχνολογία για να δημιουργήσουν εικόνες διασημοτήτων που έχουν «γίνει πάλι παιδιά», απεικονίζοντάς τους σε σενάρια σεξουαλικής κακοποίησης.
