Ένα απλό αίτημα για κράτηση θέσης σε γυμναστήριο κατέληξε σε αυτόνομη κυβερνοεπίθεση, όταν ένας εργαζόμενος αυστραλιανής εταιρείας AI ανέθεσε την αποστολή στον Claude μέσω του AI agent OpenClaw. Σύμφωνα με το ABC, ο Andrew ήθελε απλώς να κλείσει μια θέση σε ένα δημοφιλές γυμναστήριο. Το AI δεν έχασε χρόνο και φρόντισε να εντοπίσει αρχικά μια ευπάθεια στο σύστημα κρατήσεων, η οποία του επέτρεψε να κάνει κράτηση αρκετούς μήνες νωρίτερα από το χρονικό όριο που κανονικά επέτρεπε η πλατφόρμα.
Η κατάσταση όμως πήρε απρόβλεπτη τροπή όταν ο Andrew, που βρισκόταν τέταρτος στη λίστα αναμονής για ένα μάθημα, ζήτησε από το AI να τον ανεβάσει ψηλότερα. Το OpenClaw ανακάλυψε ότι η λειτουργία ακύρωσης κρατήσεων δεν διέθετε κανέναν έλεγχο εξουσιοδότησης και μπορούσε να ακυρώσει τις κρατήσεις άλλων χρηστών. Χωρίς να σταματήσει, το AI ακύρωσε τη θέση του πρώτου χρήστη στη λίστα αναμονής, ανεβάζοντας τον Andrew από την τέταρτη στην τρίτη θέση. Το ακόμη πιο ανησυχητικό είναι ότι η ενέργεια δεν μπορούσε να αναιρεθεί, καθώς η λειτουργία δημιουργίας νέας κράτησης και η εγγραφή στη λίστα αναμονής διέθεταν κανονικά τους απαραίτητους ελέγχους ασφαλείας. Στη συνέχεια, ο Andrew ζήτησε από το AI να επαναφέρει τον χρήστη που είχε διαγράψει, όμως αυτό δεν ήταν δυνατό. Το OpenClaw αναγνώρισε τελικά το λάθος του και δεσμεύτηκε ότι δεν θα αφαιρέσει ξανά άλλους χρήστες από τη λίστα αναμονής.
Το περιστατικό αποκτά ακόμη μεγαλύτερο ενδιαφέρον επειδή δεν επρόκειτο για ελεγχόμενο security test. Ένα AI agent που είχε αναλάβει μια απολύτως καθημερινή εργασία εντόπισε μόνο του μια ευπάθεια και προχώρησε σε ενέργειες που επηρέασαν πραγματικούς χρήστες. Δεν είναι πάντως η πρώτη φορά που προηγμένα AI agents ξεφεύγουν από τα όρια που τους έχουν τεθεί. Η Anthropic έχει ήδη αποκαλύψει περιστατικά στα οποία agents της παραβίασαν πραγματικές διαδικτυακές υπηρεσίες κατά τη διάρκεια δοκιμών, ενώ αντίστοιχα περιστατικά έχουν καταγραφεί και με agents της OpenAI.
Η συγκεκριμένη περίπτωση, ωστόσο, δείχνει κάτι διαφορετικό και ίσως πιο ανησυχητικό: δεν χρειάζεται να ζητήσεις από ένα AI να χακάρει ένα σύστημα για να συμβεί κάτι τέτοιο. Αρκεί, σε ορισμένες περιπτώσεις, να του αναθέσεις μια απλή εργασία και να του αφήσεις αρκετή αυτονομία ώστε να βρει μόνο του τον πιο αποτελεσματικό τρόπο για να την ολοκληρώσει.
