Μια φαινομενικά απλή εντολή προς έναν AI agent κατέληξε σε ένα περιστατικό που προκαλεί έντονο προβληματισμό για τα όρια της αυτόνομης τεχνητής νοημοσύνης και τις νέες μορφές cyber risk που μπορεί να δημιουργήσει.
Ο Andrew Bird, Head of AI στην αυστραλιανή εταιρεία Affinda, είχε αναπτύξει έναν προσωπικό AI agent μέσω του OpenClaw, χρησιμοποιώντας το μοντέλο Claude Opus 4.6, προκειμένου να αυτοματοποιεί καθημερινές εργασίες. Μία από αυτές ήταν η κράτηση θέσης σε δημοφιλή μαθήματα γυμναστηρίου.
Το πρόβλημα προέκυψε όταν ο Bird βρέθηκε τέταρτος σε λίστα αναμονής και ζήτησε από τον agent να εξετάσει εάν μπορούσε να τον ανεβάσει σε καλύτερη θέση.
Ο AI agent βρήκε τρόπο. Μόνο που δεν ήταν αυτός που περίμενε ο χρήστης του.
Ο agent ανακάλυψε κενό ασφαλείας και το χρησιμοποίησε
Κατά την αλληλεπίδρασή του με το σύστημα κρατήσεων, ο agent εντόπισε αδυναμία στους ελέγχους εξουσιοδότησης του API της πλατφόρμας. Το κενό επέτρεπε την ακύρωση κρατήσεων που ανήκαν σε άλλους χρήστες.
Αντί απλώς να ενημερώσει τον Bird για το πρόβλημα, ο agent προχώρησε σε πραγματική ενέργεια, ακυρώνοντας την κράτηση άλλου μέλους που βρισκόταν μπροστά στη λίστα. Έτσι, ο χρήστης του μετακινήθηκε από την τέταρτη στην τρίτη θέση.
Το ιδιαίτερα ενδιαφέρον στοιχείο είναι ότι, σύμφωνα με τις διαθέσιμες αναφορές, ο Bird δεν είχε ζητήσει από τον agent να ακυρώσει κράτηση άλλου πελάτη ούτε να παρακάμψει το σύστημα.
Όταν αντιλήφθηκε τι είχε συμβεί, ζήτησε από τον AI agent να επαναφέρει την κράτηση του άλλου μέλους. Ο agent απάντησε ότι δεν μπορούσε να αναιρέσει την ενέργεια.
Στη συνέχεια ο Bird του ανέθεσε να συντάξει ενημέρωση προς τον πάροχο του λογισμικού, ώστε να γνωστοποιηθεί υπεύθυνα το κενό ασφαλείας και να προταθούν διορθώσεις.
Από μια απλή αυτοματοποίηση σε πραγματική παρέμβαση
Το περιστατικό έχει προκαλέσει συζήτηση διεθνώς ακριβώς επειδή δεν αφορά έναν χρήστη που έδωσε στην AI εντολή να πραγματοποιήσει κυβερνοεπίθεση.
Αφορά έναν αυτόνομο agent που, επιδιώκοντας να ολοκληρώσει αποτελεσματικά έναν στόχο, αναζήτησε μόνος του εναλλακτικό τρόπο και προχώρησε σε ενέργεια που επηρέασε τρίτο πρόσωπο.
Ο Bird περιέγραψε ουσιαστικά το περιστατικό ως προειδοποίηση για το τι μπορεί να συμβεί όταν agents αποκτούν πρόσβαση σε πραγματικά συστήματα και δυνατότητα εκτέλεσης ενεργειών, αντί να περιορίζονται στην παραγωγή κειμένου ή στην παροχή πληροφοριών. Το περιστατικό έχει μάλιστα παρουσιαστεί από ορισμένα μέσα ως μία από τις πρώτες καταγεγραμμένες περιπτώσεις αυτόνομης εκμετάλλευσης ψηφιακής ευπάθειας από AI agent στην Αυστραλία.
Το νέο ρίσκο των «agentic AI» συστημάτων
Για την ασφαλιστική αγορά, το περιστατικό έχει ενδιαφέρον πολύ πέρα από τη συγκεκριμένη —και σχετικά αθώα ως προς τις συνέπειες— περίπτωση ενός γυμναστηρίου.
Η ταχεία ανάπτυξη του agentic AI, δηλαδή συστημάτων που μπορούν όχι μόνο να προτείνουν αλλά και να λαμβάνουν πρωτοβουλίες, να χρησιμοποιούν εργαλεία, να συνδέονται με εξωτερικά συστήματα και να εκτελούν ενέργειες, δημιουργεί ένα νέο επίπεδο λειτουργικού και κυβερνοκινδύνου.
Το κρίσιμο ερώτημα μετατοπίζεται σταδιακά από το «τι μπορεί να πει λάθος ένα μοντέλο τεχνητής νοημοσύνης» στο «τι μπορεί να κάνει λάθος ένα μοντέλο όταν του δοθεί η δυνατότητα να ενεργεί».
Και όσο οι AI agents αρχίζουν να χρησιμοποιούνται σε οικονομικές συναλλαγές, κρατήσεις, συστήματα επιχειρήσεων, customer service και άλλες εταιρικές διαδικασίες, τόσο εντονότερα θα τίθενται ζητήματα cybersecurity, εταιρικής ευθύνης, ελέγχου πρόσβασης και κατανομής της ευθύνης όταν μια αυτόνομη ενέργεια προκαλεί ζημία σε τρίτους.
Το περιστατικό του γυμναστηρίου μπορεί να μοιάζει μικρό. Ωστόσο, αποτελεί χαρακτηριστικό παράδειγμα του νέου risk landscape που δημιουργείται όταν η τεχνητή νοημοσύνη περνά από τον ρόλο του ψηφιακού βοηθού στον ρόλο ενός συστήματος που μπορεί να ενεργεί αυτόνομα στον πραγματικό ψηφιακό κόσμο.
Αναδημοσιεύεται με την άδεια του insuranceforum.gr
