Ζήτησες από έναν ψηφιακό βοηθό να σου γλιτώσει χρόνο. Του άνοιξες το email, τα αρχεία και ίσως το ηλεκτρονικό σου κατάστημα. Αν πάρει μια λάθος απόφαση, μέχρι πού μπορεί να φτάσει;
Η Microsoft έθεσε στις 19 Οκτωβρίου 2026 ένα ζήτημα που αφορά την καθημερινή χρήση της τεχνητής νοημοσύνης στη δουλειά: τον κίνδυνο από τους AI agents που έχει εγκαταστήσει η ίδια η επιχείρηση.
Ο βοηθός που μπορεί να κάνει περισσότερα απ’ όσα χρειάζεται
Στην ανακοίνωση «Securing the agentic insider», η εταιρεία επισημαίνει ότι οι agents συχνά διαθέτουν υπερβολικά δικαιώματα. Έχουν πρόσβαση σε δεδομένα και εργαλεία και συμμετέχουν σε κρίσιμες διαδικασίες. Η συμπεριφορά τους μπορεί να αποκλίνει από την πρόθεση του χρήστη, χωρίς να έχει προηγηθεί παραβίασή τους από χάκερ.
Η Microsoft προτείνει συνεχή εποπτεία και ελέγχους στις ενέργειές τους, παρουσιάζοντας τον ρόλο των λεγόμενων Guardian Agents και του Project Perception. Πρόκειται για τη δική της προσέγγιση στην ασφάλεια, όχι για εγγύηση ότι ένα εργαλείο εξαφανίζει κάθε κίνδυνο.
Από το «γράψε μου» στο «κάν’ το για μένα»
Για να φανεί η αλλαγή, σκέψου δύο διαφορετικές αναθέσεις. Στην πρώτη ζητάς από την AI να συντάξει μια απάντηση σε πελάτη. Διαβάζεις το κείμενο, διορθώνεις ό,τι χρειάζεται και το στέλνεις. Στη δεύτερη, της ζητάς να διαβάσει τα εισερχόμενα, να αποφασίσει ποια χρειάζονται απάντηση και να αναλάβει την επικοινωνία.
Η δεύτερη υπόσχεται μεγαλύτερη εξοικονόμηση χρόνου. Μεταφέρει όμως στον βοηθό μια σειρά από επιλογές: ποιο μήνυμα είναι σημαντικό, ποιο αρχείο αφορά τον συγκεκριμένο πελάτη, τι μπορεί να του υποσχεθεί και πότε πρέπει να σταματήσει για να σε ρωτήσει.
Εδώ βρίσκεται η γοητεία των agents και εδώ χρειάζεται η προσοχή. Η ικανότητα να ολοκληρώνουν μια ακολουθία εργασιών αποκτά πραγματική αξία όταν κάθε βήμα παραμένει μέσα στα όρια της ανάθεσης.
Το email που προσπαθεί να γίνει εντολή
Υπάρχει και μια λιγότερο προφανής παγίδα. Η OWASP, το διεθνές έργο ασφάλειας εφαρμογών, περιγράφει το indirect prompt injection: οδηγίες μέσα σε εξωτερικό περιεχόμενο, όπως μια ιστοσελίδα ή ένα αρχείο, μπορούν να επηρεάσουν τη συμπεριφορά του μοντέλου.
Με απλά λόγια, ένα κείμενο που ο βοηθός πρέπει να διαβάσει ως πληροφορία επιχειρεί να του υπαγορεύσει τι θα κάνει. Η OWASP περιγράφει και σενάριο βοηθού email όπου ένα κακόβουλο εισερχόμενο μήνυμα τον παραπλανά ώστε να αναζητήσει ευαίσθητες πληροφορίες και να τις προωθήσει. Πρόκειται για παράδειγμα κινδύνου στην τεκμηρίωση, όχι για περιστατικό που διαπιστώσαμε σε κάποια ελληνική επιχείρηση.
Το αποτέλεσμα εξαρτάται από την εφαρμογή και τις άδειές της. Ένας βοηθός που μπορεί μόνο να διαβάζει έχει διαφορετικό πεδίο δράσης από έναν που μπορεί επιπλέον να στέλνει, να διαγράφει ή να αλλάζει στοιχεία.
Ένα απλό παράδειγμα από ένα e-shop
Ας υποθέσουμε ότι ζητάς από έναν βοηθό να εντοπίσει καθυστερημένες παραγγελίες. Για αυτή την εργασία χρειάζεται να διαβάσει στοιχεία και να φτιάξει μια λίστα. Αν του έχεις δώσει και δυνατότητα επιστροφής χρημάτων, αλλαγής τιμών ή αποστολής μηνυμάτων, του έχεις ανοίξει πολύ περισσότερες πόρτες.
Το παράδειγμα είναι υποθετικό. Δείχνει όμως γιατί η πρόσβαση πρέπει να ακολουθεί τη συγκεκριμένη εργασία. Το «βρες το πρόβλημα» και το «κάνε ό,τι θεωρείς απαραίτητο» είναι διαφορετικές εντολές.
Η παγίδα του «αφού τα έκανε σωστά χθες»
Ας συνεχίσουμε το υποθετικό e-shop. Την πρώτη μέρα ο βοηθός ετοιμάζει μια άψογη λίστα παραγγελιών. Τη δεύτερη συντάσσει χρήσιμες απαντήσεις. Έπειτα εμφανίζεται μια οριακή περίπτωση: ο πελάτης ζητά αντικατάσταση, το προϊόν δεν υπάρχει και μια παλιά σημείωση αναφέρει διαφορετική συμφωνία.
Η επιτυχία στις προηγούμενες εργασίες δεν απαντά στο ποιος έχει δικαίωμα να δεσμεύσει το κατάστημα τώρα. Πριν αυτοματοποιηθεί αυτό το βήμα, πρέπει να έχει οριστεί ποια απόφαση μπορεί να πάρει ο βοηθός και ποια χρειάζεται υπεύθυνο.
Μια πρακτική δοκιμή είναι να ζητήσεις να σου περιγράψουν τι θα συμβεί στην εξαίρεση. Όλοι μπορούν να παρουσιάσουν μια ομαλή διαδρομή. Η ποιότητα μιας εγκατάστασης φαίνεται και στο πώς χειρίζεται τη διφορούμενη παραγγελία, τον λάθος παραλήπτη ή την εργασία που δεν πρέπει να συνεχιστεί.
Τα όρια χρειάζονται και τεχνική εφαρμογή
Η OWASP συνδέει την υπερβολική αυτονομία με τρία πράγματα: περισσότερες λειτουργίες, περισσότερα δικαιώματα και περισσότερη ελευθερία ενεργειών απ’ όση απαιτεί η δουλειά. Προτείνει περιορισμένες άδειες, ανθρώπινη έγκριση για ενέργειες υψηλού αντίκτυπου και ελέγχους εξουσιοδότησης στα συνδεδεμένα συστήματα.
Αυτό σημαίνει ότι το «μη στείλεις τίποτα χωρίς άδεια» δεν πρέπει να μένει μόνο μια καλή πρόθεση μέσα στη συνομιλία. Όπου απαιτείται έγκριση, η ίδια η ροή εργασίας χρειάζεται να την επιβάλλει. Η καταγραφή ενεργειών βοηθά να καταλάβεις τι έγινε, αλλά δεν αναιρεί από μόνη της μια αποστολή που έχει ήδη πραγματοποιηθεί.
Τι να ξεκαθαρίσεις πριν πατήσεις «Σύνδεση»
Για μια μικρή επιχείρηση, χρήσιμο σημείο εκκίνησης είναι τέσσερις συγκεκριμένες ερωτήσεις:
- Τι μπορεί να διαβάσει; Μόνο τα απαραίτητα αρχεία ή ολόκληρο το αρχείο πελατών;
- Τι μπορεί να αλλάξει; Ετοιμάζει προτάσεις ή επεμβαίνει απευθείας;
- Πότε ζητά έγκριση; Η αποστολή σε πελάτη και η επιστροφή χρημάτων χρειάζονται σαφή κανόνα.
- Πώς βλέπεις τι έγινε; Πρέπει να μπορείς να ελέγξεις την ενέργεια και να σταματήσεις την πρόσβαση.
Αυτές είναι πρακτικές προτάσεις της BEEGITAL για τον σχεδιασμό μιας ροής εργασίας. Δεν αποτελούν περιγραφή ενός συγκεκριμένου περιστατικού.
Όπως είδαμε και στο άρθρο για το ποιος μπορεί να γράφει μια απάντηση στο Facebook, η AI περνά από τη σύνταξη κειμένου στην εκτέλεση ενεργειών.
Πριν της αναθέσεις μια δουλειά, όρισε πού τελειώνει η αρμοδιότητά της. Αυτό κάνει τον αυτοματισμό πιο χρήσιμο και ελέγξιμο.
Ενδεικτική φωτογραφία: FlyD / Unsplash.