Η AI δημιουργεί μια νέα «επιφάνεια επίθεσης»

Η υιοθέτηση της παραγωγικής AI έχει ήδη λάβει μαζικές διαστάσεις.

Στην Ευρωπαϊκή Ένωση, περίπου ένας στους τρεις συμμετέχοντες σε σχετική έρευνα είχε χρησιμοποιήσει εργαλεία παραγωγικής AI μέσα στο 2025. Το ποσοστό αυξάνεται στο 64% στις ηλικίες 16–24 ετών και στο 50% στις ηλικίες 25–34 ετών.

Η χρήση αφορά κυρίως προσωπικές δραστηριότητες, σε ποσοστό 78%, ενώ ακολουθούν η επαγγελματική χρήση με 47% και η εκπαίδευση με 29%.

Η ταχεία διάδοση δημιουργεί, σύμφωνα με την ESET, ένα νέο οικοσύστημα λογισμικού και μαζί του μια νέα επιφάνεια επίθεσης.

Η εξέλιξη θυμίζει σε μεγάλο βαθμό την πορεία του ηλεκτρονικού ταχυδρομείου. Το email ξεκίνησε ως ένα απλό εργαλείο ανταλλαγής μηνυμάτων και σταδιακά εξελίχθηκε σε ένα σύνθετο οικοσύστημα συνδέσμων, συνημμένων αρχείων, εφαρμογών και αυτοματοποιημένων διαδικασιών.

Ανάλογη μεταμόρφωση βρίσκεται πλέον σε εξέλιξη και στην AI.

Από τα κακόβουλα πρόσθετα στους AI agents

Η επέκταση των δυνατοτήτων των εργαλείων AI μέσω πρόσθετων και ειδικών «δεξιοτήτων» δημιουργεί ένα νέο επίπεδο κινδύνου.

Όσο περισσότερες λειτουργίες αποκτά ένας ψηφιακός βοηθός, τόσο περισσότερα δικαιώματα μπορεί να χρειάζεται. Ένα πρόσθετο με πρόσβαση σε αρχεία, εφαρμογές ή δεδομένα μπορεί, εάν είναι κακόβουλο ή παραβιαστεί, να αποτελέσει δίαυλο για υποκλοπή πληροφοριών ή κατάχρηση δικαιωμάτων.

Ο κίνδυνος γίνεται ακόμη μεγαλύτερος με την ανάπτυξη των AI agents.

Ένας agent μπορεί να αναζητήσει πληροφορίες, να χρησιμοποιήσει βιβλιοθήκες λογισμικού, να κατεβάσει αρχεία, να εκτελέσει κώδικα ή να αλληλεπιδράσει με τοπικά και εταιρικά συστήματα.

Έτσι, η AI αποκτά ουσιαστικά τη δυνατότητα να λειτουργεί ως ενδιάμεσος μεταξύ του χρήστη και ενός μεγάλου τμήματος του ψηφιακού περιβάλλοντος.

Και όσο αυξάνονται τα δικαιώματα ενός agent, τόσο αυξάνεται και η πιθανή ζημιά σε περίπτωση παραβίασης ή κακόβουλης καθοδήγησης.

Prompt injection: Όταν η ίδια η πληροφορία γίνεται όπλο

Μία από τις πιο χαρακτηριστικές νέες απειλές είναι το prompt injection.

Η ιδιαιτερότητα της συγκεκριμένης επίθεσης είναι ότι δεν απαιτεί απαραίτητα την παραβίαση του ίδιου του συστήματος AI. Το κακόβουλο περιεχόμενο μπορεί να βρίσκεται μέσα στην πληροφορία που καλείται να επεξεργαστεί.

Ένα email, μια ιστοσελίδα, ένα PDF ή ένα αποθετήριο κώδικα μπορεί να περιέχει οδηγίες σχεδιασμένες ώστε να επηρεάσουν τη συμπεριφορά ενός AI agent.

Εάν το σύστημα δεν διαχωρίσει σωστά τα δεδομένα που πρέπει να αναλύσει από τις εντολές που επιτρέπεται να εκτελέσει, το περιεχόμενο μπορεί να μετατραπεί σε φορέα επίθεσης.

Η εξέλιξη αυτή διαφοροποιεί σημαντικά την κυβερνοασφάλεια της AI από την παραδοσιακή προστασία λογισμικού. Ένα αρχείο που για έναν άνθρωπο είναι απλώς ένα έγγραφο μπορεί για έναν agent να αποτελέσει πηγή οδηγιών που επηρεάζουν τις επόμενες ενέργειές του.

Ο μεγάλος κίνδυνος για τις επιχειρήσεις είναι τα δεδομένα

Πέρα από τις επιθέσεις μέσω agents και πρόσθετων, ένας από τους πιο άμεσους κινδύνους αφορά την ακούσια διαρροή εταιρικών πληροφοριών.

Ένας εργαζόμενος μπορεί να εισαγάγει σε ένα δημόσιο εργαλείο AI μια σύμβαση, οικονομικά στοιχεία, εσωτερική αλληλογραφία, κώδικα ή άλλο εμπιστευτικό υλικό προκειμένου να ζητήσει περίληψη, ανάλυση ή επεξεργασία.

Από τη στιγμή που αυτά τα δεδομένα εγκαταλείπουν το ελεγχόμενο εταιρικό περιβάλλον, η επιχείρηση χάνει μέρος του ελέγχου πάνω στον τρόπο με τον οποίο αποθηκεύονται και επεξεργάζονται.

Οι ακριβείς κίνδυνοι εξαρτώνται από την υπηρεσία, τις ρυθμίσεις και τους όρους χρήσης. Ωστόσο, το βασικό πρόβλημα παραμένει: η παραγωγική AI μπορεί να γίνει ένας νέος δρόμος εξόδου ευαίσθητων δεδομένων από την επιχείρηση.

Από την προστασία του μοντέλου στην προστασία ολόκληρου του οικοσυστήματος

Η μετάβαση από τα chatbot στους AI agents αλλάζει και τις απαιτήσεις ασφαλείας.

Μέχρι σήμερα, το ενδιαφέρον επικεντρωνόταν σε μεγάλο βαθμό στο μοντέλο: τι απαντά, ποιες πληροφορίες παράγει και εάν μπορεί να παραπλανηθεί.

Πλέον πρέπει να εξετάζεται ολόκληρη η αλυσίδα:

ποια αρχεία μπορεί να ανοίξει ο AI agent,

σε ποιες εφαρμογές έχει πρόσβαση,

ποια δεδομένα μπορεί να διαβάσει,

ποια δικαιώματα διαθέτει,

εάν μπορεί να εκτελέσει κώδικα,

ποιες ενέργειες μπορεί να πραγματοποιήσει αυτόνομα,

και πώς καταγράφεται και ελέγχεται η συμπεριφορά του.

Η παραδοσιακή προστασία από κακόβουλο λογισμικό παραμένει απαραίτητη, αλλά από μόνη της δεν αρκεί.

Χρειάζεται ένα πολυεπίπεδο μοντέλο ασφάλειας, με αυστηρό έλεγχο πρόσθετων και συνδέσεων, περιορισμό των δικαιωμάτων πρόσβασης, ασφαλή παραμετροποίηση, έλεγχο αρχείων και συνδέσμων και συνεχή παρακολούθηση της συμπεριφοράς των AI agents.

Η AI χρειάζεται πλέον και διακυβέρνηση

Για τις επιχειρήσεις, η κυβερνοασφάλεια της AI δεν είναι μόνο τεχνικό ζήτημα. Είναι και ζήτημα διακυβέρνησης.

Πρέπει να υπάρχουν σαφείς κανόνες για το ποια εργαλεία AI επιτρέπεται να χρησιμοποιούν οι εργαζόμενοι, ποια δεδομένα μπορούν να εισάγουν σε αυτά και με ποια εταιρικά συστήματα επιτρέπεται να συνδέονται.

Παράλληλα, όσο αυξάνεται η αυτονομία των agents, τόσο μεγαλύτερη σημασία αποκτούν η αρχή των ελάχιστων δικαιωμάτων, οι περιορισμοί στις ενέργειες υψηλού κινδύνου και η δυνατότητα ανθρώπινης παρέμβασης.

Η μεγάλη αλλαγή είναι ότι η AI δεν αποτελεί πλέον απλώς ένα ακόμη πρόγραμμα που πρέπει να προστατευθεί.

Μετατρέπεται σταδιακά σε ένα ψηφιακό στρώμα που βλέπει, διαβάζει, αποφασίζει και σε ορισμένες περιπτώσεις ενεργεί μέσα στα συστήματα μιας επιχείρησης.

Αυτό σημαίνει ότι μαζί με τη μαζική εξάπλωση της Τεχνητής Νοημοσύνης δημιουργείται και μια νέα κατηγορία κυβερνοασφάλειας, όπου η προστασία δεν αφορά μόνο τον υπολογιστή ή το δίκτυο, αλλά και τον ίδιο τον τρόπο με τον οποίο η AI αντιλαμβάνεται και χειρίζεται την πληροφορία.