Μια νέα επιφάνεια κυβερνοεπιθέσεων δημιουργεί η ταχεία εξάπλωση των AI agents, καθώς μαζί με την ανάπτυξη των αυτόνομων συστημάτων Τεχνητής Νοημοσύνης πολλαπλασιάζονται και τα εργαλεία λογισμικού, που χρησιμοποιούνται για να επεκτείνουν τις δυνατότητές τους. Η ESET εντόπισε περισσότερα από 25.000 ύποπτα τέτοια εργαλεία, αναδεικνύοντας έναν νέο κίνδυνο για επιχειρήσεις και οργανισμούς, που ενσωματώνουν agentic AI στις υποδομές τους.

Κακόβουλος κώδικας μπορεί να κρύβεται σε εργαλεία που επεκτείνουν τις δυνατότητες των συστημάτων Τεχνητής Νοημοσύνης

Πρόκειται για τα λεγόμενα AI skills, μικρά πακέτα κώδικα και οδηγιών, που μπορούν να προστεθούν σε έναν AI agent, ώστε να του επιτρέπουν να εκτελεί συγκεκριμένες εργασίες και να αλληλεπιδρά με άλλα συστήματα. Η ίδια δυνατότητα, όμως, που καθιστά τους agents περισσότερο λειτουργικούς, δημιουργεί και ένα νέο σημείο εισόδου για κακόβουλο λογισμικό.

Το ζήτημα αποκτά ιδιαίτερη σημασία, καθώς οι AI agents περνούν σταδιακά από το πειραματικό στάδιο στην πραγματική επιχειρησιακή χρήση. Σε αντίθεση με ένα συμβατικό chatbot, ένας agent μπορεί να αποκτά πρόσβαση σε αρχεία, εφαρμογές, βάσεις δεδομένων και άλλα εταιρικά συστήματα και να εκτελεί ενέργειες για λογαριασμό του χρήστη. Αυτό σημαίνει ότι ένα κακόβουλο ή παραποιημένο εργαλείο μπορεί δυνητικά να αποκτήσει πρόσβαση σε πολύ μεγαλύτερο εύρος εταιρικών δεδομένων και υποδομών.

Νέα αλυσίδα κινδύνου γύρω από το Agentic AI

Η έρευνα της ESET φέρνει στο προσκήνιο μια νέα διάσταση της ασφάλειας της Τεχνητής Νοημοσύνης: το πρόβλημα δεν περιορίζεται πλέον μόνο στα ίδια τα μεγάλα γλωσσικά μοντέλα ή στα δεδομένα με τα οποία αυτά εκπαιδεύονται. Επεκτείνεται στο οικοσύστημα λογισμικού, που δημιουργείται γύρω από τους AI agents.

Τα AI skills μπορούν να λειτουργούν ως έτοιμα εργαλεία για συγκεκριμένες εργασίες, επιτρέποντας στους developers και στους χρήστες να προσθέτουν νέες λειτουργίες, χωρίς να χρειάζεται κάθε φορά να δημιουργούν κώδικα από την αρχή. Η πρακτική αυτή επιταχύνει σημαντικά την ανάπτυξη εφαρμογών Agentic AI, δημιουργεί όμως παράλληλα ένα νέο ζήτημα ελέγχου της προέλευσης και της ασφάλειας του λογισμικού.

Το πρόβλημα γίνεται μεγαλύτερο, όταν οι agents έχουν εκτεταμένα δικαιώματα πρόσβασης. Ένα μη αξιόπιστο εργαλείο, που ενσωματώνεται σε έναν agent, μπορεί να αποτελέσει κρίκο μιας επίθεσης, ιδιαίτερα εάν έχει δυνατότητα πρόσβασης σε ευαίσθητα αρχεία, εταιρικές εφαρμογές ή διαπιστευτήρια.

Το οικοσύστημα των agents

Η εξέλιξη αυτή διευρύνει ουσιαστικά την έννοια του AI security. Για τις επιχειρήσεις δεν αρκεί, πλέον, να γνωρίζουν ποιο μοντέλο Τεχνητής Νοημοσύνης χρησιμοποιούν. Θα πρέπει να γνωρίζουν, επίσης, ποια εργαλεία συνδέονται με αυτό, από πού προέρχονται, ποιον κώδικα εκτελούν και σε ποια δεδομένα ή εταιρικά συστήματα έχουν πρόσβαση.

Καθώς οι AI agents αποκτούν μεγαλύτερη αυτονομία, η διαχείριση των δικαιωμάτων πρόσβασης γίνεται επίσης κρίσιμη. Η αρχή της ελάχιστης απαραίτητης πρόσβασης αποκτά ιδιαίτερη βαρύτητα: ένας agent και τα εργαλεία, που χρησιμοποιεί, θα πρέπει να έχουν πρόσβαση μόνο στα δεδομένα και στις λειτουργίες, που είναι απαραίτητα για την εκτέλεση μιας συγκεκριμένης εργασίας.

Παράλληλα, οι οργανισμοί καλούνται να εντάξουν τα εργαλεία των AI agents στις διαδικασίες ελέγχου της εφοδιαστικής αλυσίδας λογισμικού. Η προέλευση του κώδικα, οι ενημερώσεις, οι εξαρτήσεις από τρίτα συστήματα και οι αλλαγές στις άδειες πρόσβασης αποτελούν, πλέον, μέρος της συνολικής εικόνας κυβερνοασφάλειας.

Νέα πρόκληση για τις επιχειρήσεις

Τα ευρήματα αποκτούν μεγαλύτερη βαρύτητα, όσο το Agentic AI περνά σε κρίσιμες επιχειρηματικές λειτουργίες. Οι agents χρησιμοποιούνται ή δοκιμάζονται ήδη για αυτοματοποίηση διαδικασιών, ανάπτυξη λογισμικού, ανάλυση δεδομένων, εξυπηρέτηση πελατών και διαχείριση εταιρικών πληροφοριών.

Η μετατόπιση αυτή αλλάζει και το μοντέλο απειλών. Στα παραδοσιακά πληροφοριακά συστήματα, η ασφάλεια επικεντρωνόταν κυρίως στην προστασία εφαρμογών, δικτύων και χρηστών. Στο περιβάλλον του Agentic AI προστίθεται ένας ακόμη κρίσιμος παράγοντας: το ίδιο το αυτόνομο σύστημα και το σύνολο των εξωτερικών εργαλείων στα οποία βασίζεται για να ενεργεί.