Η ταχύτατη υιοθέτηση εργαλείων γενετικής τεχνητής νοημοσύνης έχει οδηγήσει σε ένα νέο τοπίο απειλών για τις επιχειρήσεις, όπου οι κυβερνοεγκληματίες αξιοποιούν deepfakes, επιθέσεις σε εφαρμογές ΑΙ και τεχνικές χειραγώγησης prompts, για να παραβιάσουν συστήματα και να αποσπάσουν κρίσιμες πληροφορίες.

Σύμφωνα με την τελευταία έρευνα της Gartner, που διεξήχθη την άνοιξη του 2025 σε 302 επικεφαλής κυβερνοασφάλειας σε Βόρεια Αμερική, ΕΜΕΑ και Ασία-Ειρηνικό, το 62% των οργανισμών αντιμετώπισε επίθεση με deepfake, το 32% βρέθηκε αντιμέτωπο με επιθέσεις σε εφαρμογές ΑΙ μέσω χειραγώγησης prompts, ενώ το 29% δήλωσε ότι δέχθηκε επίθεση στο ίδιο το enterprise GenAI application infrastructure τους τελευταίους δώδεκα μήνες.

Οι επιθέσεις μέσω GenAI «εκτοξεύονται»: Deepfakes και επιθέσεις σε εφαρμογές ΑΙ απειλούν τις επιχειρήσεις

Σύμφωνα με τους αναλυτές της Gartner, οι επιθέσεις, που αξιοποιούν το GenAI για phishing, deepfakes και κοινωνική μηχανική, έχουν πλέον γίνει mainstream, ενώ άλλες απειλές, όπως οι επιθέσεις στην υποδομή εφαρμογών GenAI και οι χειραγωγήσεις μέσω prompts αναδύονται δυναμικά. Τα chatbots και οι ψηφιακοί βοηθοί, που βασίζονται σε μεγάλα γλωσσικά μοντέλα ή πολυτροπικά μοντέλα, εμφανίζονται ιδιαίτερα ευάλωτα σε τεχνικές αντιπαραθετικής προτροπής, καθώς οι κυβερνοεγκληματίες επιχειρούν να τα χειραγωγήσουν, ώστε να παράγουν μεροληπτικό ή κακόβουλο περιεχόμενο, ανοίγοντας έτσι τον δρόμο για περαιτέρω παραβιάσεις.

Τρόποι άμυνας

Η έρευνα έδειξε, επίσης, ότι τα δύο τρίτα των επικεφαλής κυβερνοασφάλειας θεωρούν πως οι νέοι κίνδυνοι, που προκύπτουν από το GenAI, απαιτούν σημαντικές αλλαγές στις υπάρχουσες προσεγγίσεις ασφαλείας. Ωστόσο, η Gartner προειδοποιεί τις επιχειρήσεις να μην προβούν σε σπασμωδικές κινήσεις, καλώντας τις να αποφύγουν είτε τις σαρωτικές αλλαγές, είτε τις αποσπασματικές επενδύσεις.

Αντίθετα, προτείνει την ενίσχυση των βασικών ελέγχων και την υιοθέτηση στοχευμένων μέτρων για κάθε νέα κατηγορία κινδύνου. Όπως αναφέρει η εταιρεία, η ουσία είναι να ισορροπήσουν οι επιχειρήσεις ανάμεσα στη μέγιστη αξιοποίηση της αξίας που φέρνει η τεχνητή νοημοσύνη και στη διαχείριση των αυξανόμενων κινδύνων.

Το συμπέρασμα, που προκύπτει, είναι σαφές. Οι επιθέσεις, που βασίζονται στο GenAI, δεν αποτελούν πλέον σενάριο του μέλλοντος, αλλά μέρος της τρέχουσας πραγματικότητας της κυβερνοασφάλειας. Με τα deepfakes να έχουν καθιερωθεί ως εργαλείο εξαπάτησης και τις επιθέσεις σε εφαρμογές τεχνητής νοημοσύνης να πολλαπλασιάζονται, οι οργανισμοί βρίσκονται σε κρίσιμο σταυροδρόμι.

«Η πρόκληση είναι διπλή: να συνεχίσουν να επενδύουν στην αξιοποίηση της τεχνητής νοημοσύνης για την καινοτομία και την αποδοτικότητα, χωρίς να εκτεθούν ανεπανόρθωτα στους νέους κινδύνους», αναφέρει η Gartner. Η λύση, όπως επισημαίνει η εταιρεία, δεν είναι ο πανικός, αλλά η συστηματική ενίσχυση των θεμελιωδών μηχανισμών άμυνας και η προσαρμογή σε κάθε καινούργια απειλή με στοχευμένες κινήσεις.