Η ταχεία υιοθέτηση της Τεχνητής Νοημοσύνης στις επιχειρήσεις δημιουργεί ένα διευρυνόμενο χάσμα μεταξύ τεχνολογικής καινοτομίας και οργανωτικής ετοιμότητας. Σύμφωνα με νέα διεθνή έρευνα της TrendAI, το 67% των εταιρειών έχει δεχθεί πίεση να εγκρίνει την υιοθέτηση εφαρμογών AI, παρά τις ανησυχίες για την ασφάλεια και τη συμμόρφωση, ενώ μόνο το 38% διαθέτει ολοκληρωμένες πολιτικές διακυβέρνησης της Τεχνητής Νοημοσύνης.

Μόνο το 38% διαθέτει ολοκληρωμένες πολιτικές AI, ενώ το 57% δυσκολεύεται να συμβαδίσει με τους κινδύνους

Παράλληλα, το 57% εκτιμά ότι η τεχνολογία εξελίσσεται ταχύτερα από την ικανότητά του να διαχειριστεί αποτελεσματικά τους σχετικούς κινδύνους.

Η παγκόσμια μελέτη, στην οποία συμμετείχαν 3.700 στελέχη επιχειρήσεων και υπεύθυνοι λήψης αποφάσεων στον τομέα της Πληροφορικής από 23 χώρες, καταγράφει ότι η επιχειρηματική πίεση για γρήγορη αξιοποίηση της Τεχνητής Νοημοσύνης υπερβαίνει, σε πολλές περιπτώσεις, την ετοιμότητα των εταιρειών να διασφαλίσουν την ασφαλή χρήση της.

Ειδικότερα, το 67% των ερωτηθέντων δήλωσε ότι έχει δεχθεί πίεση να εγκρίνει την υιοθέτηση εφαρμογών AI, παρά τις επιφυλάξεις που διατυπώνονται σχετικά με ζητήματα ασφάλειας. Παράλληλα, περίπου ένας στους επτά χαρακτήρισε τις σχετικές ανησυχίες ως «εξαιρετικά σοβαρές», ωστόσο αυτές παρακάμφθηκαν, προκειμένου οι εταιρείες να ανταποκριθούν στον ανταγωνισμό και στην αυξανόμενη επιχειρησιακή ζήτηση για λύσεις Τεχνητής Νοημοσύνης.

Πολιτικές διακυβέρνησης

Τα ευρήματα της έρευνας αναδεικνύουν σημαντικές αδυναμίες στους μηχανισμούς διακυβέρνησης της Τεχνητής Νοημοσύνης. Το 57% των εταιρειών θεωρεί ότι η εξέλιξη της AI προχωρά ταχύτερα από την ικανότητά του να διασφαλίσει την ασφαλή ανάπτυξη και λειτουργία των σχετικών εφαρμογών, ενώ το 55% δηλώνει ότι διαθέτει μόνο μέτρια κατανόηση του νομικού και κανονιστικού πλαισίου, που διέπει τη χρήση της Τεχνητής Νοημοσύνης.

Την ίδια στιγμή, μόλις το 38% έχει θεσπίσει ολοκληρωμένες πολιτικές διακυβέρνησης της AI, ενώ πολλοί εξακολουθούν να βρίσκονται στο στάδιο της διαμόρφωσης σχετικών διαδικασιών. Επιπλέον, το 41% θεωρεί ότι η ασάφεια της νομοθεσίας και των απαιτήσεων συμμόρφωσης αποτελεί βασικό εμπόδιο για την ασφαλή αξιοποίηση της τεχνολογίας.

Σύμφωνα με την έρευνα, σε αρκετές περιπτώσεις οι εφαρμογές Τεχνητής Νοημοσύνης τίθενται σε λειτουργία πριν ολοκληρωθεί η ανάπτυξη των απαραίτητων μηχανισμών ελέγχου, λογοδοσίας και εποπτείας.

Προβληματισμός για την agentic AI

Η έρευνα εξετάζει επίσης τις προκλήσεις, που συνδέονται με την ανάπτυξη συστημάτων agentic AI, τα οποία μπορούν να λαμβάνουν αποφάσεις και να εκτελούν ενέργειες με περιορισμένη ανθρώπινη παρέμβαση.

Παρ’ ότι το 44% των εταιρειών εκτιμά ότι οι AI agents μπορούν να ενισχύσουν σημαντικά την κυβερνοάμυνα τα επόμενα χρόνια, οι ανησυχίες για την ασφαλή αξιοποίησή τους παραμένουν έντονες.

Το 42% θεωρεί ότι ο μεγαλύτερος κίνδυνος αφορά την πρόσβαση των AI agents σε ευαίσθητα δεδομένα, ενώ το 36% εκφράζει φόβους για πιθανή αξιοποίηση κακόβουλων εντολών. Παράλληλα, το 33% επισημαίνει ότι τα συστήματα αυτά διευρύνουν την επιφάνεια κυβερνοεπιθέσεων, ενώ αντίστοιχο ποσοστό ανησυχεί για την κατάχρηση της εμπιστοσύνης προς την Τεχνητή Νοημοσύνη και τους κινδύνους, που συνδέονται με την αυτόνομη ανάπτυξη λογισμικού.

Επιπλέον, σχεδόν μία στις τρεις εταιρείες (31%) παραδέχεται ότι δεν διαθέτει επαρκείς δυνατότητες παρακολούθησης και ελέγχου των συγκεκριμένων συστημάτων, γεγονός που περιορίζει τη δυνατότητα έγκαιρης παρέμβασης σε περίπτωση αστοχίας ή κακόβουλης χρήσης.

Μηχανισμοί ελέγχου

Η έρευνα αναδεικνύει και την ανάγκη ενίσχυσης των μηχανισμών ασφαλούς λειτουργίας των αυτόνομων συστημάτων AI. Περίπου το 40% των εταιρειών υποστηρίζει την εισαγωγή μηχανισμών άμεσης απενεργοποίησης («kill switch»), ώστε να μπορεί να διακόπτεται η λειτουργία ενός συστήματος σε περίπτωση δυσλειτουργίας ή κυβερνοεπίθεσης, ενώ σχεδόν οι μισοί συμμετέχοντες δεν έχουν ακόμη διαμορφώσει σαφή θέση.

Παράλληλα, η TrendAI επισημαίνει ότι οι κυβερνοεγκληματίες αξιοποιούν, ήδη, την Τεχνητή Νοημοσύνη για την αυτοματοποίηση της αναγνώρισης στόχων, την επιτάχυνση επιθέσεων ηλεκτρονικού ψαρέματος (phishing) και τη διεύρυνση της κλίμακας των κυβερνοεπιθέσεων.