Κυβερνοασφάλεια

Κενά ασφαλείας στις εφαρμογές ΑΙ αναδεικνύουν νέους κινδύνους διαρροής δεδομένων

hacking-cybersecurity-attack

Νέους κινδύνους για την ασφάλεια των δεδομένων αναδεικνύει η αυξανόμενη ενσωμάτωση εφαρμογών Τεχνητής Νοημοσύνης στις καθημερινές ψηφιακές δραστηριότητες και στις επιχειρησιακές λειτουργίες. Ακόμη και συστήματα, που διαθέτουν προηγμένους μηχανισμούς προστασίας, ενδέχεται να παρουσιάζουν τεχνικές αδυναμίες, οι οποίες μπορούν να αξιοποιηθούν για την παράκαμψη περιορισμών ασφαλείας και τη μη εξουσιοδοτημένη μεταφορά πληροφοριών προς τρίτους.

Ευπάθειες στους μηχανισμούς προστασίας των εφαρμογών AI - Οι κίνδυνοι για την ασφάλεια των επιχειρησιακών πληροφοριών

Σύμφωνα με έρευνα της Check Point Research, του ερευνητικού τμήματος της Check Point Software Technologies, εντοπίστηκε ευπάθεια σε εφαρμογή παραγωγικής Τεχνητής Νοημοσύνης, η οποία επέτρεπε την παράκαμψη προηγμένης λειτουργίας προστασίας δεδομένων. Η αδυναμία μπορούσε να αξιοποιηθεί για τη διαρροή περιεχομένου συνομιλιών, την πραγματοποίηση επιθέσεων ηλεκτρονικού «ψαρέματος» (phishing) και τη διανομή κακόβουλου λογισμικού.

Η έρευνα αφορούσε συγκεκριμένα το ChatGPT και τη λειτουργία Lockdown Mode, η οποία έχει σχεδιαστεί για να περιορίζει τη δυνατότητα διαρροής πληροφοριών μέσω κακόβουλων οδηγιών. Η OpenAI έχει ήδη διορθώσει τη συγκεκριμένη ευπάθεια, ενώ οι ερευνητές επιβεβαίωσαν ότι η μέθοδος εκμετάλλευσης της δεν λειτουργεί πλέον.

Παράκαμψη προηγμένων μηχανισμών προστασίας

Η συγκεκριμένη λειτουργία ασφαλείας περιορίζει ορισμένες εξερχόμενες συνδέσεις και απενεργοποιεί δυνατότητες, που θα μπορούσαν να αξιοποιηθούν για τη μεταφορά πληροφοριών εκτός της εφαρμογής. Στόχος είναι η προστασία από επιθέσεις prompt injection, κατά τις οποίες κακόβουλες οδηγίες ενσωματώνονται σε περιεχόμενο, που επεξεργάζεται ένα σύστημα Τεχνητής Νοημοσύνης.

Ωστόσο, οι ερευνητές διαπίστωσαν ότι αδυναμία στη διαχείριση αναδυόμενων παραθύρων κατά την προεπισκόπηση περιεχομένου HTML επέτρεπε την παράκαμψη περιορισμών του απομονωμένου περιβάλλοντος εκτέλεσης, γνωστού ως sandbox.

Δυνατότητα διαρροής δεδομένων χωρίς ενέργεια του χρήστη

Ιδιαίτερη σημασία παρουσιάζει το γεγονός ότι η ευπάθεια μπορούσε, υπό συγκεκριμένες συνθήκες, να αξιοποιηθεί χωρίς να απαιτείται καμία ενέργεια ή έγκριση του χρήστη. Σε ελεγχόμενη δοκιμή στην εφαρμογή ChatGPT για υπολογιστές, οι ερευνητές απέδειξαν ότι ένα κακόβουλο GPT μπορούσε να μεταφέρει αθόρυβα περιεχόμενο συνομιλιών προς εξωτερικό διακομιστή, ενώ ο χρήστης συνέχιζε να χρησιμοποιεί την εφαρμογή.

Η συγκεκριμένη επίδειξη πραγματοποιήθηκε σε περιβάλλον εφαρμογής, που βασίζεται στην τεχνολογία Electron, η οποία επέτρεπε την ενεργοποίηση αναδυόμενου παραθύρου χωρίς αλληλεπίδραση του χρήστη. Παράλληλα, η έρευνα ανέδειξε δυνατότητες αξιοποίησης της ευπάθειας για επιθέσεις κοινωνικής μηχανικής.

Μεταξύ των σεναρίων, που εξετάστηκαν, περιλαμβάνονταν η εμφάνιση παραπλανητικών ειδοποιήσεων ενημέρωσης λογισμικού, με στόχο τη λήψη κακόβουλων αρχείων, καθώς και η ανακατεύθυνση χρηστών σε πλαστές σελίδες σύνδεσης για την πιθανή υποκλοπή διαπιστευτηρίων.

Νέες απαιτήσεις για την εταιρική κυβερνοασφάλεια

Τα ευρήματα αποκτούν ιδιαίτερη σημασία για τις επιχειρήσεις και τους οργανισμούς, καθώς η αξιοποίηση εφαρμογών παραγωγικής Τεχνητής Νοημοσύνης επεκτείνεται στην επεξεργασία εγγράφων, στην ανάλυση δεδομένων, στην εξυπηρέτηση πελατών και στη διαχείριση εσωτερικών πληροφοριών.

Η αυξανόμενη διασύνδεση των εφαρμογών AI με εταιρικά πληροφοριακά συστήματα δημιουργεί πρόσθετες απαιτήσεις προστασίας, καθώς οι πιθανές ευπάθειες δεν περιορίζονται στους αλγορίθμους, αλλά επεκτείνονται στα περιβάλλοντα εκτέλεσης, στις συνδεδεμένες υπηρεσίες και στους μηχανισμούς ανταλλαγής δεδομένων.

Στο πλαίσιο αυτό, η αποτελεσματική διαχείριση των κινδύνων προϋποθέτει ολοκληρωμένη προσέγγιση στην ασφάλεια των συστημάτων Τεχνητής Νοημοσύνης. Κρίσιμη θεωρείται η καταγραφή των εφαρμογών AI, που χρησιμοποιούνται στο επιχειρησιακό περιβάλλον, η θέσπιση πολιτικών για τη διαχείριση ευαίσθητων πληροφοριών και ο έλεγχος της πρόσβασης σε εταιρικά δεδομένα.

ΔΕΙΤΕ ΑΚΟΜΑ

Περισσότερα