Μια νέα γενιά κινδύνων για την ιδιωτικότητα, την ανθρώπινη αυτονομία και την κυβερνοασφάλεια αναδύεται μέσα από την ταχύτατη εξέλιξη της γνωστικής τεχνητής νοημοσύνης, σύμφωνα με την Kaspersky. Μάλιστα, η εταιρεία κυβερνοασφάλειας προειδοποιεί ότι τα επόμενα χρόνια η AI δεν θα περιορίζεται απλώς στην επεξεργασία δεδομένων, αλλά θα αποκτά ολοένα μεγαλύτερη δυνατότητα κατανόησης, πρόβλεψης και επιρροής της ανθρώπινης συμπεριφοράς.

Από τη χειραγώγηση της κοινής γνώμης μέχρι τις διεπαφές εγκεφάλου–υπολογιστή, η επόμενη γενιά ΑΙ δημιουργεί νέους κινδύνους

Όπως επισημαίνει η εταιρεία, τα σημερινά συστήματα AI δεν είναι ακόμη σε θέση να «διαβάζουν» κυριολεκτικά το ανθρώπινο μυαλό ή να αποκωδικοποιούν με ακρίβεια σκέψεις και συναισθήματα. Ωστόσο, διαθέτουν ήδη τη δυνατότητα να επηρεάζουν αποφάσεις και συμπεριφορές μέσα από αλγορίθμους προτάσεων, εξατομικευμένο περιεχόμενο και μηχανισμούς ελέγχου της πληροφορίας σε μεγάλη κλίμακα. Η Kaspersky εκτιμά ότι όσο εξελίσσονται τα γνωστικά συστήματα τεχνητής νοημοσύνης, θα ενισχύονται και τέσσερις βασικές κατηγορίες κινδύνων, οι οποίες αφορούν τόσο τους απλούς χρήστες όσο και επιχειρήσεις, οργανισμούς και κυβερνήσεις.

Σύμφωνα με την εταιρεία, η πρώτη μεγάλη απειλή αφορά τη ραγδαία εξέλιξη της κοινωνικής μηχανικής. Πρακτικά, τα Μεγάλα Γλωσσικά Μοντέλα μεταμορφώνουν ήδη τις επιθέσεις phishing σε πολύ πιο σύνθετες και πειστικές επιχειρήσεις εξαπάτησης. Οι κυβερνοεγκληματίες μπορούν πλέον να δημιουργούν emails, ιστοσελίδες και μηνύματα, που εμφανίζονται εξαιρετικά αξιόπιστα. Η επόμενη φάση, σύμφωνα με την εταιρεία, θα περιλαμβάνει αξιοποίηση δεδομένων από κοινωνικά δίκτυα και ανάλυση ψυχολογικών χαρακτηριστικών των θυμάτων, ώστε οι επιθέσεις να προσαρμόζονται δυναμικά στο κάθε άτομο.

Οι επιθέσεις αυτές δεν θα βασίζονται μόνο σε τεχνικές εξαπάτησης, αλλά και σε συναισθηματικά ερεθίσματα, με στόχο να αυξάνεται η αποτελεσματικότητά τους. Η Kaspersky σημειώνει ότι το phishing αντιστοιχεί, ήδη, περίπου στο 15% των πιο συχνών μεθόδων κυβερνοεπίθεσης, λειτουργώντας συχνά ως «πύλη εισόδου» για πιο εξελιγμένες μορφές κυβερνοεγκλήματος.

Η AI και κοινή γνώμη

Η δεύτερη μεγάλη απειλή αφορά τη δυνατότητα μαζικής γνωστικής χειραγώγησης. Σύμφωνα με τους ειδικούς, η τεχνητή νοημοσύνη επιτρέπει πλέον τη δημιουργία εκστρατειών επιρροής μεγάλης κλίμακας, οι οποίες μπορούν να αξιοποιούν γνωστικές προκαταλήψεις και συναισθηματικά ερεθίσματα για να επηρεάζουν πληθυσμιακές ομάδες.

Οι πλατφόρμες κοινωνικής δικτύωσης αποτελούν, ήδη, χαρακτηριστικό παράδειγμα του τρόπου με τον οποίο τα αλγοριθμικά συστήματα μπορούν να ενισχύουν τα λεγόμενα «echo chambers» και να οξύνουν την κοινωνική και πολιτική πόλωση.

Η Kaspersky προειδοποιεί ότι όσο εξελίσσονται οι δυνατότητες της γνωστικής AI, θα γίνεται ολοένα δυσκολότερο να διακρίνει κανείς αν ένα σύστημα προβλέπει απλώς την ανθρώπινη συμπεριφορά ή αν επιχειρεί ενεργά να τη διαμορφώσει.

Ψηφιακή κακοποίηση

Η τρίτη κατηγορία κινδύνου αφορά τη δημιουργία και αξιοποίηση προφίλ χρηστών μέσω τεχνητής νοημοσύνης. Μέσα από δεδομένα κοινωνικών δικτύων, διαδικτυακής δραστηριότητας και άλλων πηγών, τα συστήματα AI μπορούν να συσχετίζουν πληροφορίες, που παλαιότερα ήταν αποσπασματικές, αποκαλύπτοντας ευαίσθητα προσωπικά στοιχεία.

Σύμφωνα με την εταιρεία, αυτή η εξέλιξη καθιστά ευκολότερες πρακτικές, όπως το doxxing, η στοχευμένη παρενόχληση και άλλες μορφές ψηφιακής κακοποίησης. Παράλληλα, η χρήση προγνωστικών μοντέλων δημιουργεί τον κίνδυνο στοχοποίησης ανθρώπων όχι για όσα έχουν κάνει, αλλά για όσα ένα σύστημα εκτιμά ότι μπορεί να κάνουν στο μέλλον.

Η συζήτηση, επομένως, δεν αφορά μόνο την απώλεια ιδιωτικότητας, αλλά και τον έλεγχο της ίδιας της ψηφιακής ταυτότητας των πολιτών.

Όταν ο εγκέφαλος συνδέεται με το IoT

Η τέταρτη απειλή αφορά τις διεπαφές εγκεφάλου-υπολογιστή, γνωστές ως BCIs, οι οποίες σήμερα βρίσκονται ακόμη, κυρίως, σε πειραματικό στάδιο. Οι τεχνολογίες αυτές χρησιμοποιούνται, ήδη, για την υποστήριξη ασθενών μέσω της ερμηνείας νευρωνικών σημάτων, ενώ η έρευνα επεκτείνεται πλέον και στον έλεγχο εξωτερικών συσκευών. Καθώς οι διεπαφές αυτές αρχίζουν να συνδέονται με το Internet of Things, τα νευρωνικά σήματα μπορούν να μετατρέπονται σε εντολές για έξυπνες συσκευές, ιατρικό εξοπλισμό ή βοηθητικές τεχνολογίες.

Η εξέλιξη αυτή μπορεί να προσφέρει σημαντικά οφέλη, ιδιαίτερα στον τομέα της υγείας και της προσβασιμότητας. Ωστόσο, δημιουργεί και νέους κινδύνους κυβερνοασφάλειας, όπως υποκλοπή σημάτων, μη εξουσιοδοτημένες ενέργειες ή αλλοίωση της σχέσης ανάμεσα στην ανθρώπινη πρόθεση και στην εκτέλεση μιας ενέργειας.