Η τεχνητή νοημοσύνη εξελίσσεται σε έναν από τους δημοφιλέστερους τρόπους αναζήτησης πληροφοριών για θέματα υγείας. Ωστόσο, πίσω από την ευκολία των άμεσων απαντήσεων κρύβονται σημαντικοί κίνδυνοι. Η ESET προειδοποιεί ότι τα AI chatbots δεν μπορούν να υποκαταστήσουν την ιατρική κρίση, ενώ υπογραμμίζει τους κινδύνους, που συνδέονται με τη διαχείριση ευαίσθητων δεδομένων υγείας και τις πιθανές παραβιάσεις της ιδιωτικότητας.

Μελέτες και ειδικοί προειδοποιούν για ανακριβείς απαντήσεις και κινδύνους έκθεσης προσωπικών δεδομένων σε AI chatbots υγείας

Σύμφωνα με τους αναλυτές, η ΑΙ έχει, ήδη, αρχίσει να μεταβάλλει τον τρόπο με τον οποίο οι πολίτες αναζητούν πληροφορίες για την υγεία τους. Μεγάλες τεχνολογικές εταιρείες επενδύουν πλέον συστηματικά στον συγκεκριμένο τομέα, λανσάροντας υπηρεσίες, που επιτρέπουν στους χρήστες να αναλύουν ιατρικά αρχεία, να υποβάλλουν ερωτήσεις σχετικά με συμπτώματα και εξετάσεις και να λαμβάνουν πληροφορίες για πιθανές θεραπευτικές επιλογές.

Η τάση αυτή ενισχύεται από τη διαθεσιμότητα των ψηφιακών εργαλείων όλο το εικοσιτετράωρο και από την αμεσότητα των απαντήσεων που προσφέρουν. Σύμφωνα με τη Microsoft, η υγεία αποτελεί, πλέον, το συχνότερο θέμα συζήτησης των χρηστών με εφαρμογές τεχνητής νοημοσύνης στις κινητές συσκευές τους, ξεπερνώντας ακόμη και άλλες δημοφιλείς κατηγορίες αναζητήσεων.

Οι «ψευδαισθήσεις» της τεχνητής νοημοσύνης

Ένας από τους βασικότερους κινδύνους αφορά τις λεγόμενες «ψευδαισθήσεις» της τεχνητής νοημοσύνης, δηλαδή τις περιπτώσεις κατά τις οποίες τα μοντέλα παράγουν ανακριβείς ή παραπλανητικές πληροφορίες με τρόπο που εμφανίζεται απολύτως πειστικός. Μελέτη του Πανεπιστημίου της Οξφόρδης, η οποία δημοσιεύθηκε τον Φεβρουάριο στο επιστημονικό περιοδικό Nature Medicine, διαπίστωσε ότι οι χρήστες συχνά δεν γνωρίζουν ποιες πληροφορίες είναι απαραίτητο να δώσουν στα μεγάλα γλωσσικά μοντέλα προκειμένου να λάβουν αξιόπιστες απαντήσεις.

Παράλληλα, η έρευνα έδειξε ότι ακόμη και μικρές διαφοροποιήσεις στη διατύπωση μιας ερώτησης μπορούν να οδηγήσουν σε σημαντικά διαφορετικές απαντήσεις. Σε αρκετές περιπτώσεις, τα μοντέλα παρείχαν συνδυασμό ορθών και λανθασμένων συμβουλών, χωρίς οι χρήστες να είναι σε θέση να διακρίνουν εύκολα ποια στοιχεία ήταν αξιόπιστα.

Η επικεφαλής ερευνήτρια της μελέτης, Δρ Rebecca Payne, ήταν ιδιαίτερα σαφής στις προειδοποιήσεις της. Όπως ανέφερε, η τεχνητή νοημοσύνη δεν είναι ακόμη έτοιμη να αναλάβει τον ρόλο του γιατρού, ενώ η αναζήτηση διάγνωσης μέσω μεγάλων γλωσσικών μοντέλων μπορεί να αποδειχθεί επικίνδυνη, ειδικά όταν τα συστήματα αδυνατούν να αναγνωρίσουν επείγουσες ιατρικές καταστάσεις.

Τα δεδομένα υγείας στο επίκεντρο

Πέρα από την αξιοπιστία των απαντήσεων, οι ειδικοί εστιάζουν ιδιαίτερα στους κινδύνους, που συνδέονται με την προστασία των προσωπικών δεδομένων. Οι χρήστες, που μοιράζονται πληροφορίες για την υγεία τους με ένα chatbot, συχνά αγνοούν τι ακριβώς συμβαίνει με τα δεδομένα τους μετά την υποβολή τους. Ανάλογα με τον πάροχο της υπηρεσίας, οι πληροφορίες αυτές ενδέχεται να χρησιμοποιηθούν για τη βελτίωση των μοντέλων τεχνητής νοημοσύνης, να αποθηκευτούν για μεγάλο χρονικό διάστημα ή να κοινοποιηθούν σε τρίτους συνεργάτες.

Αν και αρκετές εξειδικευμένες υπηρεσίες υγείας διαβεβαιώνουν ότι δεν χρησιμοποιούν τα δεδομένα των χρηστών για την εκπαίδευση των μοντέλων τους, οι ειδικοί επισημαίνουν ότι η εκπαίδευση αποτελεί μόνο μία διάσταση του ζητήματος. Η διαχείριση, η αποθήκευση και η πιθανή κοινοποίηση πληροφοριών σε τρίτους παραμένουν εξίσου κρίσιμα θέματα.

Το πρόβλημα γίνεται ακόμη πιο σύνθετο, καθώς τα δεδομένα ενδέχεται να μεταφέρονται μεταξύ διαφορετικών οργανισμών, τεχνολογικών παρόχων και εταιρειών διαχείρισης δεδομένων. Σε ορισμένες περιπτώσεις, μπορεί να καταλήγουν ακόμη και σε διαφημιστικά οικοσυστήματα ή εταιρείες ανάλυσης δεδομένων, έστω και σε ανωνυμοποιημένη μορφή.

Πολύτιμος στόχος

Οι κυβερνοεγκληματίες θεωρούν τα δεδομένα υγείας από τα πιο πολύτιμα ψηφιακά περιουσιακά στοιχεία. Σε αντίθεση με μια πιστωτική κάρτα ή έναν τραπεζικό λογαριασμό που μπορούν να αντικατασταθούν, οι πληροφορίες, που αφορούν το ιατρικό ιστορικό ενός ατόμου, παραμένουν διαχρονικά χρήσιμες.

Τα στοιχεία αυτά μπορούν να χρησιμοποιηθούν για ασφαλιστικές απάτες, ψευδείς αιτήσεις αποζημιώσεων, κλοπή ταυτότητας ή ακόμη και εκβιασμούς. Όσο περισσότερες εταιρείες αποκτούν πρόσβαση σε τέτοιου είδους δεδομένα, τόσο αυξάνεται και η επιφάνεια κινδύνου για παραβιάσεις ασφαλείας.

Σύμφωνα με την ESET, η αυξανόμενη εμπλοκή πολλών διαφορετικών φορέων στη διαχείριση πληροφοριών υγείας δημιουργεί νέες προκλήσεις για την κυβερνοασφάλεια, οι οποίες απαιτούν μεγαλύτερη διαφάνεια και αυστηρότερες πρακτικές προστασίας δεδομένων.

Τι πρέπει να προσέχουν οι χρήστες

Οι ειδικοί συνιστούν στους πολίτες να αντιμετωπίζουν τα chatbots τεχνητής νοημοσύνης ως εργαλεία ενημέρωσης και όχι ως υποκατάστατα της ιατρικής φροντίδας. Η χρήση τους μπορεί να βοηθήσει στην κατανόηση ιατρικών όρων ή στην προετοιμασία ερωτήσεων για μια επίσκεψη στον γιατρό, δεν μπορεί όμως να αντικαταστήσει την επαγγελματική διάγνωση.

Παράλληλα, οι χρήστες καλούνται να ελέγχουν προσεκτικά τις πολιτικές προστασίας προσωπικών δεδομένων των υπηρεσιών που χρησιμοποιούν, να αποφεύγουν την ανάρτηση ιατρικών εξετάσεων και εγγράφων και να μη μοιράζονται αναγνωριστικά στοιχεία όπως αριθμούς ασφάλισης, διευθύνσεις ή στοιχεία ταυτοποίησης.