Η εξέλιξη της γνωστικής AI θέτει σε κίνδυνο τη νοητική ιδιωτικότητα: η Kaspersky προειδοποιεί για τέσσερις νέες απειλές.
Η τεχνητή νοημοσύνη αναπτύσσεται ολοένα και περισσότερο με στόχο να φτάσει σε ένα σημείο όπου θα μπορεί να αναλύει νευρωνικά σήματα, να μοντελοποιεί την ανθρώπινη συμπεριφορά και να προβλέπει μοτίβα λήψης αποφάσεων. Η εξέλιξη αυτή σηματοδοτεί μια ουσιαστική μετατόπιση: η AI μετατρέπεται από ένα απλό εργαλείο επεξεργασίας δεδομένων σε ένα σύστημα ικανό να ερμηνεύει και να αλληλεπιδρά με την ανθρώπινη σκέψη. Στο Kaspersky HORIZONS, το κορυφαίο ετήσιο συνέδριο της Kaspersky για το μέλλον της κυβερνοασφάλειας στην Ευρώπη, που πραγματοποιήθηκε φέτος στη Ρώμη, ειδικοί ανέλυσαν τι σημαίνει αυτή η εξέλιξη για τη νοητική ιδιωτικότητα και τη γνωστική αυτονομία.
Παρόλο που τα σημερινά συστήματα AI δεν μπορούν κυριολεκτικά να «διαβάσουν» το ανθρώπινο μυαλό ή να αποκωδικοποιήσουν με ακρίβεια τις σκέψεις, διαθέτουν ήδη τη δυνατότητα να επηρεάζουν συμπεριφορές και αποφάσεις μέσω αλγορίθμων προτάσεων, εξατομικευμένου περιεχομένου και ελέγχου της πληροφορίας σε μεγάλη κλίμακα. Η εξέλιξη αυτή δημιουργεί έναν υπαρκτό και διαρκώς αυξανόμενο κίνδυνο τόσο για την κυβερνοασφάλεια όσο και για την κοινωνία συνολικά, ακόμη κι αν τα πιο ακραία σενάρια παραμένουν, προς το παρόν, σε θεωρητικό επίπεδο.
Η ομάδα Kaspersky GReAT εκτιμά ότι οι ακόλουθοι τέσσερις αναδυόμενοι κίνδυνοι ασφαλείας θα ενταθούν όσο εξελίσσονται τα γνωστικά συστήματα τεχνητής νοημοσύνης.
1. Η κοινωνική μηχανική γίνεται πιο σύνθετη και πιο παραπλανητική
Τα Μεγάλα Γλωσσικά Μοντέλα (LLMs) μεταμορφώνουν ήδη την κοινωνική μηχανική σε μια πολύ πιο εξελιγμένη και πειστική απειλή. Οι δράστες μπορούν πλέον να δημιουργούν emails και phishing σελίδες που εμφανίζονται ιδιαίτερα αξιόπιστες. Με την εξέλιξη της γνωστικής τεχνητής νοημοσύνης, εκτιμάται ότι θα μπορούν να αξιοποιούν πλατφόρμες κοινωνικής δικτύωσης και τεράστιους όγκους δεδομένων για την ανάπτυξη ακόμη πιο στοχευμένων κακόβουλων ενεργειών, χρησιμοποιώντας συμπεριφορικά δεδομένα και ψυχολογικά προφίλ θυμάτων, με στόχο την αύξηση του ποσοστού επιτυχίας τους. Παράλληλα, οι απόπειρες phishing θα μπορούν να δημιουργούνται δυναμικά, να προσαρμόζονται στο εκάστοτε πλαίσιο και να αξιοποιούν συναισθηματικά ερεθίσματα, στοιχείο που ενδέχεται να τις καθιστά ακόμη πιο πειστικές.
Η εξέλιξη αυτή μπορεί να επηρεάσει τόσο τους απλούς χρήστες όσο και τις επιχειρήσεις, με επιθέσεις που περιλαμβάνουν κλοπές δεδομένων αλλά και οικονομικές απάτες. Σύμφωνα με την τελευταία Διεθνή Έκθεση της Kaspersky Security Services, το phishing αντιστοιχεί περίπου στο 15% (δηλαδή μία στις επτά) των πιο συχνών μεθόδων επίθεσης. Στο πλαίσιο αυτό, μπορεί να λειτουργήσει ως αποτελεσματικό αρχικό σημείο εισόδου για APTs και άλλες εξελιγμένες μορφές κυβερνοεγκλήματος που στοχεύουν επιχειρήσεις και κυβερνητικούς οργανισμούς.
2. Η γνωστική χειραγώγηση διαμορφώνει την κοινή γνώμη
Εκτός από τις επιθέσεις που πραγματοποιούνται σε ατομικό επίπεδο, η τεχνητή νοημοσύνη παρέχει πλέον τη δυνατότητα για εκστρατείες επιρροής μεγάλης κλίμακας, ικανές να επηρεάσουν την κοινή γνώμη. Παράγοντες όπως hacktivists ή ομάδες προηγμένων επίμονων απειλών (APT groups) ενδέχεται να εκμεταλλεύονται γνωστικές προκαταλήψεις και συναισθηματικά ερεθίσματα σε ευρείες πληθυσμιακές ομάδες. Οι πλατφόρμες κοινωνικής δικτύωσης δείχνουν ήδη πώς τα αλγοριθμικά συστήματα μπορούν να ενισχύσουν τα «echo chambers» και να οξύνουν την πόλωση, ενώ πολιτικές καμπάνιες και εταιρείες αξιοποιούν εξαιρετικά στοχευμένες τεχνικές και συμπεριφορικά δεδομένα για την επιρροή των χρηστών. Καθώς αυτές οι δυνατότητες εξελίσσονται, γίνεται ολοένα και δυσκολότερο να διακρίνει κανείς αν πρόκειται για πρόβλεψη της ανθρώπινης συμπεριφοράς ή για ενεργή διαμόρφωσή της. Αυτό δημιουργεί συστημικούς κινδύνους, όχι μόνο για την ατομική αυτονομία, αλλά και για την εμπιστοσύνη στο δημόσιο πεδίο.
3. Η δημιουργία προφίλ χρηστών μέσω ΑΙ μπορεί να οδηγήσει σε ψηφιακή κακοποίηση
Η τεχνητή νοημοσύνη που δημιουργεί ανθρώπινα προφίλ εξελίσσεται σε ένα ολοένα και πιο ισχυρό εργαλείο για κακόβουλες χρήσεις. Μέσω της συλλογής δεδομένων από κοινωνικά δίκτυα, την online συμπεριφορά των χρηστών και άλλες πηγές, το doxxing και άλλες μορφές ψηφιακής κακοποίησης καθίστανται σημαντικά ευκολότερες.
Πληροφορίες που κάποτε ήταν αποσπασματικές μπορούν πλέον να συσχετίζονται αυτόματα, αποκαλύπτοντας ευαίσθητα στοιχεία, συνδέοντας ταυτότητες και επιτρέποντας στοχευμένη παρενόχληση σε μεγάλη κλίμακα. Οι επιθέσεις μπορούν επίσης να προσαρμόζονται σε ατομικά ευάλωτα σημεία, γεγονός που τις καθιστά πιο αποτελεσματικές και δυσκολότερες στην αντιμετώπιση.
Ταυτόχρονα, τα προγνωστικά μοντέλα ενισχύουν τον κίνδυνο στοχοποίησης ανθρώπων με βάση συμπεράσματα για τη συμπεριφορά τους, και όχι τις πραγματικές τους ενέργειες. Έτσι, το ζήτημα δεν αφορά μόνο την απώλεια ιδιωτικότητας, αλλά και την απώλεια ελέγχου της ταυτότητας, καθώς και τον τρόπο με τον οποίο αυτή διαμορφώνεται και ενδέχεται να χρησιμοποιείται εναντίον των ατόμων.
4. Οι διεπαφές εγκεφάλου–υπολογιστή συναντούν το IoΤ
Παρότι βρίσκονται ακόμη σε μεγάλο βαθμό σε πειραματικό στάδιο, οι διεπαφές εγκεφάλου–υπολογιστή (BCIs) χρησιμοποιούνται ήδη για να υποστηρίζουν ασθενείς στην επικοινωνία, μέσω της ερμηνείας νευρωνικών σημάτων. Η έρευνα συνεχίζει να εξελίσσει τις δυνατότητές τους, πέρα από τη βασική αλληλεπίδραση, ακόμη και στον έλεγχο εξωτερικών συσκευών. Σε αυτό το σημείο, οι BCIs αρχίζουν να συνδέονται με το Internet of Things (IoT). Πρακτικά, τα νευρωνικά σήματα μπορούν να μετατρέπονται σε εντολές για συνδεδεμένα συστήματα, όπως έξυπνες οικιακές συσκευές, βοηθητικές τεχνολογίες ή ιατρικό εξοπλισμό.
Μπορεί αυτή η εξέλιξη να προσφέρει σημαντικά οφέλη, ιδιαίτερα στους τομείς της υγείας και της προσβασιμότητας, δημιουργεί ωστόσο παράλληλα και νέους κινδύνους για την κυβερνοασφάλεια. Σε περίπτωση παραβίασης, είναι πιθανή η εκτέλεση μη εξουσιοδοτημένων ενεργειών μέσω της νευρωνικής διεπαφής, συμπεριλαμβανομένης της υποκλοπής σημάτων, της αλλοίωσης αποκρίσεων συσκευών ή της εκμετάλλευσης της σχέσης μεταξύ πρόθεσης και ενέργειας. Ως αποτέλεσμα, οι κίνδυνοι ασφάλειας επεκτείνονται πέρα από τις ψηφιακές υποδομές και εισέρχονται στο πεδίο των φυσικών συστημάτων, αλλά και της ανθρώπινης αυτονομίας.
«Αν και η γνωστική τεχνητή νοημοσύνη βρίσκεται ακόμη σε αρχικό στάδιο και απέχουμε σε μεγάλο βαθμό από τη μαζική υιοθέτησή της, εξελίσσεται με ταχείς ρυθμούς», σχολιάζει η κα Noushin Shabab, επικεφαλής ερευνήτρια ασφάλειας στην Ομάδα GReAT της Kaspersky. «Τα προηγμένα μοντέλα αλληλεπίδρασης ανθρώπου–τεχνητής νοημοσύνης αναμένεται να γίνουν πολύ πιο διαδεδομένα μέσα στις επόμενες δεκαετίες. Όσο ευρύτερα χρησιμοποιούνται, τόσο θα αυξάνονται και οι σχετικοί κίνδυνοι· και όταν έρθει η στιγμή να τους αντιμετωπίσουμε, θα πρέπει να είμαστε προετοιμασμένοι».
Η αντιμετώπιση αυτών των προκλήσεων απαιτεί συνεργασία και προληπτικές δράσεις μεταξύ ειδικών κυβερνοασφάλειας, προγραμματιστών ΑΙ, επιστημόνων, καθώς και υπευθύνων χάραξης ρυθμιστικής πολιτικής.
Όπως εξήγησε η κα Teresa Potenza, δημοσιογράφος και εκπαιδευτικός στον τομέα της τεχνητής νοημοσύνης, η οποία ανέλυσε το θέμα στο συνέδριο: «Ο πραγματικός κίνδυνος της γνωστικής τεχνητής νοημοσύνης είναι ότι διαμορφώνει το ανθρώπινο μυαλό σιωπηλά και σε μεγάλη κλίμακα. Έχουμε μάθει ότι τα συστήματα που έχουν βελτιστοποιηθεί ώστε να μειώνουν τη συνειδητή εμπλοκή του χρήστη, υπονομεύουν ταυτόχρονα την κρίση του. Αυτός είναι και ο λόγος για τον οποίο το ρυθμιστικό πλαίσιο καλείται πλέον να υπερασπιστεί την ανθρώπινη ελευθερία. Ωστόσο, δεν μπορούμε να συμβαδίσουμε με τη γνωστική τεχνητή νοημοσύνη αν εξετάζουμε μόνο το τι κάνουν αυτά τα συστήματα σήμερα. Χρειαζόμαστε μια αδιαπραγμάτευτη αρχή: η τεχνολογία πρέπει να υπηρετεί τον άνθρωπο, ποτέ το αντίστροφο. Η αυτονομία δεν είναι μόνο ζήτημα ιδιωτικότητας, είναι ζήτημα δημοκρατίας».
Αναδημοσιεύεται με την άδεια του aagora.gr
