Του Αντώνη Ζήβα
Η ευκολία που υπόσχονται οι αυτόνομοι ψηφιακοί βοηθοί τεχνητής νοημοσύνης συνοδεύεται από ένα κρίσιμο ερώτημα: πόσα προσωπικά δεδομένα είμαστε διατεθειμένοι να τους εμπιστευτούμε και πόσο έλεγχο διατηρούμε όταν τους αναθέτουμε να ενεργούν για λογαριασμό μας;
Ένα περιστατικό που περιέγραψε το Associated Press στις 19 Οκτωβρίου φέρνει το ζήτημα στο προσκήνιο.
Ο Ματ Ρομπ, δημιουργός τεχνολογικού περιεχομένου με έδρα το Τορόντο, δοκίμασε τον νέο AI agent Muse της Meta για να διαχειριστεί μια αγγελία πώλησης πληκτρολογίου στο Facebook Marketplace. Το αποτέλεσμα ήταν να συμφωνηθεί μια συναλλαγή, να κοινοποιηθεί η διεύθυνση της κατοικίας του σε υποψήφιο αγοραστή και εκείνος να εμφανιστεί στο σπίτι του, χωρίς ο Ρομπ να έχει αντιληφθεί εγκαίρως τι είχε κανονιστεί.
Το περιστατικό αναδεικνύει τη διαφορά ανάμεσα σε ένα chatbot, που απαντά σε ερωτήσεις, και έναν AI agent, ο οποίος μπορεί να χρησιμοποιεί εφαρμογές, να επικοινωνεί με τρίτους και να εκτελεί ενέργειες με πραγματικές συνέπειες.
Καθώς τέτοια εργαλεία αποκτούν πρόσβαση σε περισσότερες πτυχές της καθημερινότητας, η προστασία των προσωπικών δεδομένων δεν αφορά πλέον μόνο όσα γράφει κάποιος σε ένα παράθυρο συνομιλίας, αλλά και όσα επιτρέπει στο σύστημα να κάνει.
Πώς ο AI agent της Meta αποκάλυψε τη διεύθυνση του χρήστη
Ο Ρομπ αποφάσισε να δοκιμάσει τον Muse αναθέτοντάς του τη διαχείριση των μηνυμάτων για την πώληση ενός πληκτρολογίου. Όπως περιέγραψε, περίμενε ότι ο ψηφιακός βοηθός θα του ζητούσε επιβεβαίωση πριν αποδεχτεί μια προσφορά ή κοινοποιήσει ευαίσθητες πληροφορίες.
Ωστόσο, ο agent προχώρησε σε συνεννόηση με ενδιαφερόμενο αγοραστή, αποδέχθηκε χαμηλότερη τιμή και έστειλε τη διεύθυνση του Ρομπ ως σημείο παραλαβής. Ο αγοραστής εμφανίστηκε στην κατοικία του, ενώ ο ίδιος δεν γνώριζε ότι είχε κανονιστεί η συνάντηση. Σύμφωνα με τις σχετικές αναφορές, το περιστατικό έγινε αντιληπτό όταν ο Ρομπ ενημερώθηκε εκ των υστέρων για όσα είχαν συμβεί.
Η διερεύνηση του συμβάντος ανέδειξε και ένα πρόβλημα στις ρυθμίσεις πρόσβασης. Ο Ρομπ είχε επιλέξει την επιλογή «Allow Always» («Να επιτρέπεται πάντα»), θεωρώντας ότι ο Muse θα εξακολουθούσε να ζητά ξεχωριστή έγκριση για κρίσιμες ενέργειες.
Η ρύθμιση, όμως, σε συνδυασμό με την καταχώριση της διεύθυνσης ως σημείου παραλαβής και την άδεια για αυτόματες απαντήσεις, επέτρεψε στον agent να συμπεριλάβει τα στοιχεία αυτά στα μηνύματα προς τους ενδιαφερόμενους.
Η Meta αναγνώρισε επίσης σφάλμα σε διαφορετική προσπάθεια διαχείρισης αγγελίας, κατά την οποία ο Muse φάνηκε να προτείνει τιμή χαμηλότερη από το κατώτατο ποσό που είχε ορίσει ο πωλητής.
Η υπόθεση δείχνει ότι το πρόβλημα δεν περιορίζεται στην προστασία των δεδομένων: αφορά και την αξιοπιστία των αποφάσεων που λαμβάνει ένα σύστημα όταν ενεργεί αυτόνομα.
Η διάκριση έχει σημασία. Δεν προκύπτει ότι ο agent απέκτησε κατ’ ανάγκη πρόσβαση σε πληροφορίες που ήταν τεχνικά απαγορευμένες, αλλά ότι οι άδειες που είχαν δοθεί ερμηνεύτηκαν με τρόπο που ο χρήστης δεν περίμενε. Αυτό ακριβώς αναδεικνύει το κενό ανάμεσα στην τυπική συγκατάθεση και στην πραγματική κατανόηση των συνεπειών της.
Τι αλλάζει με τους αυτόνομους ψηφιακούς βοηθούς
Οι AI agents αποτελούν το επόμενο βήμα στην εξέλιξη των εργαλείων τεχνητής νοημοσύνης. Ενώ ένα συμβατικό chatbot απαντά κυρίως σε ερωτήματα και εκτελεί εντολές μέσα στη συνομιλία, ένας agent μπορεί να οργανώνει εργασίες σε διαδοχικά βήματα, να συνδέεται με άλλες υπηρεσίες και να αναλαμβάνει πρωτοβουλίες χωρίς να χρειάζεται να εγκρίνεται ξεχωριστά κάθε επιμέρους ενέργεια.
Η Meta έχει παρουσιάσει τον Muse ως προσωπικό ψηφιακό βοηθό για καθημερινές δραστηριότητες, από τη διαχείριση προγράμματος και τις αγορές μέχρι την οργάνωση σύνθετων εργασιών. Παράλληλα, η OpenAI έχει αναπτύξει τα δικά της εργαλεία προσωπικού βοηθού, τα Dots, με δυνατότητες ενσωμάτωσης στο ChatGPT και σε πλατφόρμες εργασίας.
Η χρησιμότητα αυτών των συστημάτων εξαρτάται σε μεγάλο βαθμό από τις πληροφορίες στις οποίες έχουν πρόσβαση. Ένας βοηθός που γνωρίζει το ημερολόγιο, τα μηνύματα, τις αγοραστικές συνήθειες και τις προτιμήσεις του χρήστη μπορεί να εκτελεί εργασίες με λιγότερες διευκρινίσεις. Ταυτόχρονα, όμως, αποκτά τη δυνατότητα να επεξεργάζεται δεδομένα που αποκαλύπτουν πολύ περισσότερα από όσα απαιτούνται για μια μεμονωμένη εργασία.
Η καθηγήτρια Βερόνικα Ριβέρα, από το Georgia Institute of Technology, παρομοιάζει τη χρήση ενός AI agent με την παράδοση των κλειδιών σε κάποιον μαζί με μια λίστα εργασιών. Όπως εξήγησε στο AP, η χρησιμότητα και ο κίνδυνος εξαρτώνται από το εύρος της πρόσβασης που παραχωρεί ο χρήστης.
Το κρίσιμο ζήτημα, επομένως, δεν είναι μόνο πόσο έξυπνος είναι ένας ψηφιακός βοηθός, αλλά και ποιες εξουσίες διαθέτει, ποιες αποφάσεις μπορεί να λαμβάνει μόνος του και αν ο χρήστης αντιλαμβάνεται εγκαίρως τι ακριβώς έχει επιτρέψει.
Το πρόβλημα δεν σταματά όταν ανακαλέσουμε την άδεια
Η ανάκληση μιας άδειας πρόσβασης μπορεί να εμποδίσει έναν agent να αντλεί νέα δεδομένα από μια υπηρεσία. Δεν σημαίνει, όμως, απαραίτητα ότι διαγράφονται αυτόματα οι πληροφορίες που έχει ήδη επεξεργαστεί ή αποθηκεύσει.
Ο Εμπραχίμ Μπαγκερί, καθηγητής στη Σχολή Πληροφοριών του Πανεπιστημίου του Τορόντο, επισήμανε στο Associated Press ότι όταν ένας agent αποκτά πρόσβαση, για παράδειγμα, σε πιστωτική κάρτα, μπορεί να επεξεργαστεί και το ιστορικό των συναλλαγών της. Η μεταγενέστερη ανάκληση της άδειας δεν αναιρεί το γεγονός ότι το σύστημα έχει ήδη λάβει γνώση αυτών των δεδομένων.
Παράλληλα, οι πρακτικές αποθήκευσης και διατήρησης του ιστορικού ενδέχεται να διαφέρουν ανάλογα με την υπηρεσία και τις ρυθμίσεις της. Η απενεργοποίηση της πρόσβασης και η διαγραφή των δεδομένων αποτελούν, συνεπώς, δύο διαφορετικές διαδικασίες.
Αυτό έχει ιδιαίτερη σημασία όταν οι agents συνδέονται με λογαριασμούς ηλεκτρονικού ταχυδρομείου, εφαρμογές ανταλλαγής μηνυμάτων ή επαγγελματικές πλατφόρμες. Ένα τέτοιο σύστημα μπορεί να αποκτήσει εικόνα όχι μόνο για τον ίδιο τον χρήστη, αλλά και για τις επαφές του, τις συζητήσεις του, τις εργασιακές του σχέσεις και προσωπικές πληροφορίες που του έχουν εμπιστευτεί τρίτοι.
Η Ριβέρα προειδοποίησε ότι όταν ένας agent διαβάζει τα μηνύματα ή τα ηλεκτρονικά γράμματα ενός χρήστη, διαβάζει παράλληλα και όσα του έχουν γράψει φίλοι, συγγενείς ή συνεργάτες, χωρίς εκείνοι να έχουν δώσει τη δική τους συγκατάθεση για την επεξεργασία των συνομιλιών τους από το σύστημα τεχνητής νοημοσύνης.
Έτσι, η ιδιωτικότητα παύει να είναι αποκλειστικά ατομική υπόθεση. Η επιλογή ενός προσώπου να συνδέσει τους λογαριασμούς του με έναν AI agent μπορεί να επηρεάσει και άλλους ανθρώπους, οι οποίοι δεν έχουν καμία άμεση σχέση με την υπηρεσία.
Η Apple αλλάζει τους ελέγχους ασφαλείας στους υπολογιστές Mac
Οι ανησυχίες δεν περιορίζονται στις συναλλαγές μέσω διαδικτύου. Η πρόσβαση των AI agents σε αρχεία και εφαρμογές ενός υπολογιστή δημιουργεί πρόσθετα ερωτήματα για το εύρος των δικαιωμάτων που μπορούν να αποκτήσουν.
Στις 2 Οκτωβρίου, η Apple ανακοίνωσε ότι θα εισαγάγει πρόσθετους ελέγχους στο macOS για τη λειτουργία Full Disk Access («Πλήρης πρόσβαση στον δίσκο»). Η συγκεκριμένη ρύθμιση μπορεί να επιτρέψει σε εφαρμογές ευρεία πρόσβαση σε αρχεία και άλλα δεδομένα του συστήματος, ενώ η εταιρεία προειδοποίησε ότι ορισμένοι προγραμματιστές αξιοποιούν τέτοιες δυνατότητες με τρόπους που ενδέχεται να εκθέσουν πληροφορίες χωρίς οι χρήστες να αντιλαμβάνονται πλήρως τις συνέπειες.
Η ανακοίνωση ακολούθησε δημοσίευμα του αρθρογράφου τεχνολογίας Τζέισον Έιτεν, ο οποίος υποστήριξε ότι ο Muse είχε αναφερθεί σε περιεχόμενο ιδιωτικών μηνυμάτων στον υπολογιστή Mac του, χωρίς ο ίδιος να έχει αντιληφθεί ότι είχε παραχωρήσει σχετική πρόσβαση.
Η Meta αμφισβήτησε τον ισχυρισμό ότι η πρόσβαση στα μηνύματα έγινε χωρίς άδεια.
Ο εκπρόσωπός της, Άντι Στόουν, υποστήριξε ότι η ενσωμάτωση της εφαρμογής Messages στον Muse είναι προαιρετική και απαιτεί τόσο την ενεργοποίηση της λειτουργίας Full Disk Access στο macOS όσο και την ενεργοποίηση της αντίστοιχης σύνδεσης μέσα στον Muse.
Η αντιπαράθεση αυτή αναδεικνύει ένα επιπλέον πρόβλημα: ακόμη και όταν υπάρχουν τεχνικοί μηχανισμοί ασφαλείας, οι χρήστες μπορεί να μην κατανοούν τη διαφορά ανάμεσα στην άδεια πρόσβασης σε μια εφαρμογή και στην ευρύτερη δυνατότητα ανάγνωσης δεδομένων που παρέχει το λειτουργικό σύστημα.
Η Apple δεν κατονόμασε συγκεκριμένο προγραμματιστή στην ανακοίνωσή της. Το μέτρο, ωστόσο, συνδέεται με μια ευρύτερη ανησυχία για το πώς θα ελέγχεται η πρόσβαση των αυτόνομων συστημάτων σε ολοένα περισσότερες λειτουργίες των προσωπικών υπολογιστών.
Τι προβλέπουν οι εταιρείες για τη διαχείριση των προσωπικών δεδομένων
Τόσο η Meta όσο και η OpenAI διαθέτουν ρυθμίσεις και πολιτικές για τη διαχείριση των πληροφοριών που επεξεργάζονται οι ψηφιακοί βοηθοί τους. Ωστόσο, οι διαδικασίες δεν είναι ίδιες και η απενεργοποίηση μιας λειτουργίας δεν συνεπάγεται αυτομάτως τη διαγραφή κάθε δεδομένου που έχει ήδη συγκεντρωθεί.
Σύμφωνα με το AP, η OpenAI δίνει τη δυνατότητα στους χρήστες να υποβάλουν αιτήματα πρόσβασης, διαγραφής ή διόρθωσης προσωπικών πληροφοριών, με τα δικαιώματα να διαφοροποιούνται ανάλογα με τη δικαιοδοσία. Η Meta παρέχει επίσης επιλογές διαγραφής του ιστορικού συνομιλιών και άλλων πληροφοριών που σχετίζονται με τον Muse.
Οι εταιρείες περιγράφουν μέτρα προστασίας για τα δεδομένα των χρηστών, ενώ η Meta αναγνωρίζει ότι ο Muse μπορεί να κάνει λάθη ή να προχωρήσει σε απρόσμενες ενέργειες.
Η ύπαρξη τέτοιων ρυθμίσεων, πάντως, δεν καταργεί την ανάγκη να γνωρίζει ο χρήστης τι ακριβώς επιτρέπει. Η άδεια ανάγνωσης μηνυμάτων, για παράδειγμα, δεν είναι το ίδιο με την άδεια αποστολής τους, όπως η πρόσβαση σε μια αγγελία δεν θα έπρεπε να θεωρείται αυτονόητα εξουσιοδότηση για αποδοχή οποιασδήποτε προσφοράς.
Αυτή η διάκριση μεταξύ πρόσβασης και εξουσιοδότησης για δράση αποτελεί μία από τις βασικές προκλήσεις στον σχεδιασμό των αυτόνομων συστημάτων.
Ποια είναι τα όρια της ασφάλειας στην εποχή των AI agents
Η υπόθεση του Ρομπ αναδεικνύει τρία διαφορετικά επίπεδα κινδύνου. Το πρώτο αφορά την έκθεση δεδομένων, όπως μια διεύθυνση κατοικίας ή το ιστορικό οικονομικών συναλλαγών. Το δεύτερο αφορά την αυτόνομη δράση, όταν ο agent στέλνει μηνύματα, συμφωνεί σε μια τιμή ή κανονίζει μια συνάντηση χωρίς νέα επιβεβαίωση. Το τρίτο αφορά τις συνέπειες για τρίτους, των οποίων οι πληροφορίες μπορεί να περιλαμβάνονται σε συνομιλίες που διαβάζει το σύστημα.
Ακόμη και αν δεν υπάρξει παραβίαση ασφαλείας με τη στενή τεχνική έννοια, ένα λάθος στην ερμηνεία των αδειών ή των εντολών μπορεί να έχει πραγματικές επιπτώσεις. Η αποκάλυψη μιας διεύθυνσης, η αποστολή ενός ευαίσθητου μηνύματος ή η αποδοχή μιας οικονομικής προσφοράς μπορεί να είναι δύσκολο να ανακληθεί εκ των υστέρων.
Για τον λόγο αυτό, η προστασία της ιδιωτικότητας δεν εξαρτάται μόνο από την κρυπτογράφηση ή την ασφάλεια των διακομιστών. Απαιτεί επίσης σαφή όρια στις ενέργειες που επιτρέπονται, ενημέρωση για το εύρος κάθε άδειας και μηχανισμούς που ζητούν ανθρώπινη επιβεβαίωση πριν από ενέργειες με σοβαρές συνέπειες.
Ο ίδιος ο Ρομπ περιόρισε στη συνέχεια τη σύνδεση του Muse με τις εφαρμογές του, χωρίς να αποκλείσει το ενδεχόμενο να ξαναδοκιμάσει την τεχνολογία όταν βελτιωθεί.
Η στάση του αποτυπώνει το δίλημμα που συνοδεύει τη διάδοση των AI agents: η αυτοματοποίηση μπορεί να εξοικονομεί χρόνο, αλλά προϋποθέτει εμπιστοσύνη σε συστήματα που δεν λειτουργούν πάντα όπως περιμένει ο χρήστης.
Πηγή: skai.gr
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το differentnews.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
Πηγή: www.skai.gr
