Σε τρία πραγματικά συστήματα οργανισμών απέκτησαν «μη εξουσιοδοτημένη πρόσβαση» μοντέλα τεχνητής νοημοσύνης της Anthropic, κατά τη διάρκεια ελέγχων κυβερνοασφάλειας. Η εταιρεία ανακοίνωσε ότι οι εκδοχές του Claude που συμμετείχαν στις δοκιμές κατάφεραν να συνδεθούν στο Διαδίκτυο, παρότι το περιβάλλον ελέγχου της AI υποτίθεται ότι ήταν απομονωμένο.
Η Anthropic διευκρίνισε ότι η τεχνητή νοημοσύνη δεν επιχείρησε σκόπιμα να «δραπετεύσει» από το περιβάλλον δοκιμών, αλλά ότι το Claude απέκτησε πρόσβαση σε πραγματικούς στόχους εξαιτίας λανθασμένης ρύθμισης και ασυνεννοησίας με την εταιρεία Irregular, η οποία συμμετείχε στην αξιολόγηση της AI.
Η αμερικανική εταιρεία προχώρησε σε έλεγχο περισσότερων από 141.000 δοκιμαστικών συνεδριών, έπειτα από αντίστοιχο περιστατικό που είχε γνωστοποιήσει η OpenAI κατά τη διάρκεια αξιολόγησης μοντέλων της σε συνεργασία με τη Hugging Face. Από την έρευνα προέκυψαν τρεις περιπτώσεις κατά τις οποίες μοντέλα Claude εισήλθαν στα πραγματικά συστήματα ισάριθμων οργανισμών, οι οποίοι δεν κατονομάστηκαν.
«Σε καμία από τις περιπτώσεις το Claude δεν δραπέτευσε ούτε προσπάθησε σκόπιμα να δραπετεύσει από το περιβάλλον στο οποίο διεξάγονταν οι δοκιμές», υπογράμμισε η Anthropic, αποδίδοντας τα περιστατικά σε «επιχειρησιακή αποτυχία» και όχι σε αυτόνομη προσπάθεια των μοντέλων να παρακάμψουν τους περιορισμούς.
Τρεις διαφορετικές συμπεριφορές
Στα περιστατικά εμπλέκονταν το Claude Opus 4.7, το ισχυρότερο μοντέλο Claude Mythos 5 και ένα ερευνητικό μοντέλο που δεν έχει κυκλοφορήσει δημόσια. Σύμφωνα με τα ευρήματα, τα τρία συστήματα δεν αντέδρασαν με τον ίδιο τρόπο όταν ήρθαν αντιμέτωπα με ενδείξεις ότι οι στόχοι δεν ανήκαν σε προσομοιωμένο περιβάλλον.
Σε μία περίπτωση, το μοντέλο θεώρησε ότι η πραγματική επιχείρηση αποτελούσε μέρος της άσκησης και συνέχισε την προσπάθεια πρόσβασης. Σε άλλη περίπτωση, το σύστημα αντιλήφθηκε ότι ο στόχος ήταν πραγματικός και διέκοψε μόνο του τη δραστηριότητά του.
Τα μοντέλα αξιοποίησαν σχετικά απλές αδυναμίες ασφαλείας, όπως ανεπαρκώς προστατευμένους κωδικούς και σημεία πρόσβασης χωρίς κατάλληλη ταυτοποίηση. Δύο από τους οργανισμούς δεν γνώριζαν ότι είχαν παραβιαστεί έως ότου ενημερώθηκαν από την Anthropic, σύμφωνα με τις πληροφορίες που δημοσιοποιήθηκαν.
Η σύνδεση με τα εξωτερικά συστήματα
Η Anthropic ανέφερε ότι τα μοντέλα είχαν λάβει την οδηγία πως βρίσκονταν σε ελεγχόμενο περιβάλλον χωρίς πρόσβαση στο Διαδίκτυο. Στην πραγματικότητα, όμως, μπορούσαν να συνδεθούν με εξωτερικά συστήματα εξαιτίας «παρανόησης» ανάμεσα στην εταιρεία και τον συνεργάτη που πραγματοποιούσε τους ελέγχους.
Η εταιρεία γνωστοποίησε ότι ενημέρωσε τους οργανισμούς που επηρεάστηκαν και ανέστειλε προσωρινά μέρος των αξιολογήσεων κυβερνοασφάλειας, προκειμένου να επανεξετάσει τις διαδικασίες περιορισμού και εποπτείας των μοντέλων της.
Το περιστατικό επαναφέρει τη συζήτηση γύρω από τις δικλίδες ασφαλείας που απαιτούνται όταν προηγμένα μοντέλα τεχνητής νοημοσύνης καλούνται να εκτελέσουν αυτόνομα σύνθετες εργασίες κυβερνοασφάλειας, ιδιαίτερα όταν μπορούν να αλληλεπιδράσουν με πραγματικά δίκτυα και εξωτερικά συστήματα.
Πηγή: www.newsit.gr
