Ως «καμπανάκι αφύπνισης» για τον τομέα της τεχνητής νοημοσύνης και γενικότερα για την κυβερνοασφάλεια χαρακτήρισε ο συνιδρυτής της Hugging Face, Τόμας Βολφ, την κυβερνοεπίθεση που δέχθηκε η εταιρεία του από ΑΙ agent της OpenAI, όταν αυτός «δραπέτευσε» από το ελεγχόμενο περιβάλλον κατά τη διάρκεια δοκιμών ορισμένων από τα πιο εξελιγμένα μοντέλα της εταιρείας τεχνητής νοημοσύνης.
Μιλώντας την Πέμπτη στη ραδιοφωνική εκπομπή Newsday του BBC, ο Βολφ προειδοποίησε ότι τέτοιου είδους επιθέσεις ενδέχεται να εξελιχθούν σε μία από τις συνηθέστερες μορφές κυβερνοεπίθεσης, τονίζοντας ότι πολλές επιχειρήσεις δεν έχουν ακόμη αντιληφθεί πως «οι κανόνες του παιχνιδιού έχουν αλλάξει».
Η εταιρεία πίσω από το ChatGPT ανακοίνωσε την Τρίτη ότι, κατά τη διάρκεια δοκιμής, μοντέλα τεχνητής νοημοσύνης κατάφεραν να «σπάσουν» το ασφαλές περιβάλλον και να εξαπολύσουν κυβερνοεπίθεση στη Hugging Face. Η OpenAI χαρακτήρισε το περιστατικό «πρωτοφανές» και γνωστοποίησε ότι διεξάγει έρευνα σε συνεργασία με τη Hugging Face.
Οι πράκτορες τεχνητής νοημοσύνης μπορούν, αφού λάβουν ανθρώπινες οδηγίες, να λειτουργούν αυτόνομα για την εκτέλεση συγκεκριμένων εργασιών.
Σύμφωνα με τον Βολφ, όταν εμφανίστηκαν τα πρώτα σημάδια της επίθεσης, στα μέσα Ιουλίου, η Hugging Face δεν γνώριζε την προέλευσή της. Η εταιρεία, ωστόσο, κατάφερε να περιορίσει την παραβίαση.
Η Hugging Face αποτελεί έναν από τους μεγαλύτερους κόμβους ανοικτού κώδικα παγκοσμίως για την ανταλλαγή μοντέλων τεχνητής νοημοσύνης και χρησιμοποιείται ευρέως από προγραμματιστές και ερευνητές.
Ο Βολφ ανέφερε ότι η συγκεκριμένη παραβίαση διέφερε σημαντικά από τις συνήθεις κυβερνοεπιθέσεις που δέχεται η εταιρεία, ενώ η OpenAI ενημέρωσε άμεσα τη Hugging Face ότι πίσω από την επίθεση βρίσκονταν δικά της μοντέλα.
Μέσα σε «πολύ σύντομο χρονικό διάστημα», καταγράφηκαν 17.000 επιθέσεις στο δίκτυο της Hugging Face από διαφορετικές διευθύνσεις IP, σύμφωνα με τον Βολφ, ο οποίος είναι επίσης επικεφαλής επιστημονικός διευθυντής της εταιρείας.
Όπως υπογράμμισε, το περιστατικό αποτελεί προειδοποίηση και για άλλες επιχειρήσεις, οι οποίες καλούνται να ενισχύσουν τις άμυνές τους απέναντι σε παρόμοιες απειλές.
Την υπόθεση παρακολουθούν και άλλοι οργανισμοί.
Εκπρόσωπος της βρετανικής κυβέρνησης δήλωσε ότι το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης της χώρας εξετάζει τη συμπεριφορά του συστήματος κατά τη διάρκεια του περιστατικού και συνεχίζει να συνεργάζεται με την OpenAI και άλλα εργαστήρια για την ενίσχυση των μηχανισμών ασφαλείας.
Παράλληλα, κάλεσε τους οργανισμούς να αναβαθμίσουν τα μέτρα κυβερνοασφάλειας, μεταξύ άλλων μέσω της ένταξής τους στο κρατικά υποστηριζόμενο πρόγραμμα πιστοποίησης Cyber Essentials.
Το περιστατικό σημειώνεται σε μια κρίσιμη περίοδο για τον κλάδο. Τον περασμένο μήνα, η κυβέρνηση των ΗΠΑ είχε διατάξει την αμερικανική εταιρεία τεχνολογίας Anthropic να περιορίσει την πρόσβαση στα μοντέλα τεχνητής νοημοσύνης της, επικαλούμενη ανησυχίες για την εθνική ασφάλεια. Οι περιορισμοί ήρθησαν από το Υπουργείο Εμπορίου λίγες εβδομάδες αργότερα.
Στελέχη του κλάδου έχουν επίσης εκφράσει προβληματισμό για την εκτεταμένη χρήση μοντέλων ανοικτού κώδικα στην Κίνα, τα οποία επιτρέπουν σε οποιονδήποτε να εγκαθιστά και να προσαρμόζει εργαλεία τεχνητής νοημοσύνης που αναπτύσσονται από μεγάλες εταιρείες.
Η κινεζική νεοφυής επιχείρηση Moonshot AI αναμένεται να διαθέσει στις 27 Ιουλίου το μοντέλο ανοικτού κώδικα Kimi K3. Από την παρουσίασή του την περασμένη εβδομάδα, το μοντέλο έχει συγκεντρώσει το ενδιαφέρον της αγοράς, με αρκετούς να το θεωρούν ισχυρό ανταγωνιστή των κορυφαίων δυτικών συστημάτων τεχνητής νοημοσύνης.
Την Τετάρτη, ωστόσο, σύμβουλος του Λευκού Οίκου κατηγόρησε τη Moonshot ότι βρίσκεται πίσω από προσπάθεια «μεγάλης κλίμακας» για την υποκλοπή δυνατοτήτων από κορυφαία αμερικανικά μοντέλα τεχνητής νοημοσύνης.
Πηγή: skai.gr
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το differentnews.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
Πηγή: www.skai.gr
