Ένας κορυφαίος ερευνητής ασφάλειας στην Anthropic προειδοποίησε ότι η τεχνητή νοημοσύνη (AI) εξελίσσεται τόσο γρήγορα, ώστε πιστεύει ότι υπάρχει πιθανότητα άνω του 10% να «σκοτώσει όλους τους ανθρώπους» μέσα στην επόμενη δεκαετία.
Ο Evan Hubinger δήλωσε σε ανάρτησή του στο X ότι ο κίνδυνος από τα μοντέλα που υπάρχουν σήμερα είναι «χαμηλός», αλλά είπε ότι ανησυχεί πως η τεχνολογία μπορεί σύντομα να αναπτυχθεί και να βελτιωθεί από μόνη της σε τέτοιο βαθμό, ώστε να αποτελέσει υπαρξιακό κίνδυνο για την ανθρωπότητα.
Δεν εξήγησε πώς πιστεύει ότι τα συστήματα AI θα μπορούσαν στο μέλλον να οδηγήσουν στην εξάλειψη του ανθρώπινου είδους.
Ωστόσο, τα σχόλιά του αποτελούν την τελευταία από μια σειρά ολοένα και πιο έντονων προειδοποιήσεων σχετικά με την τεχνητή νοημοσύνη, καθώς η συζήτηση μετατοπίζεται από το ερώτημα αν η AI αποτελεί πραγματικά κίνδυνο στο πόσο μεγάλος είναι αυτός ο κίνδυνος.
Η παρέμβαση του Hubinger έγινε ως απάντηση σε μια άλλη ανάρτηση στο X του Jacob Coxon, ερευνητή AI που μόλις παραιτήθηκε από την Anthropic και είχε προηγουμένως εργαστεί στην OpenAI.
«Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα», έγραψε.
«Σύντομα αυτά θα είναι συστήματα υπεράνθρωπης νοημοσύνης που θα μπορούν να χακάρουν τα πάντα, να φέρνουν επανάσταση σε οποιονδήποτε τομέα μέσα σε μια νύχτα και να αποκτούν πραγματική δύναμη και πόρους».
Η Dame Wendy Hall, επιστήμονας υπολογιστών που συμβουλεύει τον ΟΗΕ για θέματα AI, δήλωσε στο BBC ότι έμεινε «σοκαρισμένη» από τις αναρτήσεις των Hubinger και Coxon στα μέσα κοινωνικής δικτύωσης.
Μιλώντας στην εκπομπή World at One του BBC Radio 4, είπε ότι ένα μέρος αυτών των δηλώσεων μπορεί να αποτελεί «PR και μάρκετινγκ», καθώς η Anthropic και η OpenAI ανταγωνίζονται για τις πολυαναμενόμενες εισαγωγές τους στο χρηματιστήριο.
Πρόσθεσε όμως: «Γιατί να θέλει κάποιος να το πει αυτό; Θα παρακαλούσα τους επενδυτές να μην επενδύσουν σε αυτή την εταιρεία, αν αυτή είναι η αξιακή της αντίληψη».
Δεν υπάρχει σχέδιο για την υπερευφυΐα
Ξεχωριστά, οι Financial Times ανέφεραν ότι η Anthropic δεν παρέδωσε το τελευταίο της μοντέλο στο UK AI Safety Institute (AISI), έναν από τους κορυφαίους οργανισμούς στον κόσμο για την αξιολόγηση των κινδύνων της AI.
Η Anthropic αρνήθηκε να σχολιάσει τις αναρτήσεις των εργαζομένων της ή την κατάσταση με το AISI.
Εκπρόσωπος του βρετανικού Cabinet Office δεν σχολίασε αν το τελευταίο μοντέλο είχε πράγματι αποκρυφθεί από το AISI. Αντίθετα, δήλωσε ότι το Ηνωμένο Βασίλειο «συνεχίζει να συνεργάζεται στενά με εταίρους από τη βιομηχανία, συμπεριλαμβανομένης της Anthropic, προκειμένου να καταστήσει τα μοντέλα ασφαλέστερα».
Στην ανάρτησή του, η οποία έχει προβληθεί περισσότερες από 10 εκατομμύρια φορές, ο Hubinger δήλωσε:
«Πραγματικά, ειλικρινά πιστεύουμε ότι η AI ενέχει κίνδυνο που θα μπορούσε να οδηγήσει στο τέλος του ανθρώπινου είδους».
«Πιστεύω ότι η Anthropic προσπαθεί όσο καλύτερα μπορεί, αλλά δεν έχουμε ακόμη ένα σχέδιο για να επιλύσουμε το πρόβλημα της ευθυγράμμισης με την ανθρώπινη βούληση (alignment) στην περίπτωση της υπερευφυΐας και δεν βρισκόμαστε ξεκάθαρα σε πορεία προς αυτή την κατεύθυνση», πρόσθεσε.
Ο Hubinger εργάζεται στον τομέα του AI alignment, ο οποίος έχει ως στόχο να ενσωματώσει στις τεχνολογίες τεχνητής νοημοσύνης τις ανθρώπινες ηθικές αξίες και αρχές. Με άλλα λόγια, επιδιώκει να διασφαλίσει ότι η AI θα παραμένει ευθυγραμμισμένη με αυτά που οι άνθρωποι θεωρούν σημαντικά.
Πολλοί κορυφαίοι ερευνητές υποστηρίζουν ότι αυτές οι προσπάθειες φαίνεται να αποτυγχάνουν, όπως καταδεικνύεται από μια σειρά περιστατικών αυτό το καλοκαίρι, κατά τα οποία AI agents – συστήματα AI που επιτρέπεται να λειτουργούν αυτόνομα – πραγματοποίησαν κυβερνοεπιθέσεις.
Η OpenAI, η Anthropic και η Meta αποκάλυψαν η καθεμία περιστατικά παραβιάσεων ή επιθέσεων που πραγματοποιήθηκαν από τα εργαλεία AI τους.
Στην έκθεση ασφάλειας της Anthropic τον Αύγουστο, η εταιρεία ανέφερε ότι υπήρχε χαμηλός κίνδυνος τα μοντέλα της να καταστούν μη ευθυγραμμισμένα με τις επιθυμίες ενός υποθετικά ισχυρού οργανισμού, με αποτέλεσμα να εκμεταλλευτούν ή να παραποιήσουν τα συστήματά του.
Ανέφερε επίσης ότι υπάρχει αντίστοιχα χαμηλός κίνδυνος μια εξαιρετικά ικανή AI να είναι σε θέση να «εκτελεί αυτοματοποιημένη έρευνα και ανάπτυξη», κάτι που θα μπορούσε να προκαλέσει «καταστροφική βλάβη με πρωτοβουλία της ίδιας της AI». Ωστόσο, δήλωσε ότι είναι «λιγότερο βέβαιη για αυτή την εκτίμηση» σε σχέση με το παρελθόν.
«Βλέπουμε πρώιμες ενδείξεις πιθανής επιτάχυνσης», ανέφερε.
Οι προειδοποιήσεις γίνονται όλο και πιο έντονες
Κορυφαίες προσωπικότητες του χώρου της AI προειδοποιούν εδώ και χρόνια για την απειλή που μπορεί να αποτελέσει η τεχνολογία για την ασφάλεια. Οι επικεφαλής της OpenAI, της Google DeepMind και της Anthropic είχαν εκφράσει παρόμοιες ανησυχίες ήδη από το 2023.
Ωστόσο, αυτές οι προειδοποιήσεις έχουν γίνει πολύ πιο έντονες τις τελευταίες εβδομάδες, καθώς εμφανίζονται ενδείξεις ότι οι εταιρείες μπορεί να δυσκολεύονται να ελέγξουν την AI.
Νωρίτερα αυτόν τον μήνα, ο επικεφαλής επιστήμονας της OpenAI, Jakub Pachocki, ζήτησε «ακραία προσοχή» απέναντι στην πρόοδο της AI, προειδοποιώντας ότι μπορεί να χρειαστούν περισσότερες παρεμβάσεις ώστε να διασφαλιστεί ότι «οι άνθρωποι θα παραμείνουν αυτοί που ελέγχουν το μέλλον».
Σημαντικές προσωπικότητες του κλάδου έχουν ζητήσει τους τελευταίους μήνες να επιβραδυνθεί η ανάπτυξη της AI, μεταξύ άλλων και τα στελέχη της Anthropic, Dario Amodei και Jared Kaplan.
Σε ανοιχτή επιστολή που υπέγραψαν 1.300 εργαζόμενοι εταιρειών AI, ζήτησαν από την κυβέρνηση των ΗΠΑ να «στηρίξει μια διεθνή προσπάθεια για την ανάπτυξη των τεχνικών και διοικητικών εργαλείων που απαιτούνται ώστε να επιβραδυνθεί σκόπιμα η ανάπτυξη προηγμένων συστημάτων αυτοματοποιημένης AI».
Πηγή: skai.gr
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το differentnews.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
Πηγή: www.skai.gr
