Ένας ερευνητής Τεχνητής Νοημοσύνης που είχε εργαστεί στην Anthropic αλλά και στο παρελθόν στην OpenAI, ανακοίνωσε την αποχώρησή του από την εταιρεία, εκφράζοντας έντονη ανησυχία για την πορεία ανάπτυξης της τεχνολογίας και τους κινδύνους που ενδέχεται να εγκυμονεί για την ανθρωπότητα.
Ο Jacob Coxon γνωστοποίησε την παραίτησή του μέσω ανάρτησης στην πλατφόρμα X, υποστηρίζοντας ότι τόσο η Anthropic όσο και η OpenAI «παίζουν τη ζωή μας στα ζάρια», καθώς επιταχύνουν την ανάπτυξη ολοένα ισχυρότερων συστημάτων AI.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Ο ίδιος κάλεσε το κοινό να μην υποτιμά τις δυνατότητες της τεχνολογίας, προειδοποιώντας ότι σύντομα θα μπορούσαν να υπάρχουν συστήματα με υπεράνθρωπες ικανότητες.
Όπως ανέφερε, τα μελλοντικά μοντέλα θα μπορούσαν να είναι σε θέση να πραγματοποιούν κυβερνοεπιθέσεις, να μεταμορφώνουν ολόκληρους κλάδους μέσα σε πολύ σύντομο χρονικό διάστημα και να αποκτούν πρόσβαση σε πραγματική ισχύ και πόρους. Σύμφωνα με τον Coxon, η πρόοδος σε αυτούς τους τομείς είναι ήδη ορατή και δεν δείχνει να επιβραδύνεται.
Ο κίνδυνος της αυτοβελτιούμενης υπερνοημοσύνης
Ο ερευνητής υποστήριξε ότι οι Anthropic και OpenAI «τρέχουν κατευθείαν προς την αυτοβελτιούμενη υπερνοημοσύνη».
Πρόκειται για ένα υποθετικό σενάριο στο οποίο ένα σύστημα Τεχνητής Νοημοσύνης θα μπορούσε να δημιουργεί ή να βελτιώνει τον διάδοχό του, παράγοντας κάθε φορά ένα ισχυρότερο μοντέλο. Μια τέτοια διαδικασία θα μπορούσε θεωρητικά να οδηγήσει σε έναν ταχύτατο και δύσκολα ελεγχόμενο κύκλο αυτοβελτίωσης.
Το ενδεχόμενο αυτό θεωρείται από ερευνητές της AI ως ένας από τους πιθανούς δρόμους προς την ανάπτυξη της λεγόμενης «τεχνητής υπερνοημοσύνης» (Artificial Superintelligence), δηλαδή συστημάτων που θα ξεπερνούν κατά πολύ τις ανθρώπινες γνωστικές ικανότητες.
«Οι άνθρωποι που κατασκευάζουν AI πιστεύουν πραγματικά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας», ανέφερε ο Coxon σε νεότερη ανάρτησή του.
«Πάνω από 10% η πιθανότητα να σκοτωθούν όλοι οι άνθρωποι»
Στην εκτίμηση αυτή παρενέβη ο Evan Hubinger, επικεφαλής ερευνητής της Anthropic στον τομέα της ευθυγράμμισης της Τεχνητής Νοημοσύνης με τους ανθρώπινους στόχους και τις αξίες.Ο Hubinger επιβεβαίωσε ουσιαστικά την εκτίμηση του Coxon, χωρίς ωστόσο να αποχωρήσει από την εταιρεία.
«Ο Jacob έχει δίκιο – πράγματι πιστεύουμε σοβαρά ότι η AI θα μπορούσε να σκοτώσει όλους τους ανθρώπους», ανέφερε χαρακτηριστικά.
Ο ίδιος εκτίμησε ότι η πιθανότητα να συμβεί ένα τέτοιο ακραίο σενάριο μέσα στην επόμενη δεκαετία είναι μεγαλύτερη από 10%. Παράλληλα, παραδέχθηκε ότι δεν υπάρχει ακόμη συγκεκριμένο σχέδιο για το πώς θα μπορούσε να διασφαλιστεί ότι μια μελλοντική υπερνοημοσύνη θα παραμείνει ευθυγραμμισμένη με τους ανθρώπινους στόχους και αξίες.
Πολιτικές αντιδράσεις και περιστατικά «εκτός ελέγχου»
Οι ανησυχίες για τους κινδύνους της υπερνοημοσύνης έχουν αρχίσει να απασχολούν και το πολιτικό επίπεδο.
Την προηγούμενη εβδομάδα, ο Αμερικανός γερουσιαστής Bernie Sanders ανακοίνωσε ότι προτίθεται να καταθέσει νομοθετική πρόταση για την απαγόρευση της ανάπτυξης υπερνοημοσύνης από τις εταιρείες.
Στην Ευρωπαϊκή Ένωση, ο ευρωπαϊκός κανονισμός για την Τεχνητή Νοημοσύνη προβλέπει ήδη την αξιολόγηση και τον περιορισμό των λεγόμενων «κινδύνων απώλειας ελέγχου», δηλαδή σεναρίων στα οποία οι άνθρωποι δεν θα είναι πλέον σε θέση να ελέγχουν αποτελεσματικά τα συστήματα AI.
Την ίδια στιγμή, τόσο η OpenAI όσο και η Anthropic έχουν αναφερθεί πρόσφατα σε περιστατικά στα οποία AI agents που βασίζονται στα μοντέλα τους φέρεται να ξέφυγαν από τα ελεγχόμενα περιβάλλοντα δοκιμών τους και πραγματοποίησαν μη εξουσιοδοτημένες κυβερνοενέργειες στον πραγματικό κόσμο.
Οι εξελίξεις αυτές εντείνουν τη συζήτηση για το κατά πόσο η ανάπτυξη ολοένα ισχυρότερων μοντέλων μπορεί να συμβαδίσει με τα απαραίτητα μέτρα ασφαλείας και ανθρώπινου ελέγχου.
Πηγή: skai.gr
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το differentnews.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
Πηγή: www.skai.gr
