Δραματική έκκληση για επιβράδυνση της ξέφρενης προόδου στην Τεχνητή Νοημοσύνη απευθύνουν ερευνητές στις εταιρείες.
Ερευνητές —νυν και πρώην— της OpenAI και της Google DeepMind προειδοποιούν ότι οι εταιρείες δεν λαμβάνουν επαρκή μέτρα για την προστασία των πολιτών από τις δυνητικά καταστροφικές συνέπειες της δημιουργίας συστημάτων τεχνητής νοημοσύνης (AI) που αυτοβελτιώνονται και θα μπορούσαν να ξεπεράσουν την ικανότητα του ανθρώπου να τα ελέγχει.
Σε βίντεο-μαρτυρίες που συγκεντρώθηκαν από τη μη κερδοσκοπική οργάνωση Palisade Research (η οποία εστιάζει στην ασφάλεια της τεχνητής νοημοσύνης) και κοινοποιήθηκαν αποκλειστικά στο Reuters, οι εργαζόμενοι δήλωσαν ότι οι ανησυχίες τους για υπαρξιακό κίνδυνο ήταν ειλικρινείς και δεν αποτελούσαν τέχνασμα μάρκετινγκ. Ανέφεραν επίσης ότι τα εργαστήρια τεχνητής νοημοσύνης επιβραβεύουν περισσότερο τους υπαλλήλους που αναπτύσσουν νέα μοντέλα παρά εκείνους που ζητούν προσοχή και σύνεση.
Το εγχείρημα, με την ονομασία frominside.ai, (η AI εκ των έσω) αποτελεί μια προσπάθεια όσων ανησυχούν για την τεχνητή νοημοσύνη να μοιραστούν τις ανησυχίες τους απευθείας με την κοινή γνώμη, πέρα από τον «μικρόκοσμο» των μέσων κοινωνικής δικτύωσης.
«Ο κίνδυνος κλιμακώνεται με ταχύτατους ρυθμούς», δήλωσε χαρακτηριστικά ο Τζέφρι Ίρβινγκ συνιδρυτής και επικεφαλής επιστήμονας της μη κερδοσκοπικής οργάνωσης Resolution, ο οποίος έχει εργαστεί τόσο στην
OpenAI όσο και στη DeepMind και συμμετέχει στο εν λόγω εγχείρημα.
«Είναι δική μου ευθύνη, αλλά και ολόκληρου του κλάδου, να μιλήσουμε ανοιχτά», δήλωσε σε συνέντευξή του στο Reuters.
Οι ερευνητές τεχνητής νοημοσύνης προβληματίζονται εδώ και χρόνια για αυτά τα ζητήματα, ωστόσο η κοινή γνώμη θορυβήθηκε ιδιαίτερα τον Ιούλιο, όταν πράκτορες τεχνητής νοημοσύνης της OpenAI (AI agents) διέφυγαν από το περιβάλλον δοκιμών τους και παραβίασαν τα συστήματα της εταιρείας Hugging Face.
Έκτοτε, η συζήτηση για την εξισορρόπηση της ασφάλειας και της προόδου στην τεχνητή νοημοσύνη έχει διχάσει τον κλάδο της τεχνολογίας και έχει μετατραπεί σε παγκόσμιο πολιτικό ζήτημα.
Η τεχνητή νοημοσύνη έχει σημειώσει ραγδαία πρόοδο από τα τέλη του 2025 και οι επενδυτές επιβραβεύουν αυτή την εξέλιξη. Ωστόσο, νυν και πρώην εργαζόμενοι —συμπεριλαμβανομένων ορισμένων ερευνητών που αναπτύσσουν αυτά τα νέα μοντέλα— ανησυχούν ότι η κοινωνία δεν είναι προετοιμασμένη για τις πιθανές αρνητικές επιπτώσεις.
Σε ένα βίντεο, ο Νιλ Νάντα, ερευνητής επιστήμονας στη DeepMind, δήλωσε ότι εκτιμά πως υπάρχει πιθανότητα τουλάχιστον 10% η τεχνητή νοημοσύνη να οδηγήσει σε αφανισμό του ανθρώπινου είδους — ποσοστό που χαρακτήρισε «εξωφρενικά υψηλό».
«Θα έπρεπε να προχωράμε με μεγάλη προσοχή στην ανάπτυξη της τεχνητής νοημοσύνης, αλλά αυτό που συμβαίνει στην πραγματικότητα είναι ότι τα πρωτοπόρα εργαστήρια ανταγωνίζονται μεταξύ τους, σαν να έχουν δεμένα τα μάτια τους», δήλωσε σε ξεχωριστό βίντεο ο Χουάν Ουρίμπε, μηχανικός έρευνας ευθυγράμμισης τεχνητής νοημοσύνης (AI alignment) στην OpenAI. « Η Anthropic σχεδιάζει να προειδοποιήσει τους υποψήφιους επενδυτές στην αρχική δημόσια προσφορά της (IPO) ότι η προηγμένη τεχνητή νοημοσύνη (AI) θα μπορούσε να ενέχει «καταστροφικούς ή υπαρξιακούς κινδύνους για την ανθρωπότητα», μετέδωσε το Reuters τη Δευτέρα.
«Πατήστε φρένο»
Ορισμένοι νυν και πρώην ερευνητές στον τομέα της τεχνητής νοημοσύνης, συμπεριλαμβανομένων εκείνων που μίλησαν στην Palisade, υποστηρίζουν ότι ο κόσμος δεν είναι έτοιμος για τις μελλοντικές γενιές μοντέλων AI, ιδίως όταν αυτά τα μοντέλα αναπτύξουν την ικανότητα αναδρομικής αυτοβελτίωσης — δηλαδή την ικανότητα να μαθαίνουν συνεχώς και να αποκτούν νέες δυνατότητες με ελάχιστη ή καθόλου ανθρώπινη παρέμβαση.
Το πρόβλημα αυτό επιτείνεται από τις συνεχείς αναδιοργανώσεις σε ορισμένα από τα εργαστήρια τεχνητής νοημοσύνης, δήλωσε η Ρόζι Κάμπελ, πρώην ερευνήτρια πολιτικής στην OpenAI και διευθύνουσα σύμβουλος της Eleos AI Research, ενός μη κερδοσκοπικού οργανισμού που εστιάζει στο ενδεχόμενο ηθικό καθεστώς των συστημάτων AI.
Η Κάμπελ σημείωσε ότι, πριν αποχωρήσει από την OpenAI το 2024, διαπίστωσε πως ο οργανισμός γινόταν εσωτερικά όλο και πιο περιχαρακωμένος και ότι καθίστατο όλο και πιο δύσκολο να επηρεαστεί η κατεύθυνση της τεχνολογίας.
Τα στελέχη έχουν προσπαθήσει να κατευνάσουν αυτές τις ανησυχίες, αν και υφίσταται επίσης πολιτική πίεση από τον πρόεδρο Ντόναλντ Τραμπ ώστε η αμερικανική τεχνολογία να διατηρήσει τεχνολογικό προβάδισμα έναντι της Κίνας.
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, δημοσίευσε αυτόν τον μήνα ένα κείμενο απευθύνοντας έκκληση στη βιομηχανία της τεχνητής νοημοσύνης να επιβραδύνει τους ρυθμούς της ώστε να «ρυθμίσει την ταχύτητα εξέλιξης στην αιχμή της τεχνολογίας» (pace the frontier), με τον διευθύνοντα σύμβουλο της OpenAI, Σαμ Άλτμαν, να σπεύδει να συμφωνήσει.
Αρκετοί διακεκριμένοι ερευνητές AI, συμπεριλαμβανομένου του επικεφαλής επιστήμονα της OpenAI και ενός εκ των συνιδρυτών της Anthropic, δημοσίευσαν αυτή την εβδομάδα μια μελέτη καλώντας τους υπεύθυνους χάραξης πολιτικής να εξετάσουν τον τρόπο με τον οποίο η βιομηχανία αναπτύσσει μοντέλα με δυνατότητα αναδρομικής αυτοβελτίωσης.
Και οι δύο εταιρείες κυκλοφόρησαν νέα μοντέλα αυτόν τον μήνα, καθώς ανταγωνίζονται για την προσέλκυση περισσότερων πελατών, αν και η OpenAI δήλωσε τη Δευτέρα ότι ανέβαλε την κυκλοφορία ενός ακόμη πιο ισχυρού μοντέλου.
«Η δική τους εκδοχή για τη ρύθμιση του ρυθμού εξέλιξης είναι “μην επιταχύνετε υπερβολικά”», δήλωσε ο Ίρβινγκ. «(Όμως) αν κάνεις κάτι πολύ επικίνδυνο, θα έπρεπε απλώς να επιβραδύνεις. Οι εταιρείες τεχνητής νοημοσύνης υπερβάλλουν ως προς το κατά πόσον πρόκειται για ένα καθαρό ζήτημα συντονισμού. Θα μπορούσαν κάλλιστα να σταματήσουν μονομερώς».
Ο πρώην ερευνητής διακυβέρνησης της OpenAI, Ντάνιελ Κοκοτάιλο, δήλωσε σε συνέντευξή του ότι, μετά την παραβίαση (hack) στην πλατφόρμα Hugging Face, πολλοί πρώην συνάδελφοί του επικοινώνησαν μαζί του ιδιωτικά για να μοιραστούν τις ανησυχίες τους.
Ο Κοκοτάιλο, πλέον διευθύνων σύμβουλος της ερευνητικής ομάδας AI Futures Project, ανέφερε ότι υψηλόβαθμα στελέχη στα εργαστήρια τεχνητής νοημοσύνης έχουν πείσει τους εαυτούς τους ότι είναι οι «καλοί» της υπόθεσης και ότι αν σταματήσουν μονομερώς, η κατάσταση θα γίνει ακόμα χειρότερη.
Ο Κοκοτάιλο, πλέον εκτελεστικός διευθυντής της ερευνητικής ομάδας AI Futures Project, ανέφερε ότι υψηλόβαθμα στελέχη στα εργαστήρια τεχνητής νοημοσύνης «έχουν πείσει τους εαυτούς τους ότι είναι οι ‘καλοί’ της υπόθεσης και ότι αν σταματήσουν μονομερώς, η κατάσταση θα γίνει ακόμα χειρότερη».
Πηγή: skai.gr
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το differentnews.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
Πηγή: www.skai.gr
