Η τεχνητή νοημοσύνη εξελίσσεται με ταχύτητα που αλλάζει ήδη τον τρόπο λειτουργίας των εταιρικών στόλων. Αν και οι περισσότεροι θεωρούν ότι η μεγαλύτερη απειλή αφορά τις θέσεις εργασίας, τα δεδομένα δείχνουν πως η πραγματική πρόκληση βρίσκεται αλλού: στη σταδιακή απώλεια της ανθρώπινης κρίσης.
Σύμφωνα με πρόσφατη μελέτη της Coface, μίας από τις μεγαλύτερες εταιρείες ασφάλισης πιστώσεων παγκοσμίως, η οποία πραγματοποιήθηκε σε συνεργασία με το γαλλικό Observatoire des Emplois Menacés (OEM), οργανισμό που μελετά τον αντίκτυπο της τεχνητής νοημοσύνης στην αγορά εργασίας, περίπου το 17% έως 20% των σημερινών καθηκόντων των διαχειριστών εταιρικών στόλων αναμένεται να αυτοματοποιηθεί έως το 2035.
Η πρόκληση για τους διαχειριστές στόλων τα επόμενα χρόνια είναι να διατηρήσουν την ικανότητα να αμφισβητούν τις αποφάσεις της τεχνητής νοημοσύνης, ακόμη κι όταν αυτές φαίνονται απολύτως σωστές
Το εύρημα δείχνει ότι η AI δεν έρχεται απαραίτητα να αντικαταστήσει τους ανθρώπους, αλλά να αλλάξει ριζικά τον τρόπο με τον οποίο λαμβάνονται οι αποφάσεις στη διαχείριση ενός σύγχρονου στόλου. Με απλά λόγια, η AI δεν αναμένεται να αντικαταστήσει μαζικά τους fleet manager. Αντίθετα, θα αναλάβει μεγάλο μέρος των επαναλαμβανόμενων και χρονοβόρων εργασιών, επιτρέποντας στους επαγγελματίες του κλάδου να επικεντρωθούν περισσότερο στην ανάλυση δεδομένων, στη στρατηγική διαχείριση και στη λήψη αποφάσεων.
Ο Aurélien Duthoit, οικονομολόγος της Coface, επισημαίνει ότι η σημαντικότερη δεξιότητα του μέλλοντος δεν θα είναι η χρήση της AI, αλλά η δυνατότητα εποπτείας, αμφισβήτησης και σωστής ερμηνείας των αποτελεσμάτων που παράγουν οι αλγόριθμοι. Με άλλα λόγια, ο ρόλος του ανθρώπου μετατοπίζεται από την εκτέλεση στην επίβλεψη.
Ωστόσο, αυτή η μετάβαση κρύβει και έναν σοβαρό κίνδυνο. Όσο περισσότερες επιχειρησιακές αποφάσεις αναλαμβάνει η τεχνητή νοημοσύνη τόσο αυξάνεται το φαινόμενο που οι ειδικοί αποκαλούν «automation bias». Πρόκειται για την τάση των ανθρώπων να εμπιστεύονται αυτόματα τις προτάσεις ενός αλγορίθμου, ακόμη κι όταν αυτές είναι λανθασμένες.
Όταν ο άνθρωπος σταματά να σκέφτεται. Σήμερα τα συστήματα AI μπορούν να βελτιστοποιούν διαδρομές, να προβλέπουν βλάβες, να οργανώνουν τη συντήρηση και να προγραμματίζουν την ανανέωση ενός εταιρικού στόλου με ιδιαίτερα υψηλή ακρίβεια.
Ακριβώς αυτή η αποτελεσματικότητα μπορεί όμως να δημιουργήσει ένα παράδοξο. Όσο περισσότερο λειτουργούν σωστά οι αλγόριθμοι τόσο λιγότερο εξασκείται ο άνθρωπος στην αξιολόγηση των ίδιων αποφάσεων. Σταδιακά ο διαχειριστής κινδυνεύει να μετατραπεί σε έναν απλό επικυρωτή προτάσεων που δεν έχει παράγει ο ίδιος και, σε αρκετές περιπτώσεις, δεν μπορεί πλέον να εξηγήσει πώς προέκυψαν.
Το φαινόμενο αυτό είχε περιγράψει ήδη από τη δεκαετία του 1980 η ψυχολόγος Lisanne Bainbridge μέσα από το γνωστό «παράδοξο της αυτοματοποίησης». Σύμφωνα με τη θεωρία της, όσο πιο αποτελεσματικό γίνεται ένα αυτοματοποιημένο σύστημα τόσο δυσκολότερο είναι για τον άνθρωπο να επέμβει όταν κάτι πάει στραβά, επειδή έχει χάσει την απαραίτητη εμπειρία από την καθημερινή πρακτική.
Ποιος όμως ευθύνεται όταν η AI κάνει λάθος; Το ζήτημα δεν είναι μόνο επιχειρησιακό αλλά και νομικό. Αν ένα σύστημα τεχνητής νοημοσύνης αποτύχει να εντοπίσει μια κρίσιμη βλάβη -για παράδειγμα στο σύστημα φρένων ενός οχήματος- και προκληθεί ατύχημα, ποιος φέρει τελικά την ευθύνη; Ο προμηθευτής του λογισμικού, η εταιρεία που χρησιμοποιεί το σύστημα ή ο διαχειριστής του στόλου που ενέκρινε την απόφαση;
Το ευρωπαϊκό AI Act προβλέπει ότι σε κρίσιμα συστήματα λήψης αποφάσεων πρέπει να υπάρχει ουσιαστική ανθρώπινη εποπτεία. Στην πράξη όμως, όταν ο όγκος των δεδομένων που παράγουν τα συνδεδεμένα οχήματα είναι τεράστιος, ο άνθρωπος ενδέχεται να καλείται να αναλάβει νομική ευθύνη για αποφάσεις που δεν μπορεί πλέον να ελέγξει σε βάθος.
Η απάντηση δεν βρίσκεται απαραίτητα σε ακόμη πιο εξελιγμένους αλγορίθμους. Σε κλάδους όπως η αεροπορία, οι χειριστές εκπαιδεύονται συστηματικά σε σενάρια όπου τα αυτοματοποιημένα συστήματα αποτυγχάνουν, ώστε να διατηρούν ενεργές τις δεξιότητές τους.
Αντίστοιχη πρακτική ακολουθούν πλέον και αρκετές μεγάλες εταιρείες τεχνολογίας, οι οποίες ζητούν από τους μηχανικούς να διεκπεραιώνουν ένα μέρος των υποθέσεων χωρίς τη βοήθεια της AI. Στόχος είναι να παραμένει ο άνθρωπος σε θέση να εντοπίζει λάθη, αστοχίες και τις γνωστές «παραισθήσεις» των μοντέλων τεχνητής νοημοσύνης.
Η πρόκληση για τους διαχειριστές στόλων τα επόμενα χρόνια δεν θα είναι απλώς να μάθουν να χρησιμοποιούν νέα εργαλεία. Θα είναι να διατηρήσουν την ικανότητα να αμφισβητούν τις αποφάσεις της τεχνητής νοημοσύνης, ακόμη κι όταν αυτές φαίνονται απολύτως σωστές.
Γιατί έχει αυτή η ικανότητα παραμένει κρίσιμο πεδίο; Η ψηφιοποίηση των εταιρικών στόλων επιταχύνεται, καθώς η συνδεσιμότητα, η τηλεματική και η τεχνητή νοημοσύνη γίνονται βασικά εργαλεία διαχείρισης κόστους και λειτουργίας. Το ανταγωνιστικό πλεονέκτημα, όμως, δεν θα προκύψει μόνο από τους πιο εξελιγμένους αλγορίθμους, αλλά από την ισορροπία ανάμεσα στην αυτοματοποίηση και στην ανθρώπινη κρίση.
Οι επιχειρήσεις που θα επενδύσουν τόσο στην AI όσο και στη συνεχή εκπαίδευση των ανθρώπων τους είναι πιθανότερο να αξιοποιήσουν την τεχνολογία ως εργαλείο λήψης καλύτερων αποφάσεων και όχι ως υποκατάστατο της ευθύνης.
Το ζήτημα γίνεται ακόμη πιο σύνθετο όταν η ίδια λογική μεταφέρεται από τον ιδιωτικό τομέα στους δημόσιους στόλους: υπουργεία, δήμους, περιφέρειες και οργανισμούς με εκατοντάδες υπηρεσιακά οχήματα.
Στις προηγμένες και θεσμικά ώριμες δημόσιες διοικήσεις, το federal fleet management λειτουργεί με αυστηρά πρωτόκολλα, εσωτερικούς και εξωτερικούς ελέγχους και σαφείς γραμμές λογοδοσίας. Αν η AI προτείνει την αντικατάσταση 500 οχημάτων, ο δημόσιος υπάλληλος δεν πατά απλώς «Approve». Υπάρχουν επιτροπές, τεκμηρίωση και πολλαπλά επίπεδα ελέγχου. Η AI λειτουργεί ως εργαλείο υποστήριξης και όχι ως ο πραγματικός λήπτης των αποφάσεων.
Στην Ελλάδα, όμως, το ερώτημα αποκτά διαφορετική διάσταση. Η AI δεν θα κληθεί μόνο να μειώσει το κόστος ή να βελτιώσει τη συντήρηση ενός δημόσιου στόλου, αλλά να ενταχθεί σε ένα διοικητικό περιβάλλον όπου η λογοδοσία, η ταχύτητα των ελέγχων και η ανάληψη προσωπικής ευθύνης αποτελούν διαχρονικά αντικείμενο δημόσιας συζήτησης. Και αυτό ανοίγει ένα ακόμη πιο δύσκολο ερώτημα: όταν ο αλγόριθμος προτείνει και ο άνθρωπος εγκρίνει, ποιος πραγματικά αποφασίζει; Σε αυτό θα επανέλθουμε.
Πηγή: www.drive.gr
