Εδώ και μια δεκαετία, ο δημόσιος διάλογος γύρω από την Τεχνητή Νοημοσύνη έχει εγκλωβιστεί σε ένα απόλυτο δίλημμα: αποτελεί τελικά ευκαιρία ή απειλή; Συμπεριφερόμαστε σαν να πρόκειται για δύο εντελώς διαφορετικούς δρόμους. Η πραγματικότητα, ωστόσο, είναι πολύ πιο περίπλοκη, καθώς το όφελος και η ζημιά πηγάζουν από τον ίδιο ακριβώς μηχανισμό.
Οι αυτοματοποιημένοι θεσμοί χάνουν την ανθρώπινη τεχνογνωσία, θυσιάζοντας το στρατηγικό τους μέλλον για πρόσκαιρα κέρδη
Κάθε φορά που ένα προηγμένο σύστημα εκτελεί άψογα μια εργασία για εμάς, χάνουμε την ευκαιρία να εξασκήσουμε τις δικές μας διανοητικές ικανότητες. Ο πραγματικός κίνδυνος, λοιπόν, δεν βρίσκεται σε αυτά που η τεχνολογία κάνει λάθος, αλλά σε εκείνα που εκτελεί με τρομακτική αρτιότητα.
Η απώλεια της κρίσης
Όπως επισημαίνει με διεισδυτική ματιά ο Βλαντιμίρ Σούχα σε άρθρο του στο Social Europe, αυτή η αθόρυβη διάβρωση πλήττει πρωτίστως τους θεσμούς.
Τείνουμε να αντιμετωπίζουμε τα υπουργεία, τα δικαστήρια ή τις ρυθμιστικές αρχές ως απλούς μηχανισμούς διεκπεραίωσης, ενώ στην πραγματικότητα αποτελούν την ενσάρκωση της «συσσωρευμένης ανθρώπινης κρίσης».
Είναι αυτή η «σιωπηρή γνώση» του ποιο νομικό προηγούμενο ταιριάζει σε μια σπάνια υπόθεση ή ποια κρυφή δυναμική κρύβεται πίσω από μια γραμμή του προϋπολογισμού.
Αυτή η εμπειρία δεν καταγράφεται σε έγγραφα, αλλά «ζει» μέσα στους ανθρώπους και χτίζεται με τα χρόνια.
Χρειαζόμαστε άμεσα έναν δείκτη εξάρτησης από τους νέους έξυπνους αλγόριθμους
Όταν η Τεχνητή Νοημοσύνη εισβάλλει σε αυτούς τους οργανισμούς ως το απόλυτο εργαλείο παραγωγικότητας, τα κέρδη είναι άμεσα: σε πρόσφατη δοκιμή στη βρετανική δημόσια διοίκηση, η χρήση AI εξοικονόμησε σε 20.000 υπαλλήλους περίπου δύο εβδομάδες εργασίας τον χρόνο. Όμως, αυτή η αποτελεσματικότητα δημιουργεί μια δική της, καταστροφική πίεση.
Αν η ίδια δουλειά βγαίνει με λιγότερα άτομα, το προσωπικό μετατρέπεται σε απλό λειτουργικό κόστος. Οι πρώτες θέσεις που καταργούνται είναι οι κατώτερες, εκείνες ακριβώς δηλαδή όπου οι νέοι υπάλληλοι επεξεργάζονται τον όγκο της πληροφορίας, μαθαίνουν και σφυρηλατούν την κρίση τους.
Το παράδοξο της αυτοματοποίησης
Καταργώντας αυτές τις θέσεις, ο θεσμός σταματά σιωπηλά να «παράγει» τους μελλοντικούς του ειδικούς. Η καθημερινή παραγωγή έργου παραμένει σταθερή, οπότε κανείς δεν αντιλαμβάνεται τη ζημιά. Όταν, όμως, το ψηφιακό σύστημα αναπόφευκτα κάνει λάθος, δεν υπάρχει πλέον κανείς με τη συσσωρευμένη εμπειρία για να το εντοπίσει και να το διορθώσει. Η αεροπορία έμαθε με σκληρό τρόπο αυτή την «ειρωνεία της αυτοματοποίησης» και πλέον υποχρεώνει τους πιλότους να πετούν χειροκίνητα για να διατηρούν τα αντανακλαστικά τους. Ο δημόσιος τομέας, αντίθετα, εισάγει αλγόριθμους χωρίς καμία τέτοια δικλείδα ασφαλείας.
Αυτό φαίνεται ξεκάθαρα στη χάραξη κυβερνητικών πολιτικών. Το AI είναι εξαιρετικό στο να σκανάρει χιλιάδες πηγές ή να εξάγει στατιστικά δεδομένα. Είναι, όμως, επικίνδυνο να του ανατεθεί η σύνταξη μιας υπουργικής ενημέρωσης, καθώς δεν διαθέτει πολιτικό ένστικτο. Υπό την πίεση των προϋπολογισμών, οι θεσμοί αντικαθιστούν το ανθρώπινο κεφάλαιο με μηχανές, επειδή η «οικονομία» καταγράφεται άμεσα στον ισολογισμό, ενώ το τεράστιο κόστος της απώλειας κρίσης μετατίθεται στο μέλλον. Οι «πίνακες ελέγχου» παραμένουν στο πράσινο γιατί μετρούν την ταχύτητα, αγνοώντας ότι τα θεμέλια του κτιρίου σαπίζουν. Ακόμη και η ευρωπαϊκή νομοθεσία (AI Act) κρίνει τα συστήματα μεμονωμένα, αδυνατώντας να δει τη συνολική περιβαλλοντική μόλυνση της ανθρώπινης ικανότητας.
Δείκτης εξάρτησης
Η λύση προφανώς δεν είναι να καταργήσουμε την Τεχνητή Νοημοσύνη. Πρέπει, όμως, να αρχίσουμε να μετράμε τις επιπτώσεις. Χρειαζόμαστε έναν «δείκτη εξάρτησης» που θα δοκιμάζει περιοδικά τι μπορούν να φέρουν εις πέρας οι υπάλληλοι χωρίς τη βοήθεια του συστήματος. Επιπλέον, πρέπει να τραβήξουμε μια σκληρή γραμμή ανάμεσα στις εργασίες ρουτίνας που μπορούν να αυτοματοποιηθούν και στην ανθρώπινη κρίση που δεν πρέπει ποτέ να υποκατασταθεί. Αν περιμένουμε μέχρι η ζημιά να γίνει ορατή, η Ευρώπη, στο όνομα της αποδοτικότητας, θα έχει καταβροχθίσει την ίδια την ικανότητά της να κυβερνά.
- Ο Βλαντιμίρ Σούχα είναι Επισκέπτης Ερευνητής στο Ευρωπαϊκό Πανεπιστημιακό Ινστιτούτο (EUI) της Φλωρεντίας και ιδρυτής της πλατφόρμας ResilientCore. Στο παρελθόν έχει υπηρετήσει σε κορυφαίες θέσεις της Ευρωπαϊκής Επιτροπής, όπως αυτή του Γενικού Διευθυντή του Κοινού Κέντρου Ερευνών (JRC), ενώ το τρέχον έργο του εξετάζει τον τρόπο με τον οποίο η Τεχνητή Νοημοσύνη αναδιαμορφώνει τις θεσμικές και ανθρώπινες ικανότητες.
