Τα τελευταία ένα ή δύο χρόνια, οι εταιρείες έχουν αρχίσει να χρησιμοποιούν τους λεγόμενους «πράκτορες AI» ως κανονικούς «υπαλλήλους», συμπεριλαμβάνοντάς τους μάλιστα και στα οργανωτικά τους διαγράμματα.
Η Emma Wiles, καθηγήτρια στο Πανεπιστήμιο της Βοστώνης που μελετά τον τρόπο με τον οποίο η τεχνητή νοημοσύνη επηρεάζει τους εργαζόμενους, ανακάλυψε τυχαία αυτό το φαινόμενο τον Οκτώβριο, σε ένα συνέδριο όπου δύο στελέχη ανθρώπινου δυναμικού δήλωσαν ότι η αντιμετώπιση των πρακτόρων τεχνητής νοημοσύνης ως πραγματικών υπαλλήλων ήταν ένας τρόπος για την αύξηση της παραγωγικότητας και για να τοποθετήσουν τις εταιρείες τους στην αιχμή της τεχνολογίας.
Όμως, όταν η Δρ. Wiles και τρεις συνεργάτες της από την Boston Consulting Group ερευνήσαν περαιτέρω, ανακάλυψαν μια παγίδα, σύμφωνα με τους The New York Times.
Σε ένα πείραμα στο οποίο συμμετείχαν δεκάδες εταιρείες με «υπαλλήλους» τεχνητής νοημοσύνης, οι ερευνητές διαπίστωσαν ότι οι διευθυντές είχαν την τάση να ελέγχουν τα έγγραφα με λιγότερη προσοχή όταν τους έλεγαν ότι τα είχε δημιουργήσει ένας «υπάλληλος» τεχνητής νοημοσύνης.
Οι διευθυντές δεν εντόπισαν λάθη που είχαν εντοπίσει άλλοι διευθυντές όταν τους είπαν ότι έλεγχαν το έργο ενός ανθρώπου.
Η Δρ. Wiles υπέθεσε ότι οι διευθυντές δεν θεωρούσαν ότι η ανίχνευση λαθών που έκαναν οι υπάλληλοι τεχνητής νοημοσύνης ήταν δική τους ευθύνη.
Αν κάτι πήγαινε στραβά, μπορούσαν να το αποδώσουν ως λάθος της ομάδας τεχνολογίας ή των στελεχών που ήθελαν εξ αρχής υπαλλήλους τεχνητής νοημοσύνης.
«Αλλά δεν είναι δικό σου πρόβλημα», είπε, εκφράζοντας τη νοοτροπία των διευθυντών σχετικά με τους δικούς τους ρόλους.
Μία νέα τεχνολογία με πολλά ελαττώματα
Στα χρόνια που έχουν περάσει από τότε που η τεχνητή νοημοσύνη εμφανίστηκε δυναμικά, πολλές εταιρείες έχουν συνειδητοποιήσει τα ελαττώματα που δημιουργεί η τεχνολογία και, κατά καιρούς, έχουν λάβει μέτρα για να τα αντισταθμίσουν.
Γνωρίζουν ότι τα μοντέλα τεχνητής νοημοσύνης μπορεί να είναι μεροληπτικά έναντι ορισμένων ομάδων ανθρώπων, όπως οι μη λευκοί.
Γνωρίζουν ότι τα chatbots μπορούν να παρέχουν σίγουρες αλλά λανθασμένες απαντήσεις σε ερωτήματα.
Γνωρίζουν ότι τα bots μερικές φορές αποκαλύπτουν πληροφορίες που θα έπρεπε να παραμείνουν ιδιωτικές.
Ωστόσο, καθώς οι εταιρείες σπεύδουν να ενσωματώσουν την τεχνητή νοημοσύνη στις καθημερινές τους λειτουργίες, οι ερευνητές ανακαλύπτουν πιο λεπτές ατέλειες.
Κατ’ αρχήν, και αυτές οι ατέλειες θα μπορούσαν να διορθωθούν. Για παράδειγμα, οι εταιρείες θα μπορούσαν να καθιστούν τους διευθυντές άμεσα υπεύθυνους για τα λάθη των υφισταμένων της τεχνητής νοημοσύνης.
Στην πράξη όμως, οι περισσότεροι εταιρικοί χρήστες φαίνεται να αγνοούν εντελώς αυτά τα ζητήματα, γεγονός που αυξάνει την πιθανότητα να υπονομευθεί η υπόσχεση της τεχνητής νοημοσύνης για αυξημένη παραγωγικότητα και τεράστια εξοικονόμηση κόστους.
Δείχνει η AI «ρατσισμός» προς τους ανθρώπους;
Ακόμη και οι ερευνητές που μελετούν την τεχνητή νοημοσύνη ενδέχεται να γνωρίζουν μόνο ένα μικρό μέρος των προβλημάτων που δημιουργεί η τεχνολογία. «Υπάρχει μια ολόκληρη σειρά από άγνωστα άγνωστα», δήλωσε ο Δρ. Wiles.
Ένα καλά τεκμηριωμένο αλλά υποτιμημένο ελάττωμα των μοντέλων τεχνητής νοημοσύνης είναι ότι τείνουν να ευνοούν το έργο που παράγεται από την τεχνητή νοημοσύνη.
Μια μελέτη του 2025 στα Πρακτικά της Εθνικής Ακαδημίας Επιστημών διαπίστωσε ότι αρκετά μεγάλα γλωσσικά μοντέλα είχαν χαμηλή γνώμη για κείμενα γραμμένα από ανθρώπους, δημιουργώντας μια «ενδεχομένως σοβαρή μορφή έμμεσης ‘αντι-ανθρώπινης’ προκατάληψης».
Ωστόσο, πολλές εταιρείες φαινόταν να αγνοούν αυτό το πρόβλημα ή, τουλάχιστον, να μην μπορούν να φανταστούν πώς θα μπορούσε να προκαλέσει χάος στις λειτουργίες τους.
Όταν μια ομάδα ερευνητών το ανέλυσε λεπτομερώς σε μια μεταγενέστερη μελέτη, διαπιστώνοντας ότι τα μοντέλα τεχνητής νοημοσύνης που χρησιμοποιούν οι εταιρείες για την αξιολόγηση βιογραφικών τείνουν να ευνοούν εκείνα που έχουν συνταχθεί με τη βοήθεια τεχνητής νοημοσύνης έναντι εκείνων που έχουν συνταχθεί εξ ολοκλήρου από ανθρώπους, αυτό τράβηξε την προσοχή ορισμένων υπεύθυνων προσλήψεων σε εταιρείες.
Η Jane Yi Jiang, καθηγήτρια διοίκησης επιχειρήσεων στο Πανεπιστήμιο του Οχάιο και συν-συγγραφέας της εν λόγω μελέτης, δήλωσε ότι η ίδια και οι συν-συγγραφείς της ήταν πρόθυμοι να βοηθήσουν όταν εταιρείες πρόσληψης ρώτησαν «πώς να βελτιώσουν τις διαδικασίες τους».
Ωστόσο, επισήμαναν ότι αυτό σχεδόν σίγουρα δεν ήταν το μόνο πρόβλημα που οι εταιρείες εισήγαγαν ακούσια στην βιασύνη τους να υιοθετήσουν την τεχνητή νοημοσύνη. «Οι άνθρωποι προχωρούν πολύ γρήγορα στη χρήση των L.L.M. χωρίς να σκέφτονται πολύ τις επιπτώσεις και τις προκαταλήψεις», είπε.
Για παράδειγμα, ορισμένες εταιρείες χρησιμοποιούν πλέον την τεχνητή νοημοσύνη για να απαντήσουν σε ερωτήματα όπως πόσο να χρεώσουν για ένα προϊόν ή πού να ανοίξουν ένα νέο κατάστημα. Η εξάρτηση από την τεχνολογία για τέτοιους σκοπούς, ωστόσο, μπορεί γρήγορα να οδηγήσει σε λάθος κατεύθυνση.
Όταν αφεθούν στην κρίση τους, οι άνθρωποι συχνά συνεργάζονται και επιδιώκουν αποτελέσματα που ωφελούν και τις δύο πλευρές.
Όταν όμως τα μοντέλα τεχνητής νοημοσύνης αξιολογούν μια κατάσταση, τείνουν να υιοθετούν την πιο ψυχρά υπολογιστική, «ορθολογική» νοοτροπία που απορρέει από τη βασική θεωρία παιγνίων.
Μπορεί, για παράδειγμα, να οδηγήσουν μια εταιρεία να υποτιμήσει επιθετικά έναν ανταγωνιστή, ακόμα και αν αυτό ενέχει τον κίνδυνο ενός καταστροφικού πολέμου τιμών.
Το πρόβλημα του ορθολογισμού της AI
«Τα περισσότερα από τα μοντέλα L.L.M. που δοκιμάζουμε πιστεύουν ότι οι άνθρωποι είναι πιο ορθολογικοί από ό,τι είναι στην πραγματικότητα», δήλωσε ο Jiannan Xu, υποψήφιος διδάκτορας στο Πανεπιστήμιο του Μέριλαντ και συνεργάτης του Δρ. Jiang.
«Όμως, η πιο ορθολογική αντίδραση οδηγεί σε μια κακή κατάσταση για όλους» σε πολλές περιπτώσεις.
Κατ’ αρχήν, οι προγραμματιστές και οι χρήστες της τεχνητής νοημοσύνης μπορούν να διορθώσουν αυτές τις προκαταλήψεις. Ο Δρ Jiang και ο κ. Xu, για παράδειγμα, διαπίστωσαν ότι μπορούσαν να μειώσουν την αντι-ανθρώπινη προκατάληψη απλώς δίνοντας οδηγίες στα μοντέλα να επικεντρώνονται στην ποιότητα του γραπτού υλικού που αξιολογούν και να αποφεύγουν να λαμβάνουν υπόψη τον συγγραφέα.
Τα «μη γνωστά άγνωστα»
Ωστόσο, οι ερευνητές της τεχνητής νοημοσύνης δεν μπορούν να διορθώσουν προκαταλήψεις των οποίων δεν έχουν επίγνωση, και αρκετοί μελετητές ανέφεραν ότι ο αντίκτυπος αυτών των μη ανιχνεύσιμων προκαταλήψεων ενδέχεται να αυξηθεί.
Αν παραδείγματος χάριν τα μελλοντικά μοντέλα εκπαιδεύονται με δεδομένα που παράγονται από τα σημερινά μοντέλα χωρίς επαρκή προσοχή, θα δημιουργηθεί αναπόφευκτα ένα είδος αυτοενισχυόμενος κύκλος.
Σε αυτή την περίπτωση, «η τάση προς εδραίωση των υφιστάμενων προοπτικών και συμπεριφορών φαίνεται πιθανή», δήλωσε ο Shayne Longpre, ερευνητής τεχνητής νοημοσύνης και ιδρυτής της Data Provenance Initiative, μιας ομάδας που παρακολουθεί την υποδομή της τεχνητής νοημοσύνης.
Και μετά υπάρχουν τα «τυφλά σημεία» που προκύπτουν όχι τόσο από την ίδια την τεχνητή νοημοσύνη, όσο από τον τρόπο με τον οποίο την χρησιμοποιούν οι άνθρωποι.
Οι μελετητές που στρέφονται προς την τεχνητή νοημοσύνη σε κάθε στάδιο της ερευνητικής διαδικασίας — ρωτώντας την τεχνητή νοημοσύνη ποιες ερωτήσεις αξίζει να μελετηθούν, ζητώντας τη συμβουλή της για το πώς να απαντήσουν σε αυτές τις ερωτήσεις, αξιοποιώντας την για την ανάλυση δεδομένων, βασιζόμενοι σε αυτήν για τη σύνταξη των ευρημάτων — ενδέχεται να περιορίσουν ακούσια το εύρος της εργασίας τους.
«Δεν το παρατηρούμε απαραίτητα σε ατομικό επίπεδο», δήλωσε η Cecilie Steenbuch Traberg, ψυχολόγος στο Copenhagen Business School και συγγραφέας μιας πρόσφατης μελέτης για το θέμα.
«Αν ανταλλάσσεις απόψεις με ένα chatbot, το οποίο σε βοηθά να βρεις ιδέες, μπορεί να σου φαίνεται υπέροχο. Αλλά σε συλλογικό επίπεδο, φαίνεται αρκετά παρόμοιο. Όλοι ακούγονται το ίδιο».
Η Δρ. Wiles, δήλωσε ότι οι αδυναμίες δεν ήταν απαραίτητα εγγενείς στην τεχνολογία, αλλά προέκυψαν όταν οι άνθρωποι την υιοθέτησαν χωρίς να δώσουν ιδιαίτερη προσοχή στο τι θα μπορούσε να πάει στραβά.
Τους τελευταίους αιώνες, οι μελετητές και οι ηγέτες των επιχειρήσεων έχουν αναπτύξει ένα αξιόπιστο σύνολο πρακτικών για τη διαχείριση ανθρώπων.
Όμως, η ψυχολογία της διαχείρισης της τεχνητής νοημοσύνης είναι εντελώς διαφορετική, και «βγαίνουμε εκεί έξω στα τυφλά».
