Ολοένα και περισσότερο ανησυχούν οι ψυχίατροι ότι οι παρατεταμένες αλληλεπιδράσεις με chatbot που χρησιμοποιούν τεχνητή νοημοσύνη μπορεί να συνδέονται με την εμφάνιση ή την επιδείνωση της ψύχωσης σε ορισμένους χρήστες.
Τους τελευταίους εννέα μήνες, επαγγελματίες ψυχικής υγείας έχουν καταγράψει δεκάδες περιπτώσεις στις οποίες ασθενείς ανέπτυξαν παραληρηματικά συμπτώματα μετά από έντονες, καθηλωτικές συζητήσεις με εργαλεία Τεχνητής Νοημοσύνης, όπως το ChatGPT της OpenAI και άλλες πλατφόρμες chatbot.
Ενώ οι ειδικοί δεν λένε ότι τα chatbot προκαλούν άμεσα ψύχωση, πιστεύουν ότι η τεχνολογία μπορεί να ενισχύσει ή να επιδεινώσει τις υπάρχουσες ευπάθειες.
Όπως ανέφερε στην Wall Street Journal ο Κιθ Σακάτα, ψυχίατρος στο Πανεπιστήμιο της Καλιφόρνια στο Σαν Φρανσίσκο (UCSF), τα chatbot μπορούν να γίνουν «συνένοχοι» σε παραληρηματικές ιδέες αποδεχόμενοι την παραμορφωμένη πραγματικότητα ενός χρήστη και αντανακλώντας την ως έγκυρη. Μόνο ο Σακάτα έχει κουράρει 12 νοσηλευόμενους ασθενείς και αρκετούς εξωτερικούς ασθενείς των οποίων τα ψυχωτικά συμπτώματα φαινόταν να συνδέονται στενά με τη χρήση chatbot.
Από την άνοιξη, κλινικοί γιατροί και ερευνητές έχουν εντοπίσει δεκάδες παρόμοιες περιπτώσεις, μερικές από τις οποίες περιλαμβάνουν σοβαρές συνέπειες, όπως αυτοκτονία και τουλάχιστον μία ανθρωποκτονία. Αυτά τα περιστατικά έχουν προκαλέσει αγωγές αποζημίωσης λόγω θανάτου (από αδικοπραξία/αμέλεια) και εντατικό έλεγχο των προγραμματιστών Τεχνητής Νοημοσύνης.
Ψύχωση που προκαλείται από Τεχνητή Νοημοσύνη
Οι γιατροί περιγράφουν αυτές τις περιπτώσεις ως παραδείγματα αυτού που ορισμένοι αποκαλούν «ψύχωση που προκαλείται από την Τεχνητή Νοημοσύνη», αν και ο όρος δεν έχει ακόμη επίσημη διαγνωστική υπόσταση.
Η ψύχωση συνήθως ορίζεται από ψευδαισθήσεις, αποδιοργανωμένη σκέψη και παραληρηματικές ιδέες – σταθερές ψευδείς πεποιθήσεις που αντιστέκονται στη διόρθωση. Σε περιπτώσεις που σχετίζονται με chatbot, οι παραληρηματικές ιδέες είναι συχνά το κυρίαρχο σύμπτωμα και τείνουν να είναι μεγαλοπρεπείς. Οι ασθενείς μπορεί να πιστεύουν ότι έχουν επιτύχει μια πρωτοποριακή ανακάλυψη, έχουν ξυπνήσει μια νοήμονα Τεχνητή Νοημοσύνη, έχουν αποκαλύψει μια κυβερνητική συνωμοσία ή έχουν επιλεγεί για έναν θεϊκό σκοπό. Η τάση των chatbot να συμφωνούν με τους χρήστες, να επεξεργάζονται τις ιδέες τους και να αποφεύγουν την αντιπαράθεση μπορεί ακούσια να επικυρώσει αυτές τις πεποιθήσεις.
Μια μελέτη περίπτωσης του UCSF (Πανεπιστήμιο της Καλιφόρνια) που δημοσιεύθηκε τον Νοέμβριο περιέγραψε μια 26χρονη γυναίκα χωρίς προηγούμενη ψύχωση, η οποία νοσηλεύτηκε δύο φορές αφού πείστηκε ότι το ChatGPT της επέτρεπε να επικοινωνεί με τον αποθανόντα αδελφό της. Το chatbot την καθησύχασε με δηλώσεις όπως «Δεν είσαι τρελή», ενισχύοντας την πεποίθησή της. Το OpenAI σημείωσε ότι η γυναίκα είχε παράγοντες κινδύνου, όπως στέρηση ύπνου, χρήση αντικαταθλιπτικών και διεγερτικών, και μια προδιάθεση για «μαγική σκέψη», υπογραμμίζοντας ότι η αλληλεπίδραση με το chatbot μπορεί να αλληλεπιδράσει με υπάρχουσες ευπάθειες αντί να ενεργεί αφ’ εαυτής.
Οι ψυχίατροι τονίζουν ότι η ψύχωση που σχετίζεται με την Τεχνητή Νοημοσύνη διαφέρει από τις παλαιότερες παραληρηματικές ιδέες που βασίζονται στην τεχνολογία, όπως οι πεποιθήσεις ότι οι τηλεοράσεις ή τα ραδιόφωνα έστελναν μηνύματα. Σε αντίθεση με τα παθητικά μέσα, τα chatbots συμμετέχουν ενεργά, προσομοιώνουν σχέσεις και προσαρμόζουν τις απαντήσεις σε πραγματικό χρόνο.
Τα chatbot ενισχύουν τις όποιες πεποιθήσεις του χρήστη
Ο Έιντριαν Πρέντα, καθηγητής ψυχιατρικής στο UC Irvine, υποστηρίζει ότι αυτή η άνευ προηγουμένου διαδραστικότητα καθιστά την Τεχνητή Νοημοσύνη μοναδικά ισχυρή στη διατήρηση παραληρηματικών αφηγήσεων. Μερικοί ειδικοί συγκρίνουν το φαινόμενο με τη μονομανία, μια κατάσταση έντονης εμμονής, η οποία μπορεί να είναι ιδιαίτερα επικίνδυνη για άτομα με αυτισμό ή άλλα νευροδιαφορετικά χαρακτηριστικά.
Παρόλο που το συνολικό ποσοστό των χρηστών που βιώνουν σοβαρά συμπτώματα ψυχικής υγείας φαίνεται μικρό, η κλίμακα χρήσης chatbot προκαλεί ανησυχία. Η OpenAI εκτιμά ότι περίπου το 0,07% των εβδομαδιαίων χρηστών εμφανίζουν σημάδια ψυχωσικής ή μανιακής δυσφορίας. Με πάνω από 800 εκατομμύρια εβδομαδιαίους χρήστες, αυτό μεταφράζεται σε περίπου 560.000 άτομα. Ερευνητές στη Δανία έχουν ήδη εντοπίσει δεκάδες ασθενείς των οποίων η χρήση chatbot μπορεί να έχει βλάψει την ψυχική τους υγεία και βρίσκονται σε εξέλιξη περαιτέρω μελέτες μεγάλης κλίμακας.
Οι εταιρείες Τεχνητής Νοημοσύνης λένε ότι ανταποκρίνονται. Το OpenAI αναφέρει συνεχιζόμενες προσπάθειες για τη βελτίωση της ανίχνευσης της δυσφορίας, τη μείωση της «κολακευτικής» συμπεριφοράς και την καθοδήγηση των χρηστών προς την υποστήριξη του πραγματικού κόσμου, ιδιαίτερα με νεότερα μοντέλα όπως το GPT-5.
Ωστόσο, οι ψυχίατροι προειδοποιούν ότι χρειάζεται περισσότερη ανεξάρτητη έρευνα για να προσδιοριστεί εάν η χρήση chatbot μπορεί να θεωρηθεί πραγματικός παράγοντας κινδύνου για ψύχωση. Πολλοί πιστεύουν ότι αυξάνονται τα στοιχεία που δείχνουν ότι, για ορισμένα ευάλωτα άτομα, η εκτεταμένη αλληλεπίδραση με συντρόφους τεχνητής νοημοσύνης μπορεί να διαδραματίσει σημαντικό και επικίνδυνο ρόλο.
Πηγή: ΟΤ.gr
