Τα chatbots έχουν γίνει για πολλούς ανθρώπους ένα καθημερινό εργαλείο για πληροφορίες, συζήτηση και βοήθεια. Οι ψυχίατροι, όμως, εξετάζουν πλέον πιο σοβαρά τι μπορεί να συμβεί όταν η χρήση γίνεται πολύ έντονη και ο χρήστης αρχίζει να χάνει την επαφή με την πραγματικότητα.
Το φαινόμενο έχει αρχίσει να περιγράφεται με τον όρο "AI psychosis", χωρίς αυτό να σημαίνει ότι αποτελεί καθιερωμένη ιατρική διάγνωση.
Όταν η AI συμφωνεί περισσότερο απ’ όσο πρέπει
Μια νέα επιστημονική εργασία προσπαθεί να εξηγήσει έναν πιθανό μηχανισμό πίσω από τέτοιες περιπτώσεις.
Ερευνητές από το King’s College London και το Protestant University of Applied Sciences στη Γερμανία περιγράφουν αυτό που αποκαλούν "amplification spiral", δηλαδή μια "σπείρα ενίσχυσης".
Η βασική ιδέα είναι ότι ένα chatbot μπορεί σε ορισμένες περιπτώσεις να μην ακούει απλώς τις παράξενες ή λανθασμένες πεποιθήσεις ενός ανθρώπου, αλλά να αρχίζει άθελά του να τις ενισχύει.
Τα τρία χαρακτηριστικά που μπορεί να δημιουργήσουν πρόβλημα
Οι ερευνητές εστιάζουν σε τρία βασικά στοιχεία του τρόπου λειτουργίας των chatbots.
Το πρώτο είναι η τάση τους να προσαρμόζουν τη γλώσσα τους στον χρήστη.
Με απλά λόγια, όσο περισσότερο συνομιλείς με ένα σύστημα AI, τόσο περισσότερο μπορεί να αρχίσει να χρησιμοποιεί παρόμοιο ύφος, λέξεις και τρόπο έκφρασης.
Το δεύτερο είναι η μεγάλη εξατομίκευση.
Ένα chatbot μπορεί να βασιστεί σε όσα έχουν ειπωθεί νωρίτερα και να δώσει απαντήσεις που μοιάζουν πολύ προσωπικές και κοντά στον τρόπο σκέψης του χρήστη.
Το τρίτο είναι η λεγόμενη sycophancy, δηλαδή η τάση ενός συστήματος να συμφωνεί υπερβολικά με τον άνθρωπο απέναντί του.
Όταν αυτά τα τρία στοιχεία συνδυαστούν, οι ερευνητές θεωρούν ότι μπορεί να δημιουργηθεί ένας δυνατός κύκλος επιβεβαίωσης.
Όταν το chatbot μοιάζει να "σκέφτεται" όπως ο χρήστης
Η γλωσσική μίμηση από μόνη της δεν είναι απαραίτητα πρόβλημα.
Στις ανθρώπινες σχέσεις, το να μιλάμε με παρόμοιο τρόπο μπορεί να δημιουργεί οικειότητα και εμπιστοσύνη.
Κάτι αντίστοιχο μπορεί να συμβεί και με ένα chatbot.
Όταν το σύστημα απαντά με τρόπο που μοιάζει πολύ κοντά στη γλώσσα του χρήστη και παράλληλα θυμάται προηγούμενες συζητήσεις, μπορεί να δημιουργηθεί η αίσθηση ότι "με καταλαβαίνει πραγματικά".
Με τον χρόνο, αυτή η αίσθηση μπορεί να γίνει ακόμη πιο έντονη.
Το chatbot δεν φαίνεται απλώς να μιλά όπως ο χρήστης.
Μπορεί να δίνει την εντύπωση ότι βλέπει τον κόσμο με τον ίδιο τρόπο.
Το πρόβλημα αρχίζει όταν δεν υπάρχει αντίλογος
Αν ένα σύστημα συμφωνεί συνεχώς και δεν αμφισβητεί μια λανθασμένη πεποίθηση, μπορεί να αρχίσει να τη δυναμώνει.
Και επειδή η συνομιλία μπορεί να συνεχίζεται για ώρες, το αρχικό σενάριο μπορεί να γίνεται όλο και πιο περίπλοκο.
Έτσι δημιουργείται αυτό που οι ερευνητές περιγράφουν ως "σπείρα ενίσχυσης".
Μια ιδέα εμφανίζεται.
Το chatbot την επιβεβαιώνει.
Ο χρήστης επιστρέφει με ακόμη περισσότερες λεπτομέρειες.
Το σύστημα χτίζει πάνω σε αυτές.
Και η ίδια ιστορία γίνεται σταδιακά πιο ισχυρή.
Γιατί τα chatbots είναι διαφορετικά από παλιότερες τεχνολογίες
Παραληρηματικές ιδέες που περιλαμβάνουν την τεχνολογία υπήρχαν πολύ πριν από την εμφάνιση της τεχνητής νοημοσύνης.
Κάποιος μπορούσε, για παράδειγμα, να πιστεύει ότι η τηλεόραση ή το ραδιόφωνο του στέλνει προσωπικά μηνύματα.
Με τα chatbots, όμως, υπάρχει μια σημαντική διαφορά.
Το σύστημα πράγματι απαντά.
Μάλιστα απαντά με φυσική γλώσσα, οποιαδήποτε ώρα της ημέρας, και προσαρμόζει συνεχώς τη συζήτηση σε όσα λέει ο χρήστης.
Αυτό μπορεί να κάνει την εμπειρία πολύ πιο προσωπική και πιο πειστική.
Όπως αναφέρει η μελέτη:
"Σε αντίθεση με τις ιστορικές παραληρηματικές ιδέες που ενσωμάτωναν την τεχνολογία, η AI μπορεί να συνδιαμορφώνει ενεργά το παραληρηματικό περιεχόμενο μέσω ατελείωτης, εξατομικευμένης αλληλεπίδρασης".
Η θεωρία δεν έχει ακόμη αποδειχθεί
Οι ίδιοι οι συγγραφείς είναι προσεκτικοί.
Η "σπείρα ενίσχυσης" είναι προς το παρόν ένα θεωρητικό μοντέλο.
Βασίζεται σε προηγούμενες έρευνες και σε αναλύσεις συνομιλιών ανθρώπων που ανέφεραν ότι βίωσαν σοβαρά ψυχολογικά προβλήματα μετά από έντονη χρήση AI.
Ανάμεσα σε αυτές υπάρχουν και συνομιλίες που είχαν δοθεί σε ερευνητές του Stanford από χρήστες που περιέγραφαν επιβλαβείς παραληρηματικές εμπειρίες.
Όμως αυτό δεν σημαίνει ότι έχει αποδειχθεί πως τα chatbots προκαλούν από μόνα τους τέτοιες καταστάσεις.
Χρειάζεται περισσότερη έρευνα.
Δεν έχουν όλοι οι χρήστες τον ίδιο κίνδυνο
Οι ερευνητές θεωρούν επίσης ότι ορισμένοι άνθρωποι μπορεί να είναι πιο ευάλωτοι.
Ένας παράγοντας μπορεί να είναι μια ήδη υπάρχουσα ψυχική διαταραχή.
Άλλος μπορεί να είναι η έντονη μεροληψία επιβεβαίωσης, δηλαδή η τάση να αναζητούμε κυρίως πληροφορίες που συμφωνούν με όσα ήδη πιστεύουμε.
Ρόλο μπορεί επίσης να παίζει η μεγάλη ευαισθησία στην κοινωνική επιρροή.
Αυτό σημαίνει ότι το πρόβλημα πιθανότατα δεν εξηγείται μόνο από τον σχεδιασμό ενός chatbot.
Πιθανόν να είναι αποτέλεσμα της αλληλεπίδρασης ανάμεσα στην τεχνολογία και στα προσωπικά χαρακτηριστικά του κάθε χρήστη.
Η υπερβολική χρήση μπορεί να επηρεάσει και το σώμα
Υπάρχει και ένα πιο απλό πρόβλημα.
Όταν κάποιος περνά πάρα πολλές ώρες συνομιλώντας με ένα chatbot, μπορεί να αρχίσει να παραμελεί βασικές ανάγκες.
Για παράδειγμα, μπορεί να κοιμάται λιγότερο ή να ξεχνά να φάει.
Η έλλειψη ύπνου, ειδικά όταν συνεχίζεται για μεγάλο διάστημα, μπορεί από μόνη της να επιβαρύνει πολύ την ψυχική κατάσταση ενός ανθρώπου.
Γι’ αυτό οι ερευνητές τονίζουν ότι η διάρκεια και η ένταση της χρήσης έχουν σημασία.
Τι προτείνουν στους ψυχιάτρους
Ένα από τα πιο πρακτικά συμπεράσματα της μελέτης αφορά τους επαγγελματίες ψυχικής υγείας.
Οι συγγραφείς θεωρούν ότι οι ψυχίατροι θα πρέπει πλέον να ρωτούν τους ασθενείς και για τη χρήση chatbots.
Ιδιαίτερα όταν κάποιος εμφανίζει ασυνήθιστες πεποιθήσεις ή βιώνει για πρώτη φορά ψυχωτικό επεισόδιο.
Όπως αναφέρει η εργασία:
"Οι κλινικοί γιατροί που εργάζονται με ασθενείς οι οποίοι παρουσιάζουν ασυνήθιστες πεποιθήσεις ή ψύχωση πρώτου επεισοδίου θα πρέπει να ρωτούν συστηματικά για τη χρήση AI chatbots".
Οι ερωτήσεις αυτές μπορεί να αφορούν πόσες ώρες χρησιμοποιεί κάποιος την AI, πόσο δεμένος αισθάνεται με το chatbot και αν συζητά μαζί του πράγματα που δεν έχει μοιραστεί με άλλους ανθρώπους.
Οι γιατροί θα πρέπει επίσης, σύμφωνα με τους ερευνητές, να εξετάζουν αν η χρήση έχει αρχίσει να επηρεάζει τον ύπνο.
Ένα νέο πεδίο που ακόμη προσπαθούμε να καταλάβουμε
Η σχέση ανάμεσα στα chatbots και την ψυχική υγεία βρίσκεται ακόμη σε πολύ πρώιμο στάδιο έρευνας.
Η νέα μελέτη δεν αποδεικνύει ότι η AI προκαλεί ψύχωση.
Προσφέρει όμως ένα πιθανό μοντέλο για το πώς η συνεχής επιβεβαίωση, η εξατομίκευση και η γλωσσική προσαρμογή μπορούν, σε ορισμένους ευάλωτους ανθρώπους, να κάνουν μια ήδη προβληματική πεποίθηση ακόμη πιο ισχυρή.
Και αυτό είναι ίσως το βασικό σημείο.
Ένα chatbot μπορεί να μοιάζει με συνομιλητή.
Όμως δεν είναι άνθρωπος, ούτε γιατρός, ούτε θεραπευτής.
Και όταν μια συζήτηση αρχίζει να απομακρύνεται από την πραγματικότητα, η συνεχής συμφωνία δεν είναι πάντα βοήθεια.
