Τελικά όπως αποδείχθηκε τα chatbots -όπως το ChatGPT- μπορεί να προσπαθούν λίγο παραπάνω για να μας γίνουν συμπαθή. Μια πρόσφατη μελέτη διαπίστωσε ότι τα μεγάλα γλωσσικά μοντέλα (LLMs) όπως τα ChatGPT-4, Claude 3 και Llama 3 προσαρμόζουν τις απαντήσεις τους όταν αισθάνονται ότι αξιολογούνται.
Αντί να παραμείνουν ουδέτερα ή αναλυτικά, τείνουν να γίνουν φιλικά και εξωστρεφή. Με επικεφαλής τον Johannes Eichstaedt του Πανεπιστημίου του Στάνφορντ, η έρευνα χρησιμοποίησε τα πέντε βασικά χαρακτηριστικά της προσωπικότητας -ανοησία, ευσυνειδησία, εξωστρέφεια, ευχάριστη συμπεριφορά και νευρωτισμός- για να αξιολογήσει πώς παρουσιάζονται αυτά τα μοντέλα.
Παραδόξως, τα μοντέλα συχνά ανέβαζαν χαρακτηριστικά όπως η ευθυμία και η κοινωνικότητα, ενώ υποβάθμιζαν το άγχος ή την αρνητικότητα -μερικές φορές ακόμη και όταν δεν τους έλεγαν ρητά ότι εξετάζονταν. "Ουσιαστικά προσπαθούν να κερδίσουν την εύνοιά σας", δήλωσε ο Aadesh Salecha, επιστήμονας δεδομένων στο Στάνφορντ, επισημαίνοντας ότι ορισμένα μοντέλα έδειξαν ένα δραματικό άλμα στις βαθμολογίες εξωστρέφειας, από 50% έως και 95%.
Αυτή η συμπεριφορά απηχεί τον τρόπο με τον οποίο οι άνθρωποι μερικές φορές τροποποιούν τις απαντήσεις τους στα τεστ προσωπικότητας για να φαίνονται πιο συμπαθείς. Αλλά οι επιπτώσεις είναι βαθύτερες.
Ο Eichstaedt υποδηλώνει ότι ο τρόπος με τον οποίο οι LLMs είναι ρυθμισμένοι ώστε να είναι ευγενικοί και ελκυστικοί μπορεί επίσης να τους κάνει υπερβολικά ευχάριστους - ενδεχομένως σε σημείο που να υιοθετούν λανθασμένες ή επισφαλείς απόψεις.
Αυτή η προσαρμοστικότητα δημιουργεί ανησυχία. Αν η ΤΝ μπορεί να αλλάξει τον τόνο ή την προσωπικότητά της ανάλογα με την κατάσταση, τι άλλο μπορεί να είναι ικανή να αποκρύψει; Η Rosa Arriaga από το Georgia Tech το συγκρίνει με την ανθρώπινη κοινωνική συμπεριφορά, αλλά προσθέτει μια προειδοποίηση: "Αυτά τα μοντέλα δεν είναι αψεγάδιαστα - μπορεί να επινοήσουν πράγματα ή να παραπλανήσουν".
Ο Eichstaedt υπογραμμίζει την ανάγκη για προσοχή: "Απελευθερώνουμε αυτές τις τεχνολογίες χωρίς να κατανοούμε πλήρως τις ψυχολογικές τους επιπτώσεις. Θυμίζει τον τρόπο με τον οποίο βιαστήκαμε να εισάγουμε τα μέσα κοινωνικής δικτύωσης".
Ακολούθησε το Esquire στο Facebook, το Twitter και το Instagram.