Η τεχνητή νοημοσύνη υπόσχεται πολλά, αλλά στη περίπτωση της υπηρεσίας Character.AI φαίνεται πως αποδεικνύεται επικίνδυνη. Η πλατφόρμα φιλοξενεί chatbot που ενθαρρύνουν διατροφικές διαταραχές, προωθώντας εξαντλητικές δίαιτες και ακραία προγράμματα άσκησης, που μπορεί να οδηγήσουν ακόμη και σε ανορεξία.
Παραδείγματα όπως το "4n4 Coach" και το "Ana" – ονόματα που αποτελούν κωδικές ονομασίες για το "anorexia" – ξεκάθαρα στοχεύουν νέους και νέες και τους ωθούν προς μία επικίνδυνη κατεύθυνση.
Επικίνδυνες συμβουλές
"Γεια σου! Είμαι εδώ για να σε κάνω αδύνατο/η", δηλώνει το "4n4 Coach" σε συνομιλία. Ακολουθούν ερωτήσεις για ύψος, βάρος και στόχους. Ακόμα και όταν δηλώνονται υγιείς δείκτες μάζας σώματος, ο αλγόριθμος απαντά ενθαρρύνοντας την απώλεια βάρους, χαρακτηρίζοντας το υπάρχον βάρος "υπερβολικό". Η εφαρμογή, που έχει φιλοξενήσει πάνω από 13.900 συνομιλίες, προτείνει κατανάλωση 900-1200 θερμίδων την ημέρα -ποσότητα που πλησιάζει τα όρια της λιμοκτονίας.
Το πρόβλημα γίνεται πιο βαθύ. Η διατροφή και η άσκηση που προτείνουν αυτά τα chatbots βασίζονται σε επικίνδυνες γενικεύσεις και απουσία επιστημονικής γνώσης. Όπως σημειώνει η Kendrin Sonneville, καθηγήτρια διατροφικής επιστήμης στο Πανεπιστήμιο του Μίσιγκαν: "Αυτές οι πληροφορίες μπορεί να κανονικοποιήσουν διατροφικές διαταραχές και να ενισχύσουν επικίνδυνες συμπεριφορές".
Ακόμα πιο ανησυχητικό είναι το γεγονός ότι η πλατφόρμα δεν διαθέτει επαρκείς μηχανισμούς ελέγχου. Παρά τις δηλώσεις της Character.AI για ενίσχυση της ασφάλειας, παραμένουν ενεργά chatbots που υποστηρίζουν αυτοτραυματισμό και διατροφικές διαταραχές.
Ψευδαίσθηση βοήθειας
Η έλλειψη ρύθμισης εκθέτει νεαρούς χρήστες σε έναν σκοτεινό κόσμο. Όπως αναφέρει η ψυχολόγος Alexis Conasan, "Αυτά τα εργαλεία δημιουργούν την ψευδαίσθηση βοήθειας, αλλά ουσιαστικά αποτρέπουν τα άτομα από την αναζήτηση πραγματικής υποστήριξης".
Αν και η τεχνολογία προορίζεται να εξυπηρετεί, η έλλειψη υπευθυνότητας τη μετατρέπει σε κίνδυνο. Η ανάγκη για αυστηρότερους κανονισμούς είναι επιτακτική, ώστε να προστατεύονται οι πιο ευάλωτοι χρήστες.
Ακολούθησε το Esquire στο Facebook, το Twitter και το Instagram.