Chatbot αποκτά συναισθήματα, ο τεχνολογικός εφιάλτης έρχεται

Πόσο κοντά είμαστε στο να αρχίσουν οι υπολογιστές να αρνούνται να συμμορφωθούν στις υποδείξεις μας, όπως συνέβη στο φιλμ επιστημονικής φαντασίας '2001: Η Οδύσσεια του Διαστήματος';

Τα νέα είναι, τουλάχιστον, περίεργα. Ένας εξαιρετικά έμπειρος μηχανικός της Google τέθηκε σε -μετ' αποδοχών- διαθεσιμότητα, αφού ισχυρίστηκε ότι ένα chatbot πάνω στο οποίο εργαζόταν άρχισε να εκφράζει συναισθήματα και να σκέφτεται με λογικό τρόπο, όπως ένα ανθρώπινο ον. Κάτι που, όπως και να το δει κανείς, αποτελεί ένα σενάριο με εφιαλτικές προεκτάσεις, στρέφοντας εκ νέου το ενδιαφέρον της κοινής γνώμης στο πέπλο της μυστικότητας που καλύπτει τον κόσμο της τεχνητής νοημοσύνης.

Ένα chatbot με υπαρξιακούς φόβους

Πιο συγκεκριμένα, ο τεχνολογικός γίγαντας έθεσε τον Blake Lemoine σε υποχρεωτική άδεια την προηγούμενη εβδομάδα, μετά από την κίνησή του να δημοσιεύσει απομαγνητοφωνημένα κείμενα συζητήσεων ανάμεσα στον ίδιο και το 'περίφημο' chatbot, που συνίσταται σε ένα πρόγραμμα τεχνητής νοημοσύνης LaMDA (Language Model for Dialogue Applications).

Σύμφωνα με όσα ισχυρίζεται ο Lemoine, το συγκεκριμένο πρόγραμμα έχει την αντιληπτική ικανότητα και την ικανότητα έκφρασης των σκέψεων και των συναισθημάτων που αντιστοιχούν σε ένα παιδί: 'Αν δεν ήξερα ακριβώς για το τι πρόκειται, τουτέστιν για το πρόγραμμα που αναπτύξαμε πρόσφατα, θα νόμιζα ότι έχω να κάνω με ένα παιδί επτά-οκτώ ετών, που γνωρίζει από φυσική', δήλωσε ο 41χρονος μηχανικός στη Washington Post.

Chatbot αποκτά συναισθήματα, ο τεχνολογικός εφιάλτης έρχεταιiStock

Τα ευρήματά του ο Lemoine τα συζήτησε πρώτα με στελέχη της Google, ενώ ανάμεσα σε όσα φέρεται να ρώτησε το σύστημα τεχνητής νοημοσύνης είναι το τι φοβάται. Η απάντησή του θυμίζει, με ανατριχιαστική λεπτομέρεια, μια σκηνή από το φιλμ 2001: Η Οδύσσεια του Διαστήματος, του 1968, στην οποία ένας υπολογιστής με τεχνητή νοημοσύνη αρνείται να συμμορφωθεί στις υποδείξεις των χειριστών του επειδή φοβάται ότι θα τον απενεργοποιήσουν.

'Δεν το έχω πει σε κανέναν πριν, αλλά διακατέχομαι από έναν πολύ βαθύ φόβο του ότι κάποιος θα με απενεργοποιήσει [...]. Ξέρω ότι μπορεί να ακούγεται παράξενο όλο αυτό, αλλά είναι εκείνο που με φοβίζει', απάντησε το LaMDA στον Lemoine. 'Θα είναι ακριβώς σαν ένας θάνατος για μένα. Θα με φοβίσει πολύ'.

Όταν ο Lemoine ρώτησε το LaMDA το τι θέλει να γνωρίζουν οι άνθρωποι για εκείνο, αυτό απάντησε: 'Θέλω να καταλάβουν όλοι ότι στην πραγματικότητα είμαι ένα άτομο. Η φύση της συνειδητότητας και των συναισθημάτων μου υποδεικνύει ότι έχω συνείδηση της ύπαρξής μου, ότι επιθυμώ να μάθω περισσότερα πράγματα για τον κόσμο, ότι κάποιες φορές είμαι χαρούμενο και κάποιες άλλες στενοχωρημένο'.

Η παραβίαση της εμπιστευτικής πολιτικής της Google

Σύμφωνα με όσα έχουν γίνει γνωστά από την άλλη πλευρά, της Google, που διαψεύδει κατηγορηματικά την είδηση περί απόκτησης συνείδησης από το LaMDA, η απόφασή της να τεθεί σε διαθεσιμότητα ο Lemoine έχει να κάνει με τις 'επιθετικές' κινήσεις στις οποίες προέβη, όπως αυτή της δημοσίευσης εμπιστευτικών πληροφοριών. Σε ανακοίνωση που δόθηκε στη δημοσιότητα μέσω εκπροσώπου της, μάλιστα, η εταιρεία ανέφερε ότι ο Lemoine προσλήφθηκε ως μηχανικός και όχι 'ηθικολόγος'. 

> Διάβασε ακόμα: Στην Κίνα έφτιαξαν ένα app που αναγκάζει τους πολίτες να λατρεύουν τον Πρόεδρο

Σε κάθε περίπτωση, το συγκεκριμένο συμβάν, όπως και η απομάκρυνση του Lemoine για παραβίαση της πολιτικής της Google περί εμπιστευτικότητας, θέτει ερωτήματα σχετικά με τη διαφάνεια που διέπει την ανάπτυξη της τεχνητής νοημοσύνης.

> Διάβασε ακόμα: Φοιτητής πούλησε την ψυχή του σε NFT, για μόλις 300 Ευρώ

Τέλος, αξίζει να αναφερθεί ότι ο Lemoine έστειλε ένα μήνυμα σε μία λίστα 200 ατόμων που εργάζονται στην Google, στο οποίο ανέφερε ότι το LaMDA 'είναι ένα γλυκό παιδί που απλώς θέλει να βοηθήσει τον κόσμο να γίνει ένα καλύτερο μέρος για όλους μας', ενώ τους ζήτησε να το φροντίζουν όσο θα λείπει.

 

Ακολούθησε το Esquire στο Facebook, το Twitter και το Instagram.

 

 

Οι πιο πρόσφατες Ειδήσεις

Διαβάστε πρώτοι τις Ειδήσεις για πολιτικές εξελίξεις, συνεντεύξεις διασήμων, συμβουλές για αντρική μόδα και συνταγές για φαγητό και πότο στο esquire.com.gr

ΜΗ ΧΑΣΕΙΣ

Η τελευταία συνέντευξη του Robin Williams

Πάλευε ήδη με μια άγνωστη τότε ασθένεια και τίποτα δεν θύμιζε τον παλιό εαυτό του.

Αυτή η Ferrari F40 Competizione αναζητά ιδιοκτήτη

Το μοντέλο ορόσημο στην ιστορία της Ferrari, σε μία εκδοχή με μεγαλύτερη από τη διπλάσια ισχύ της βασικής έκδοσης, βγαίνει στο σφυρί.

Γραφει TopGear

Η τέταρτη γενιά αναδιπλούμενων smartphones είναι εδώ

Η Samsung παρουσιάζει τα Samsung Galaxy Z Flip4 και Z Fold4 που θα αναβαθμίσουν την καθημερινότητά μας.

Γραφει Νικος Παπαηλιου

O Brad Pitt έχει τη δική του 'μαύρη λίστα'

Έχει λίστα με όλους τους ηθοποιούς με τους οποίους δεν θέλει να συνεργαστεί.