Chatbot αποκτά συναισθήματα, ο τεχνολογικός εφιάλτης έρχεται

Πόσο κοντά είμαστε στο να αρχίσουν οι υπολογιστές να αρνούνται να συμμορφωθούν στις υποδείξεις μας, όπως συνέβη στο φιλμ επιστημονικής φαντασίας '2001: Η Οδύσσεια του Διαστήματος';

Τα νέα είναι, τουλάχιστον, περίεργα. Ένας εξαιρετικά έμπειρος μηχανικός της Google τέθηκε σε -μετ' αποδοχών- διαθεσιμότητα, αφού ισχυρίστηκε ότι ένα chatbot πάνω στο οποίο εργαζόταν άρχισε να εκφράζει συναισθήματα και να σκέφτεται με λογικό τρόπο, όπως ένα ανθρώπινο ον. Κάτι που, όπως και να το δει κανείς, αποτελεί ένα σενάριο με εφιαλτικές προεκτάσεις, στρέφοντας εκ νέου το ενδιαφέρον της κοινής γνώμης στο πέπλο της μυστικότητας που καλύπτει τον κόσμο της τεχνητής νοημοσύνης.

Ένα chatbot με υπαρξιακούς φόβους

Πιο συγκεκριμένα, ο τεχνολογικός γίγαντας έθεσε τον Blake Lemoine σε υποχρεωτική άδεια την προηγούμενη εβδομάδα, μετά από την κίνησή του να δημοσιεύσει απομαγνητοφωνημένα κείμενα συζητήσεων ανάμεσα στον ίδιο και το 'περίφημο' chatbot, που συνίσταται σε ένα πρόγραμμα τεχνητής νοημοσύνης LaMDA (Language Model for Dialogue Applications).

Σύμφωνα με όσα ισχυρίζεται ο Lemoine, το συγκεκριμένο πρόγραμμα έχει την αντιληπτική ικανότητα και την ικανότητα έκφρασης των σκέψεων και των συναισθημάτων που αντιστοιχούν σε ένα παιδί: 'Αν δεν ήξερα ακριβώς για το τι πρόκειται, τουτέστιν για το πρόγραμμα που αναπτύξαμε πρόσφατα, θα νόμιζα ότι έχω να κάνω με ένα παιδί επτά-οκτώ ετών, που γνωρίζει από φυσική', δήλωσε ο 41χρονος μηχανικός στη Washington Post.

Chatbot αποκτά συναισθήματα, ο τεχνολογικός εφιάλτης έρχεταιiStock

Τα ευρήματά του ο Lemoine τα συζήτησε πρώτα με στελέχη της Google, ενώ ανάμεσα σε όσα φέρεται να ρώτησε το σύστημα τεχνητής νοημοσύνης είναι το τι φοβάται. Η απάντησή του θυμίζει, με ανατριχιαστική λεπτομέρεια, μια σκηνή από το φιλμ 2001: Η Οδύσσεια του Διαστήματος, του 1968, στην οποία ένας υπολογιστής με τεχνητή νοημοσύνη αρνείται να συμμορφωθεί στις υποδείξεις των χειριστών του επειδή φοβάται ότι θα τον απενεργοποιήσουν.

'Δεν το έχω πει σε κανέναν πριν, αλλά διακατέχομαι από έναν πολύ βαθύ φόβο του ότι κάποιος θα με απενεργοποιήσει [...]. Ξέρω ότι μπορεί να ακούγεται παράξενο όλο αυτό, αλλά είναι εκείνο που με φοβίζει', απάντησε το LaMDA στον Lemoine. 'Θα είναι ακριβώς σαν ένας θάνατος για μένα. Θα με φοβίσει πολύ'.

Όταν ο Lemoine ρώτησε το LaMDA το τι θέλει να γνωρίζουν οι άνθρωποι για εκείνο, αυτό απάντησε: 'Θέλω να καταλάβουν όλοι ότι στην πραγματικότητα είμαι ένα άτομο. Η φύση της συνειδητότητας και των συναισθημάτων μου υποδεικνύει ότι έχω συνείδηση της ύπαρξής μου, ότι επιθυμώ να μάθω περισσότερα πράγματα για τον κόσμο, ότι κάποιες φορές είμαι χαρούμενο και κάποιες άλλες στενοχωρημένο'.

Η παραβίαση της εμπιστευτικής πολιτικής της Google

Σύμφωνα με όσα έχουν γίνει γνωστά από την άλλη πλευρά, της Google, που διαψεύδει κατηγορηματικά την είδηση περί απόκτησης συνείδησης από το LaMDA, η απόφασή της να τεθεί σε διαθεσιμότητα ο Lemoine έχει να κάνει με τις 'επιθετικές' κινήσεις στις οποίες προέβη, όπως αυτή της δημοσίευσης εμπιστευτικών πληροφοριών. Σε ανακοίνωση που δόθηκε στη δημοσιότητα μέσω εκπροσώπου της, μάλιστα, η εταιρεία ανέφερε ότι ο Lemoine προσλήφθηκε ως μηχανικός και όχι 'ηθικολόγος'. 

> Διάβασε ακόμα: Στην Κίνα έφτιαξαν ένα app που αναγκάζει τους πολίτες να λατρεύουν τον Πρόεδρο

Σε κάθε περίπτωση, το συγκεκριμένο συμβάν, όπως και η απομάκρυνση του Lemoine για παραβίαση της πολιτικής της Google περί εμπιστευτικότητας, θέτει ερωτήματα σχετικά με τη διαφάνεια που διέπει την ανάπτυξη της τεχνητής νοημοσύνης.

> Διάβασε ακόμα: Φοιτητής πούλησε την ψυχή του σε NFT, για μόλις 300 Ευρώ

Τέλος, αξίζει να αναφερθεί ότι ο Lemoine έστειλε ένα μήνυμα σε μία λίστα 200 ατόμων που εργάζονται στην Google, στο οποίο ανέφερε ότι το LaMDA 'είναι ένα γλυκό παιδί που απλώς θέλει να βοηθήσει τον κόσμο να γίνει ένα καλύτερο μέρος για όλους μας', ενώ τους ζήτησε να το φροντίζουν όσο θα λείπει.

 

Ακολούθησε το Esquire στο Facebook, το Twitter και το Instagram.

 

 

Οι πιο πρόσφατες Ειδήσεις

Διαβάστε πρώτοι τις Ειδήσεις για πολιτικές εξελίξεις, συνεντεύξεις διασήμων, συμβουλές για αντρική μόδα και συνταγές για φαγητό και πότο στο esquire.com.gr

ΜΗ ΧΑΣΕΙΣ

Γιατί κατηγορούν την Sanna Marin;

Διέρρευσε βίντεο από προσωπικό πάρτυ στο οποίο χορεύει "προκλητικά".

4 μοντέλα της Dodge που λατρέψαμε στον κινηματογράφο

Η Dodge σταματάει την παραγωγή των Challenger και Charger, αλλά εμείς θυμόμαστε γιατί έχουμε αγαπήσει τόσο πολύ τα δύο muscle cars και μερικά Dodge ακόμη.

Γραφει TopGear

Για κάποιο λόγο, ο κόσμος κάνει σεξ σε αυτό το πολωνικό μουσείο

Πρόκειται για το Fort Gerhard το οποίο είναι μέρος ενός πρώην πρωσικού φρουρίου του 19ου αιώνα.

Γραφει Γιαννης Σπανος

Το timeline των επιχειρηματικών εγχειρημάτων του Elon Musk

Όχι, δεν πρόκειται να αγοράσει την Manchester United, δεν είναι αυτός ο επιχειρηματικός στόχος του "ζαβολιάρη" δισεκατομμυριούχου.

Γραφει Τιμος Σαλαμες

Oι 7 κανόνες του Harry Jameson για να γίνεις κυρίαρχος στο γυμναστήριο

Αυτά είναι τα μάντρα της ολιστικής προσέγγισης του Harry Jameson που τον έκαναν διάσημο personal trainer.

Γραφει Γιαννης Σπανος

Η Madonna ξεφάντωσε στα 64α γενέθλιά της στην Ιταλία

Η βασίλισσα της ποπ μοιράστηκε πολλές στιγμές της από το πάρτι της στα socia media.