Fake text, μία νέα απειλή (;) για τη δημοκρατία

Στην εποχή των fake news, ένα καινούργιο λογισμικό είναι ικανό να λειτουργήσει ως πυρηνική βόμβα ενάντια στη σωστή ενημέρωση.

Βρισκόμαστε ελάχιστες μέρες πριν τις βουλευτικές εκλογές της 7ης Ιουλίου. Λίγο πριν από μία πολιτική αναμέτρηση όπου, μέχρι στιγμής, η απάθεια και η πιθανή αποχή από τις κάλπες μοιάζουν να είναι οι βασικοί πρωταγωνιστές, στο ελληνικό ίντερνετ τα fake news συνεχίζουν να κάνουν πάρτι. Για το πόσο επικίνδυνα είναι τα hoaxes και οι παρόμοιες τακτικές την προεκλογική περίοδο, αρκεί να ρίξουμε μία ματιά στις αμερικανικές εκλογές του 2016· όταν, δηλαδή, ο Donald Trump έπιασε στον ύπνο τα κοιμισμένα παραδοσιακά μέσα και την αλαζονική τότε ηγεσία του Δημοκρατικού Κόμματος. Κι όμως, τα fakes news αποτέλεσαν ένα πολύ βασικό εργαλείο για την απρόσμενη νίκη του σημερινού Πλανητάρχη.

Την ίδια ώρα, όμως, που η συζήτηση για την επικινδυνότητα τους φουντώνει όσο παράλληλα αυξάνεται και η χρήση τους από τα παγκόσμια media, οι τεχνολογικές εξελίξεις τρέχουν. Αν, μέχρι σήμερα, κάναμε λόγο για fake news (ειδήσεις δηλαδή που κατασκευάζονται από ανθρώπους), φαίνεται ότι ήρθε η εποχή στην κουβέντα να μπουν και τα fake texts (κείμενα που κατασκευάζονται από ειδικά λογισμικά). Τι ακριβώς είναι πάλι αυτό; Μοιάζει με μία τεχνολογία βγαλμένη από δυστοπικό μυθιστόρημα επιστημονικής φαντασίας, είναι όμως πέρα για πέρα αληθινή.

Fake text, μία νέα απειλή (;) για τη δημοκρατία

Το όνομα του είναι GPT-2, είναι ικανό να γράφει ολόκληρες παραγράφους με την προϋπόθεση ότι κάποιος το τροφοδοτεί με μία πρόταση που λειτουργεί ως κεντρική ιδέα, η κατανόησή του επί των κειμένων είναι τόσο ισχυρή ώστε αν του δοθεί μία φράση του Shakespeare μπορεί να μιμηθεί άριστα τον μεγάλο Άγγλο δραματουργό, έχει εκπαιδευτεί μέσα από την τεχνική που ονομάζεται language modeling παρακολουθώντας εκατομμύρια άρθρα πρωινής ειδησεογραφίας κι έτσι σε συνδυασμό με τους πολύ επιτυχημένους αλγόριθμους που χρησιμοποιεί είναι ουσιαστικά πανίσχυρο. Σε αντίθεση με όλες τις προηγούμενες προσπάθειες, το GPT-2 γράφει μακροσκελή κείμενα που είναι πλήρως κατανοητά.

Το GPT-2 παράγει τόσο καλογραμμένα κείμενα που δύσκολα μπορεί να αντιληφθεί κανείς ότι δεν προέρχονται από χέρι αρθρογράφου.

Η ιστορία των bots δεν είναι κάτι που ξεκίνησε τώρα. Οι πρώτες προσπάθειες είχαν αρχίσει ήδη από τη δεκαετία του 1960, όταν το λογισμικό ELIZA (το αρχετυπικό chatbot) του Joseph Weizenbaum είχε προγραμματιστεί για να δίνει στερεοτυπικές απαντήσεις ψυχιάτρου στους ανθρώπους που της απηύθυναν τον λόγο. Ο δημιουργός του ήθελε να δείξει το πόσο επιφανειακή είναι η σχέση των ανθρώπων με τις μηχανές. Τελικά, εντυπωσιάστηκε κι ο ίδιος όταν η γραμματέας του έλεγε πολλές φορές ότι θέλει να μείνει μόνη της με την ΕLIZA για να τα πουν. Φυσικά, από τότε μέχρι σήμερα, έχει κυλήσει πολύ νερό στο αυλάκι της τεχνολογίας.

Αν τα fake news έχουν εκτροχιάσει την ενημέρωση, τι μπορεί να προκαλέσουν τα fake texts;

Αν όμως μέχρι πριν λίγο καιρό το ανθρώπινο μάτι μπορούσε να διακρίνει εύκολα ένα botακι, το GPT-2 φαίνεται ότι πηγαίνει ένα βήμα παρακάτω: οι πρώτες αναφορές κάνουν λόγο για καλογραμμένα κείμενα που δύσκολα μπορεί να αντιληφθεί κανείς ότι δεν προέρχονται από χέρι αρθρογράφου. Πριν, βέβαια, χτυπήσουν οι καμπάνες του συναγερμού για το πόσο επικίνδυνο μπορεί να είναι αυτό, οι ίδιοι οι δημιουργοί του φρόντισαν ευτυχώς να βάλουν κάποιους περιορισμούς. Η OpenAI, μη κερδοσκοπική εταιρεία με χρηματοδότηση από τον Ελον Μusk, έχει δηλώσει ότι δεν πρόκειται να λανσάρει την ολοκληρωμένη έκδοση του λογισμικού αν δεν είναι πρώτα απόλυτα σίγουρη πως δεν πρόκειται να χρησιμοποιηθεί για σκοτεινούς σκοπούς.

Κάπου εδώ, βέβαια, είναι που εγείρεται και το βασικότερο ερώτημα: φταίει η τεχνολογία ή φταίνε οι άνθρωποι για τον τρόπο που την χρησιμοποιούν; Σχεδόν πάντα, το λάθος βρίσκεται στο ανθρώπινο γήπεδο. Δεν φταίει το μέσο αλλά η χρήση του. Φυσικά, αυτό δεν σημαίνει ότι δεν υπάρχουν τεχνολογίες που μπορούν να αποβούν μοιραίες· αρκεί να δει κανείς το Chernobyl του HBO για να το διαπιστώσει. Στην περίπτωση τώρα του GPT-2, ο κίνδυνος που ελλοχεύει είναι εκείνος της σωστής ενημέρωσης, η οποία αποτελεί βασικό πυλώνα για τη διεξαγωγή μίας υγιούς δημόσιας συζήτησης που με τη σειρά της αποτελεί τη βάση της δημοκρατίας. Έτσι, αν σήμερα τα fake news έχουν εκτροχιάσει σε τεράστιο βαθμό την ενημέρωση, τι μπορεί να συμβεί με τα fake texts;

Είναι εύκολο να κατηγορήσουμε τις νέες τεχνολογίες για καινά δαιμόνια ενώ παράλληλα τους φορτώνουμε όλες μας τις αμαρτίες σα να είναι αποδιοπομπαίοι τράγοι. Άλλωστε, όπως είναι γνωστό, τα fake news κατασκευάζονται από ανθρώπινα χέρια και διαβάζονται από ανθρώπινα μάτια με το μερίδιο ευθύνης να βαραίνει τον πομπό χωρίς όμως ο δέκτης να είναι άμοιρος ευθυνών (σ.σ: αναγνώστες είμαστε όλοι, ακόμη κι όσοι εργαζόμαστε στα media). Η ευκολία με την οποία τα καταπίνουμε, πολλές φορές αμάσητα, προκαλεί πραγματική εντύπωση. Οι περισσότεροι, αν όχι όλοι οι αναγνώστες, αντιλαμβανόμαστε την τοξικότητά τους. Είναι σαν να υπάρχει πινακίδα που να αναφέρει ότι τα νερά της παραλίας είναι μολυσμένα, κι όμως εμείς να βουτάμε σε αυτά με ανυπομονησία.

Πώς, άραγε, μπορεί να είναι ένα μέλλον που δεν θα χρειάζονται καν πληρωμένοι αρθρογράφοι για τη μαζική προπαγάνδα αλλά θα αρκεί ένα λογισμικό;

Το πρόβλημα, τελικά, είναι ότι την ίδια στιγμή που η παγκόσμια κοινότητα δείχνει αδύναμη να διαχειριστεί με επιτυχία το ζήτημα των fake news (υπάρχουν αναφορές στην Ασία, για fakes news που οδήγησαν σε πογκρόμ και μαζικές δολοφονίες με βάση το θρησκευτικό και φυλετικό μήκος), η τεχνολογία -όπως οφείλει- προχωρά ακάθεκτη. Δυστυχώς, σε αυτό το ρευστό τοπίο του ιντερνετικού χυλού που σε πολλές βαθμίδες ακόμα δεν έχουμε αντιληφθεί τι μας βρήκε, δεν είναι καθόλου απίθανο η τεχνολογία των fake texts να λειτουργήσει ως πυρηνική βόμβα. Πώς, άραγε, μπορεί να είναι ένα μέλλον που δεν θα χρειάζονται καν πληρωμένοι αρθρογράφοι για τη μαζική προπαγάνδα αλλά θα αρκεί ένα λογισμικό; Το τοπίο κάνει ακόμα και το 1984 του George Orwell να μοιάζει με μία βόλτα στο πάρκο.

Φωτογραφίες © Getty Images

Οι πιο πρόσφατες Ειδήσεις

Διαβάστε πρώτοι τις Ειδήσεις για πολιτικές εξελίξεις, συνεντεύξεις διασήμων, συμβουλές για αντρική μόδα και συνταγές για φαγητό και πότο στο esquire.com.gr