Η ElevenLabs είναι μια αμερικανική εταιρεία που αναπτύσσει λογισμικό "σύνθεσης φυσικού ήχου ομιλίας" χρησιμοποιώντας τεχνητή νοημοσύνη και deep learning. Βασικά, τα μοντέλα της μπορούν να κλωνοποιήσουν τη φωνή σου και να την κάνουν να μιλάει σε πολλές διαφορετικές γλώσσες.
Φυσικά, το εργαλείο αυτό έχει ήδη χρησιμοποιηθεί καταχρηστικά, "κλέβοντας" τις φωνές άλλων ανθρώπων και φέρνοντας την εταιρεία αμέσως στο επίκεντρο πολλών αντιπαραθέσεων.
Κινδυνεύει η φωνή σου;
Η ElevenLabs υποστήριξε ότι το νέο της μοντέλο, Multilingual v2, υπόσχεται να παράγει "συναισθηματικά πλούσιο" ήχο σε συνολικά 30 γλώσσες. Το άλλο εργαλείο που παρήγαγε είναι το VoiceLab, το οποίο επιτρέπει στους χρήστες (που πληρώνουν) να κλωνοποιήσουν μια φωνή, εισάγοντας αποσπάσματα μιας ομιλίας.
Αμέσως μετά από την κυκλοφορία αυτών των προγραμμάτων, πολλαπλασιάστηκε η κατάχρηση των φωνών δημόσιων προσώπων για την εκφορά ρατσιστικού ή άλλου βίαιου περιεχομένου. Έκτοτε, η εταιρεία δεσμεύτηκε να ενσωματώσει νέα μέτρα ασφαλείας για να διασφαλίσει ότι το λογισμικό χρησιμοποιείται μόνο για τη φωνή του εγγεγραμμένου χρήστη.
Οι χρήστες πρέπει να επαληθεύουν την ομιλία τους με ένα captcha κειμένου, το οποίο στη συνέχεια συγκρίνεται με το αρχικό δείγμα φωνής. Είναι όμως αρκετό;
Η αυγή μιας νέας εποχής
Η αίσθηση, ωστόσο, είναι ότι έχουμε εισέλθει ολοκληρωτικά σε μια νέα εποχή στην οποία η ταυτότητα και η πραγματικότητα που συνθέτουν ένα άτομο μπορούν να καταρρεύσουν και να αντιγραφούν, προκαλώντας την ανάγκη να προστατεύσουμε τον εαυτό μας με τρόπους που ήταν προηγουμένως αδιανόητοι.
Ακολούθησε το Esquire στο Facebook, το Twitter και το Instagram.