Δύο βασικά στελέχη της OpenAI, που ήταν υπεύθυνοι για την προστασία των χρηστών από την τεχνητή νοημοσύνη, φαίνεται πως παραιτήθηκαν. Κι οι δύο ανήκαν σε μια ομάδα, η δουλειά της οποίας, ουσιαστικά, ήταν να διασφαλίσει ότι οι άνθρωποι είναι ασφαλείς από την υπερ-νοημοσύνη της OpenAI.
Η είδηση αυτή εγείρει ερωτήματα σχετικά με το μέλλον της έρευνας για την ασφάλεια της τεχνητής νοημοσύνης και τους πιθανούς κινδύνους που εγκυμονούν οι υπερνοητικές μηχανές.
Αυξημένη ανησυχία
Ο Ilya Sutskever, συνιδρυτής και πρώην επικεφαλής επιστήμονας της OpenAI, και ο Jan Leike, ο οποίος ήταν συν-επικεφαλής της ομάδας υπερευφυΐας της εταιρείας, ανακοίνωσαν αμφότεροι την αποχώρησή τους. Η "ομάδα superalignment" εστιάζει ειδικά στη διασφάλιση ότι τα μελλοντικά συστήματα τεχνητής νοημοσύνης θα παραμείνουν ευθυγραμμισμένα με τις ανθρώπινες αξίες και στόχους.
Οι παραιτήσεις αυτές έρχονται εν μέσω μιας περιόδου αυξημένης ανησυχίας σχετικά με τους πιθανούς κινδύνους της υπερ-νοημοσύνης, της τεχνητής νοημοσύνης που ξεπερνά τις ανθρώπινες ικανότητες. Η ίδια η OpenAI αναγνωρίζει την πρόκληση, δηλώνοντας την ανάγκη για "επιστημονικές και τεχνικές ανακαλύψεις" για τον έλεγχο τέτοιων προηγμένων συστημάτων.
Ο Leike, ο οποίος εργαζόταν προηγουμένως στο Google DeepMind, είχε εκφράσει αισιοδοξία για την επίλυση του προβλήματος αυτού. Τάχθηκε υπέρ μιας προσέγγισης "ελάχιστου βιώσιμου προϊόντος", εστιάζοντας στη δημιουργία μιας επαρκώς ευθυγραμμισμένης τεχνητής νοημοσύνης που θα βοηθήσει στην περαιτέρω έρευνα και ανάπτυξη.
Ασαφείς οι λόγοι των παραιτήσεων
Οι λόγοι πίσω από τις αποχωρήσεις των Sutskever και Leike παραμένουν ασαφείς. Η OpenAI δεν έχει ακόμη απαντήσει σε αιτήματα για σχολιασμό. Ωστόσο, οι παραιτήσεις τους εγείρουν ανησυχίες σχετικά με τη δέσμευση της εταιρείας στην έρευνα για την ασφάλεια σχετικά με την AI.
Αν και είναι πολύ νωρίς για να προβλέψουμε τις μακροπρόθεσμες επιπτώσεις, η είδηση αυτή προσθέτει στη συνεχιζόμενη συζήτηση γύρω από την ανάπτυξη της υπερ-νοημοσύνης. Καθώς η τεχνητή νοημοσύνη συνεχίζει να εξελίσσεται, η ασφάλεια των εφαρμογών της παραμένει κρίσιμη προτεραιότητα.
Ακολούθησε το Esquire στο Facebook, το Twitter και το Instagram.