Και δημιούργησε μια νέα ομάδα ειδικά γι’ αυτόν το σκοπό
Δεν είναι λίγοι όσοι τους τελευταίους έξι μήνες κρούουν τον κώδωνα του κινδύνου σχετικά με τις δυνατότητες που ενδέχεται να αποκτήσει στο σύντομο μέλλον η τεχνολογία της τεχνητής νοημοσύνης, που κανείς δεν εγγυάται ότι δεν θα οδηγήσει σε ανεξέλεγκτες καταστάσεις την ανθρωπότητα αν δεν περιοριστεί δραστικά.
Την εν λόγω ανησυχία μοιάζει να συμμερίζεται ακόμη και η OpenAI, η ερευνητική εταιρία που ευθύνεται για προγράμματα όπως το επιτυχημένο ChatGPT και το DALL-E, που χρησιμοποιούνται ευρέως σήμερα από το κοινό. Για τον λόγο αυτό, η εταιρεία ανακοίνωσε την ίδρυση μιας νέα ομάδας που θα ασχολείται αποκλειστικά με τη διαχείριση των κινδύνων που ελλοχεύουν από την ανάπτυξη της τεχνολογίας AI στο μέλλον.
Στόχος της OpenAI είναι να περιορίσει τις υπερ-ευφυείς AI που ενδέχεται να κατασκευαστούν τα επόμενα χρόνια, προτού αυτές γίνουν ανεξέλεγκτες.
Η επίσημη ανακοίνωση στην ιστοσελίδα της OpenAI αναφέρει:
«Αυτή τη στιγμή, δεν έχουμε λύση για την καθοδήγηση ή τον έλεγχο μιας δυνητικά υπερ-ευφυούς τεχνητής νοημοσύνης και την αποτροπή της από το να αποστατήσει. Οι τρέχουσες τεχνικές μας για την ευθυγράμμιση της AI, όπως η ενισχυτική μάθηση από τo ανθρώπινo feedback, βασίζονται στην ικανότητα των ανθρώπων να επιβλέπουν την AI. Αλλά οι άνθρωποι δεν θα είναι σε θέση να επιβλέπουν αξιόπιστα συστήματα πολύ πιο έξυπνα από εμάς, και έτσι οι τρέχουσες τεχνικές ευθυγράμμισης δεν θα μπορούν να κλιμακωθούν στην υπερ-νοημοσύνη. Χρειαζόμαστε νέες επιστημονικές και τεχνικές ανακαλύψεις.
Ο στόχος μας είναι να δημιουργήσουμε έναν ερευνητή αυτοματοποιημένης ευθυγράμμισης περίπου ανθρώπινου επιπέδου. Στη συνέχεια μπορούμε να χρησιμοποιήσουμε τεράστιες ποσότητες υπολογιστών για να κλιμακώσουμε τις προσπάθειές μας και να ευθυγραμμίσουμε επαναληπτικά την υπερ-νοημοσύνη».
Επικεφαλής της νέας ομάδας περιορισμού θα είναι οι Ilya Sutskever και Jan Leik, με την OpenAI να δηλώνει πως το 20% της υπολογιστικής ισχύος που διαθέτει στην παρούσα φάση θα δαπανηθεί προς αυτή την κατεύθυνση.
Μάθετε περισσότερα για το εγχείρημα μέσα από το παρακάτω tweet.
