Τρόμο προκαλεί αποκαλυπτικό ρεπορτάζ του Reuters για το προηγμένο σύστημα τεχνητής νοημοσύνης της OpenAI. Αποτελεί μια άλλη διάσταση στο παρασκήνιο της απόλυσης του Σαμ Άλτμαν από την OpenAI.
Σύμφωνα με το Reuters, η OpenAI φέρεται ότι εργαζόταν σε ένα προηγμένο σύστημα τεχνητής νοημοσύνης. Και αυτό φέρεται ότι ήταν τόσο ισχυρό σε δυνατότητες που προκαλούσε ανησυχίες στο προσωπικό της εταιρείας.
Η αποκάλυψη για την προειδοποίηση της απειλής
Ερευνητές της OpenAI έγραψαν στο διοικητικό συμβούλιο λίγες ημέρες πριν από την απόλυση του Άλτμαν προειδοποιώντας για το μοντέλο τεχνητής νοημοσύνης: «Θα μπορούσε να απειλήσει την ανθρωπότητα».
Το μοντέλο, που ονομάζεται Q*, ήταν σε θέση να επιλύει βασικά μαθηματικά προβλήματα που δεν είχε δει ποτέ πριν! Αν και τα προβλήματα δεν απαιτούσαν προχωρημένες γνώσεις μαθηματικών, οι ερευνητές πιστεύουν ότι θα μπορούσε να επιλύσει και πολύ πιο σύνθετα.
Η ικανότητα επίλυσης μαθηματικών προβλημάτων είναι σημαντική εξέλιξη στην τεχνητή νοημοσύνη.
Στην επιστολή τους προς το διοικητικό συμβούλιο, οι ερευνητές επισήμαναν τον πιθανό κίνδυνο της τεχνητής νοημοσύνης, ανέφεραν πηγές στο Reuters χωρίς να διευκρινίσουν τις ακριβείς ανησυχίες για την ασφάλεια που σημειώνονται στην επιστολή.
Σημειώνεται ότι υπάρχει εδώ και πολύ καιρό συζήτηση μεταξύ των επιστημόνων υπολογιστών σχετικά με τον κίνδυνο που θέτουν οι εξαιρετικά ευφυείς μηχανές: Για παράδειγμα, εάν θα μπορούσαν να αποφασίσουν ότι η καταστροφή της ανθρωπότητας θα ήταν προς το συμφέρον τους.
Οι ερευνητές επισήμαναν επίσης την εργασία μιας ομάδας «επιστημόνων AI», την ύπαρξη της οποίας επιβεβαίωσαν πολλές πηγές. Η ομάδα, που σχηματίστηκε συνδυάζοντας προηγούμενες ομάδες “Code Gen” και “Math Gen”, διερευνούσε πώς να βελτιστοποιήσει τα υπάρχοντα μοντέλα AI για να βελτιώσει τη συλλογιστική τους και τελικά να εκτελέσει επιστημονική εργασία, είπε ένας από τους ανθρώπους που μίλησαν στο Reuters.
Ο Altman ηγήθηκε των προσπαθειών για να γίνει το ChatGPT μία από τις ταχύτερα αναπτυσσόμενες εφαρμογές λογισμικού στην ιστορία και άντλησε επενδύσεις – και υπολογιστικούς πόρους – απαραίτητους από τη Microsoft για να πλησιάσει το AGI.
Πιθανόν, όχι τυχαία, μία ημέρα πριν από την απόλυσή του, ο Άλτμαν σε ομιλία του είχε υπονοήσει ότι η εταιρεία πίσω από το ChatGPT είχε κάνει άλλη μια σημαντική ανακάλυψη.
«Τέσσερις φορές ως τώρα στην ιστορία του OpenAI – η πιο πρόσφατη φορά μόλις τις τελευταίες δύο εβδομάδες- είχα την ευκαιρία να βρίσκομαι στο δωμάτιο, όταν κατά κάποιο τρόπο ανασηκώνουμε το πέπλο της άγνοιας και σπρώχνουμε τα σύνορα της ανακάλυψης μπροστά. Το να το κάνω αυτό είναι η επαγγελματική τιμή μιας ζωής», είπε στη σύνοδο κορυφής της Οικονομικής Συνεργασίας Ασίας-Ειρηνικού.
Μια μέρα αργότερα, το διοικητικό συμβούλιο απέλυσε τον Άλτμαν.
Οι γραπτές αναφορές των ερευνητών προκάλεσαν αναταραχή στην OpenAI, το διοικητικό συμβούλιο της οποίας απέλυσε τον Άλτμαν την περασμένη Παρασκευή. Τον επανέφεραν το βράδυ της Τρίτης, καθώς 750 εργαζόμενοι (σχεδόν όλο το προσωπικό) είχαν απειλήσει να παραιτηθούν αν δεν επανερχόταν ο Άλτμαν.
Όπως σημειώνει ο Guardian, πολλοί εμπειρογνώμονες ανησυχούν ότι εταιρείες όπως η OpenAI κινούνται πολύ γρήγορα προς την ανάπτυξη της γενικής τεχνητής νοημοσύνης που μπορεί να εκτελέσει μια ευρεία ποικιλία εργασιών σε ανθρώπινο επίπεδο ή και ανώτερο από αυτό.
Το OpenAI ιδρύθηκε ως μη κερδοσκοπικό εγχείρημα με ένα διοικητικό συμβούλιο που διοικεί μια εμπορική θυγατρική, την οποία διευθύνει ο Άλτμαν.
Η Microsoft είναι ο μεγαλύτερος επενδυτής στην κερδοσκοπική επιχείρηση. Στο πλαίσιο της κατ’ αρχήν συμφωνίας για την επιστροφή του Άλτμαν, το OpenAI θα έχει νέο διοικητικό συμβούλιο υπό την προεδρία του Μπρετ Τέιλορ, πρώην συνδιευθυντή της εταιρείας λογισμικού Salesforce.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου