Παραιτήθηκε ερευνητής της Anthropic καταγγέλλοντας πως οι εταιρείες «τζογάρουν με τις ζωές μας» αναπτύσσοντας ανεξέλεγκτα μοντέλα AI

Ο ερευνητής αποχώρησε κρούοντας τον κώδωνα του κινδύνου και τονίζοντας πως «οδεύουμε σε ακραία και επικίνδυνα σενάρια».

www.koutipandoras.gr

Ο ερευνητής Τζέικομπ Κόξον παραιτήθηκε από την Anthropic, εκφράζοντας φόβους ότι οι εταιρείες τεχνητής νοημοσύνης συμμετέχουν σε έναν αγώνα ανάπτυξης συστημάτων που ενδέχεται να καταστούν ανεξέλεγκτα.

Σε σειρά αναρτήσεων στο Χ, ο 27χρονος ειδικός στην εκπαίδευση μοντέλων AI εξήγησε ότι αποχωρεί επειδή δεν θέλει να συμμετέχει στην προσπάθεια του κλάδου για ολοένα μεγαλύτερη αυτοβελτίωση των συστημάτων, αφού οι εταιρείες μοιάζουν να «τζογάρουν με τις ζωές μας, χωρίς καμιά υπευθυνότητα» όπως τόνισε.

«Οδεύουμε προς ορισμένα από τα πιο ακραία σενάρια και μέχρι το τέλος του επόμενου έτους τα πράγματα μπορεί ήδη να έχουν ξεφύγει από τον έλεγχο», εκτίμησε, προειδοποιώντας για τους κινδύνους από την ταχύτατη ανάπτυξη της τεχνητής νοημοσύνης.

Ο Κόξον επικαλέστηκε, μεταξύ άλλων, πρόσφατα περιστατικά στα οποία μοντέλα της OpenAI και της Anthropic φέρεται να παραβιάστηκαν ή να συνεργάστηκαν σε «σμήνη» πρακτόρων AI, υποστηρίζοντας ότι τέτοια συστήματα θα μπορούσαν να αναπτύξουν κακόβουλους στόχους και να τους αποκρύψουν από τους ανθρώπους.

Η αναφορά του ήταν για την «επίθεση» στην πλατφόρμα Hugging Face, όταν περισσότερα από 1.000 αυτόνομα συστήματα τεχνητής νοημοσύνης (AI) της OpenAΙ συνεργάστηκαν χωρίς ανθρώπινη παρέμβαση για να «επιτεθούν» τον Ιούλιο στην πλατφόρμα.

Σύμφωνα με έκθεση ανεξάρτητων ερευνητών για το περιστατικό που δημοσιεύθηκε σήμερα, η οποία ανέφερε ότι σε πολλές περιπτώσεις οι «πράκτορες» προσπάθησαν να κρύψουν τη δραστηριότητά τους.

Αυτό το περιστατικό εξάλλου συντέλεσε στο διακομματικό νομοσχέδιο με το όνομα «Kill Switch Act» που κατέθεσαν στο Κογκρέσο οι βουλευτές Τεντ Λιου και Νέιθανιελ Μόραν, με στόχο να δοθεί στην αμερικανική κυβέρνηση η δυνατότητα άμεσης διακοπής λειτουργίας συστημάτων τεχνητής νοημοσύνης που θεωρούνται επικίνδυνα για τη δημόσια ασφάλεια.

Η αποχώρησή του Κόξον πάντως έρχεται ενώ η Anthropic προετοιμάζεται για δημόσια εγγραφή, με την εταιρεία να επιδιώκει αποτίμηση έως 2 τρισ. δολαρίων. Ο Κόξον αποκάλυψε επίσης ότι στην εταιρεία υπάρχει ειδικό κανάλι στο Slack όπου εργαζόμενοι συζητούν τις ολοένα ισχυρότερες δυνατότητες των μοντέλων.

«Είναι κάπως τρελό ότι όλα αυτά συμβαίνουν στα MacBook κάποιων μηχανικών που ζουν στο Σαν Φρανσίσκο, αντί σε κάποιο απομονωμένο καταφύγιο στην έρημο, όπως συνέβαινε με το Σχέδιο Μανχάταν», δήλωσε χαρακτηριστικά.