Παρασκευή 31 Μαρτίου 2023

Δραματική έκκληση για στοπ στην ανάπτυξη τεχνητής νοημοσύνης

Δραματική έκκληση για στοπ στην ανάπτυξη τεχνητής νοημοσύνης

Ελον Μασκ και 1.000 ερευνητές ζητούν να σταματήσει για έξι μήνες η εξέλιξη των συστημάτων. Κανείς δεν μπορεί να ελέγξει αξιόπιστα τις συνέπειές τους, προειδοποιούν.
Ο Έλον Μασκ και περισσότεροι από 1.000 ερευνητές και στελέχη τεχνολογίας έχουν ζητήσει μια εξάμηνη «παύση» στην ανάπτυξη προηγμένων συστημάτων τεχνητής νοημοσύνης όπως το GPT του OpenAI για να σταματήσει αυτό που αποκαλούν «επικίνδυνη» κούρσα.

Μια ανοιχτή επιστολή που δημοσιεύθηκε την Τετάρτη από το Future of Life Institute, μια μη κερδοσκοπική οργάνωση, είχε υπογραφεί από περισσότερα από 1.100 άτομα από όλο τον ακαδημαϊκό χώρο και τον κλάδο της τεχνολογίας μέσα σε λίγες ώρες από τη δημοσίευσή της.
«Τους τελευταίους μήνες είδαμε εργαστήρια τεχνητής νοημοσύνης να εγκλωβίζονται σε έναν αγώνα εκτός ελέγχου για να αναπτύξουν και να παρουσιάσουν όλο και πιο ισχυρά ψηφιακά μυαλά που κανείς —ακόμα και οι δημιουργοί τους— δεν μπορεί να καταλάβει, να προβλέψει ή να ελέγξει αξιόπιστα», ανέφερε η επιστολή.

Μεταξύ αυτών που υπογράφουν είναι οι κορυφαίοι καθηγητές τεχνητής νοημοσύνης Stuart Russell και Yoshua Bengio, οι συνιδρυτές των Apple, Pinterest και Skype, καθώς και ο ιδρυτής της start-up AI Stability AI. Το Ινστιτούτο Future of Life, το οποίο δημοσίευσε την επιστολή, έχει τον Μασκ στους μεγαλύτερους χρηματοδότες του και διευθύνεται από τον Max Tegmark, καθηγητή του Ινστιτούτου Τεχνολογίας της Μασαχουσέτης και ερευνητή τεχνητής νοημοσύνης.

«Καλούμε όλα τα εργαστήρια AI να σταματήσουν αμέσως για τουλάχιστον έξι μήνες την εκπαίδευση συστημάτων τεχνητής νοημοσύνης πιο ισχυρών από το GPT-4. Αυτή η παύση θα πρέπει να είναι δημόσια και επαληθεύσιμη και να περιλαμβάνει όλους τους βασικούς παίκτες. Εάν μια τέτοια παύση δεν μπορεί να εφαρμοστεί γρήγορα, οι κυβερνήσεις θα πρέπει να παρέμβουν και να θεσπίσουν μορατόριουμ», πρόσθεσε η ομάδα.

Η επιστολή ακολουθεί μια κούρσα πρωτοποριακών εκδόσεων τεχνητής νοημοσύνης τους τελευταίους πέντε μήνες, συμπεριλαμβανομένου του ChatGPT του OpenAI που υποστηρίζεται από τη Microsoft τον Νοέμβριο και της κυκλοφορίας αυτού του μήνα του GPT-4.

Εταιρείες όπως η Google, η Microsoft και η Adobe προσθέτουν επίσης νέα είδη δυνατοτήτων τεχνητής νοημοσύνης στις μηχανές αναζήτησης και στα εργαλεία τους, σε μια κίνηση που έχει φέρει την τεχνητή νοημοσύνη στα χέρια εκατομμυρίων καθημερινών χρηστών.

Αυτός ο επιταχυνόμενος ρυθμός ανάπτυξης και δημόσιας παρουσίασης έχει ανησυχήσει ορισμένους ερευνητές τεχνητής νοημοσύνης και τεχνολόγους για τον πιθανό αντίκτυπο στην απασχόληση, τον δημόσιο διάλογο και — τελικά — την ικανότητα της ανθρωπότητας να συμβαδίσει με τις εξελίξεις.

Η επιστολή παρότρυνε τη δημιουργία κοινών πρωτοκόλλων ασφάλειας που ελέγχονται από ανεξάρτητους εμπειρογνώμονες για να «διασφαλιστεί ότι τα συστήματα είναι ασφαλή πέρα από εύλογη αμφιβολία».

«Τα συστήματα τεχνητής νοημοσύνης με ανθρώπινη-ανταγωνιστική νοημοσύνη μπορούν να θέτουν σοβαρούς κινδύνους για την κοινωνία και την ανθρωπότητα», ανέφερε.

Ο Μασκ, ο οποίος ήταν συνιδρυτής του OpenAI αλλά αποχώρησε το 2018 και έκτοτε έγινε επικριτικός απέναντι στον οργανισμό, υπέγραψε επίσης την επιστολή. Άλλοι είναι ο συνιδρυτής της Apple, Steve Wozniak, ο συγγραφέας Yuval Noah Harari και ο πρώην υποψήφιος για την προεδρία των ΗΠΑ Andrew Yang.

Περιλαμβάνει επίσης αρκετούς μηχανικούς και ερευνητές της Microsoft, της Google, της Amazon, της Meta και του DeepMind που ανήκει στην Alphabet. Κανείς που αυτοπροσδιορίζεται ως υπάλληλος του OpenAI δεν ήταν μεταξύ των πρώτων 1.000 ατόμων που υπέγραψαν την επιστολή.

Η παρέμβαση έρχεται καθώς οι κυβερνήσεις σε όλο τον κόσμο αγωνίζονται να διαμορφώσουν μια πολιτική απάντηση στο ταχέως εξελισσόμενο πεδίο της τεχνητής νοημοσύνης.

Το Ηνωμένο Βασίλειο θα δημοσιεύσει την Τετάρτη μια Λευκή Βίβλο που θα ζητά από τις υπάρχουσες ρυθμιστικές αρχές να αναπτύξουν μια συνεπή προσέγγιση για τη χρήση της τεχνητής νοημοσύνης στους αντίστοιχους κλάδους τους, όπως και να διασφαλίσουν ότι τα συστήματα τεχνητής νοημοσύνης είναι δίκαια και διαφανή. Ωστόσο, η κυβέρνηση δεν θα παράσχει νέες εξουσίες ή νέα χρηματοδότηση στις ρυθμιστικές αρχές σε αυτό το στάδιο.

Η ΕΕ ετοιμάζει επίσης τη δική της πράξη που θα διέπει τον τρόπο χρήσης της τεχνητής νοημοσύνης στην Ευρώπη, με τις εταιρείες που παραβιάζουν τους κανόνες του μπλοκ να αντιμετωπίζουν πρόστιμα έως και 30 εκατ. ευρώ ή 6% του παγκόσμιου ετήσιου κύκλου εργασιών, όποιο ποσό είναι μεγαλύτερο.

euro2day.gr

Δεν υπάρχουν σχόλια:

Δημοσίευση σχολίου