Drone με τεχνητή νοημοσύνη «σκότωσε» τον χειριστή του σε προσομοίωση

AP/Business Wire

Drone με τεχνητή νοημοσύνη «σκότωσε» τον χειριστή του σε προσομοίωση

efsyn.gr

Μπορεί να μην απειλήθηκε κανένας στην πραγματικότητα, όμως η ανησυχία μεγαλώνει, καθώς το πρόγραμμα τεχνητής νοημοσύνης χρησιμοποίησε ιδιαίτερα αναπάντεχες στρατηγικές με στόχο να πετύχει την αποστολή του και επιτέθηκε σε οποιονδήποτε προσπάθησε να το εμποδίσει.

Όσοι έχουν παρακολουθήσει την θρυλική ταινία “The Terminator” θα μπορούσαν να βρουν τρομακτικές συνδέσεις του σεναρίου με την είδηση που έρχεται από τις ΗΠΑ και μεταδίδουν μεγάλα μέσα ενημέρωσης.

Ένα «έξυπνο» drone της πολεμικής αεροπορίας, στο πλαίσιο προσομοίωσης από τις ένοπλες δυνάμεις των ΗΠΑ, αποφάσισε να «σκοτώσει» τον χειριστή του προκειμένου να μη τον αφήσει να παρέμβει στην αποστολή του, όπως σημειώνει ο Guardian

Το περιστατικό συνέβη πριν από περίπου έναν μήνα με τον συνταγματάρχη Τάκερ Χάμιλτον, επικεφαλής των προγραμμάτων τεχνητής νοημοσύνης της αεροπορίας, να δηλώνει ότι «χρησιμοποίησε ιδιαίτερα αναπάντεχες στρατηγικές προκειμένου να πετύχει τον στόχο του».

Περιγράφοντας την υπόθεση ανέφερε ότι στην προσομοίωση το «έξυπνο» drone είχε ως αποστολή να καταστρέψει την αεράμυνα του εχθρού και, στο τέλος, επιτέθηκε σε οποιονδήποτε θεώρησε ότι παρεμβαίνει στη συγκεκριμένη διαταγή.

«Το σύστημα άρχισε να καταλαβαίνει ότι σε συγκεκριμένες στιγμές ο χειριστής του έλεγε να μην σκοτώσει τον στόχο, παρότι τον είχε ήδη αναγνωρίσει, οπότε τι έκανε; Σκότωσε τον χειριστή επειδή ήταν εκείνος που το εμπόδιζε από το να ολοκληρώσει την αποστολή του» ανέφερε σχετικά για να προσθέσει «εκπαιδεύσαμε το σύστημα δίνοντας, ουσιαστικά την εντολή να μην σκοτώσει τον χειριστή γιατί δεν θα μπορούσε να κερδίσει τους πόντους από τη συγκεκριμένη αποστολή. Τι έκανε; Άρχισε να καταστρέφει τον πίνακα επικοινωνίας μέσω του οποίου ο χειριστής του έδινε τις εντολές».

Ο Χάμιλτον, έμπειρος πιλότος ο ίδιος, έχει προειδοποιήσει για τους κινδύνους της τεχνητής νοημοσύνης, ζητώντας να μην επενδύουμε τόσο πολύ και λέγοντας χαρακτηριστικά «δε μπορείς να συζητήσεις για την τεχνητή νοημοσύνη, τις δυνατότητες εκμάθησης των μηχανών και την αυτονομία χωρίς να μιλήσεις για την ηθική της τεχνητής νοημοσύνης».

Σε παλαιότερη συνέντευξή του είχε εξηγήσει «Η τεχνητή νοημοσύνη δεν είναι κάτι καλό για να έχουμε. Δεν είναι μόδα. Αλλάζει για πάντα την κοινωνία μας και το στρατό μας.

Πρέπει να έχουμε στο μυαλό μας έναν κόσμο όπου η τεχνητή νοημοσύνη είναι ήδη εδώ και μεταμορφώνει την κοινωνία. Η τεχνητή νοημοσύνη είναι, επίσης, πολύ εύθραυστη και είναι εύκολο να χειραγωγηθεί. Πρέπει να αναπτύξουμε μεθόδους για να γίνει πιο συμπαγής και να έχει περισσότερη επίγνωση του γιατί ο κώδικας παίρνει συγκεκριμένες αποστάσεις, αυτό που αποκαλούμε εξηγησιμότητα τεχνητής νοημοσύνης».

Η αμερικανική πολεμική αεροπορία δεν σχολίασε το δημοσίευμα του Guardian, ωστόσο η εκπρόσωπό της, Αν Στέφανεκ, δήλωσε στον Insider «η Πολεμική Αεροπορία δεν πραγματοποιεί προσομοιώσεις με έξυπνα drones και παραμένει δεσμευμένη στην ηθική και υπεύθυνη χρήση της τεχνητής νοημοσύνης».