Τα ψηφιακά τείχη της Ευρώπης-Φρούριο

Τα ψηφιακά τείχη της Ευρώπης-Φρούριο

Κώστας Ζαφειρόπουλος, Ιωάννα Λουλούδη, Νίκος Μορφονιός

H Τεχνητή Νοημοσύνη και τα αλγοριθμικά συστήματα ψηφιακών ελέγχων στο νέο καθεστώς ελέγχου κινητικότητας στην Ε.Ε. Αυτοματοποιημένες αποφάσεις υψηλού ρίσκου για ανθρώπινες ζωές, μια αναδυόμενη αρρύθμιστη αγορά πολλών δισεκατομμυρίων ευρώ, με δυστοπικές «έξυπνες» εφαρμογές.

Στα τέλη Ιουνίου 2020, ο Robert Williams, ένας Αφροαμερικανός κάτοικος του Ντιτρόιτ, συνελήφθη στην είσοδο του σπιτιού του, μπροστά στις δύο ανήλικες κόρες του, χωρίς κανείς να μπορεί να του αναφέρει τον λόγο. Στο αστυνομικό τμήμα ενημερώθηκε πως θεωρείται ύποπτος για τη ληστεία ενός καταστήματος το 2018, καθώς το πρόσωπό του ταυτοποιήθηκε με ένα απόσπασμα από την κάμερα ασφαλείας του καταστήματος. Η ταυτοποίηση έγινε με βάση μια παλιά φωτογραφία από δίπλωμα οδήγησης. Επειτα από τριάντα ώρες κράτησης, ο Robert Williams αφέθηκε τελικά ελεύθερος. Η κυνική ομολογία των αστυνομικών του Ντιτρόιτ ήταν αφοπλιστική: «Ο υπολογιστής μάλλον έκανε λάθος».

Ανάλογο περιστατικό συνέβη τον Ιούνιο του 2019 στον Μichael Oliver, επίσης Αφροαμερικανό κάτοικο του Ντιτρόιτ, που συνελήφθη λόγω υποτιθέμενης ταυτοποίησης του προσώπου του από ένα βίντεο μιας κάμερας ασφαλείας. Οδηγήθηκε σε δίκη, όπου και τελικά αθωώθηκε τρεις μήνες μετά τη σύλληψή του.

Αντίστοιχα, σε μια δοκιμαστική μελέτη του λογισμικού «Rekognition» της Amazon, το πρόγραμμα ταυτοποίησε λανθασμένα 28 μέλη του Κογκρέσου (!) με άτομα που είχαν συλληφθεί στο παρελθόν για κάποιο έγκλημα. Οι λάθος ταυτοποιήσεις αφορούσαν συντριπτικά μαύρους και λατίνους. Μη βιαστεί κανείς να θεωρήσει πως αυτά συμβαίνουν μόνο στις ΗΠΑ.

Εδώ και μερικά χρόνια η Ε.Ε., στο πλαίσιο μιας νέας αρχιτεκτονικής επιτήρησης των συνόρων και ελέγχου της κινητικότητας, έχει εισαγάγει μια σειρά από συστήματα καταγραφής και παρακολούθησης των πολιτών που κινούνται στον ευρωπαϊκό χώρο. Σε αυτή την κατεύθυνση η Ε.Ε. χρησιμοποιεί διαφορετικούς μηχανισμούς χρηματοδότησης για έρευνα και ανάπτυξη, ρίχνοντας ολοένα και περισσότερο βάρος σε τεχνολογίες τεχνητής νοημοσύνης. Για την τρέχουσα περίοδο 2021-2027 το πρόγραμμα «Horizon Europe» έχει συνολικό προϋπολογισμό 95,5 δισ. ευρώ, εστιάζοντας ιδιαίτερα σε ζητήματα «ασφάλειας».

Τεχνολογίες όπως η αυτοματοποιημένη λήψη αποφάσεων, τα βιομετρικά δεδομένα, οι θερμικές κάμερες και τα μη επανδρωμένα drones ελέγχουν όλο και περισσότερο κατ’ αρχάς τη μετανάστευση και επηρεάζουν εκατομμύρια ανθρώπους εν κινήσει. Σύμφωνα με τον ανεξάρτητο οργανισμό TNI (Border War Series), η ετήσια ανάπτυξη της αγοράς συνοριακής ασφάλειας κυμαίνεται μεταξύ 7,2% και 8,6%, φτάνοντας συνολικά τα 65-68 δισ. δολάρια ώς το 2025.

Η μεγαλύτερη επέκταση σημειώνεται στην παγκόσμια αγορά Βιομετρικών Δεδομένων και Τεχνητής Νοημοσύνης (AI) που θα διπλασιάσει τον τζίρο της από 33 δισ. δολάρια το 2019 σε 65,3 δισεκατομμύρια δολάρια ώς το 2024. Στην Ευρώπη, σημαντικό μέρος της αντίστοιχης χρηματοδότησης κατευθύνεται στην ενίσχυση των δυνατοτήτων του συστήματος eu-LISA (Ευρωπαϊκός Οργανισμός για τη Λειτουργική Διαχείριση Συστημάτων Μεγάλης Κλίμακας) που αναμένεται να παίξει κομβικό ρόλο στη διαχείριση και εφαρμογή της διαλειτουργικότητας των βάσεων δεδομένων για τον έλεγχο της κινητικότητας και της ασφάλειας.

Το ολιγοπώλιο της επιτήρησης

Ο Chris Jones, εκτελεστικός διευθυντής του μη κερδοσκοπικού οργανισμού Statewatch, εξηγεί ότι «τα πρότζεκτ του eu-LISA εκτελούνται συνήθως από κοινοπραξίες ιδιωτικών εταιρειών, δημοσίων οργανισμών και πανεπιστημίων. Οι ιδιωτικές εταιρείες λαμβάνουν εμφανώς τα μεγαλύτερα ποσά, πολύ περισσότερα από τους δημόσιους φορείς». Σε πρόσφατη μελέτη του Statewatch (Funds for Fortress Europe: spending by Frontex and eu-LISA, Ιανουάριος 2022) τονίζεται ότι για την ανάπτυξη και ενίσχυση του eu-LISA κατευθύνθηκαν την περίοδο 2014-2020 σε ιδιώτες εργολάβους περίπου 1,5 δισ. ευρώ, με τη μεγαλύτερη αύξηση να σημειώνεται μετά το 2017 και την κορύφωση της προσφυγικής κρίσης.

Από τα στοιχεία που συνέλεξε το Statewatch προκύπτει και συνεργασία –συνήθως μέσω κοινοπραξιών– στην επέκταση του συστήματος eu-LISA με εταιρείες ελληνικών συμφερόντων, όπως η Unisystems SA (ανήκει στον όμιλο Quest του πρώην προέδρου του Συνδέσμου Ελλήνων Βιομηχάνων Θ. Φέσσα), που υπέγραψε συμβόλαιο 45 εκατ. ευρώ το 2019, η European Dynamics SA (του Κων/νου Βελέντζα), η οποία συμμετέχει σε συμβόλαιο 187 εκατ. ευρώ που απονεμήθηκε το 2020, αλλά και η Intrasoft International SA με έδρα το Λουξεμβούργο (μέχρι πρότινος συμφερόντων Κόκκαλη), που συμμετέχει με πέντε ακόμη εταιρείες σε έργο ύψους 187 εκατ. ευρώ το 2020.

Οι σχέσεις του eu-LISA με τη βιομηχανία φαίνεται και από τη συχνή διεξαγωγή κοινών εκδηλώσεων, όπως το «Industry Roundtable» («Στρογγυλή Τράπεζα με τη Βιομηχανία»), που θα διεξαχθεί στις 16 Ιουνίου 2022 στο Στρασβούργο. Πρόκειται για την 15η διαδοχική ανάλογη συνάντηση.

«Υπάρχουν εκτενείς, μακροχρόνιες και πολύ μυστικές διαπραγματεύσεις μεταξύ κρατών-μελών και ευρωβουλευτών όποτε θέλουν να αλλάξουν κάτι στις βάσεις δεδομένων. Ομως δεν γνωρίζουμε ποια είναι η πραγματική επιρροή των εταιρειών που λειτουργούν αυτά τα συστήματα», λέει ο Chris Jones του Statewatch. Το ίδιο άγνωστο παραμένει και το περιεχόμενο των συμβολαίων που υπογράφονται μεταξύ των κοινοπραξιών και του eu-LISA, αφού αυτό δεν δημοσιεύεται.

Τα νέα σύνορα της τεχνητής νοημοσύνης και οι πιέσεις στην Ε.Ε.

Τον Απρίλιο του 2021, η Ευρωπαϊκή Επιτροπή δημοσίευσε το πολυαναμενόμενο σχέδιο κανονισμού για την Τεχνητή Νοημοσύνη (ΑΙ ACT). Πρόκειται για ένα εξαιρετικά σημαντικό νομοθέτημα το οποίο θα αποτελέσει –μεταξύ άλλων– εξειδίκευση της νομοθεσίας για την προστασία δεδομένων (οδηγία 680/2016). Σημαντικές είναι ήδη οι πιέσεις που ασκούνται από τις ιδιωτικές εταιρείες και τους φορείς που δραστηριοποιούνται στον τομέα μέχρι να κατατεθεί στην τελική του μορφή το νομοσχέδιο στο Ευρωκοινοβούλιο.

Το ΜΙΙR διερεύνησε τα αρχεία των επίσημων συναντήσεων της προέδρου της Ευρωπαϊκής Επιτροπής, Ούρσουλα φον ντερ Λάιεν, της επιτρόπου Μαργκρέιτε Βεστάγκερ (A Europe Fit for the Digital Age), του Τιερί Μπρετόν (Internal Market) και των επιτελείων τους από τον Δεκέμβριο του 2019 μέχρι τον Μάρτιο του 2022 σε θέματα που αφορούν την τεχνητή νοημοσύνη και την ψηφιακή πολιτική.

Προέκυψε πως τουλάχιστον 14 οργανισμοί, ιδιωτικές εταιρείες-κολοσσοί και κονσόρτσιουμ εταιρειών που σχετίζονται με τον τομέα της ασφάλειας και της άμυνας συναντήθηκαν με βασικούς εκπροσώπους της Ευρωπαϊκής Επιτροπής 71 φορές μέσα σε 28 μήνες για να συζητήσουν ζητήματα που σχετίζονται με την ψηφιακή πολιτική και την Τεχνητή Νοημοσύνη. Τις περισσότερες συναντήσεις με τους επιτρόπους είχε η Digital Europe, μια οργάνωση που εκπροσωπεί 78 εταιρικά μέλη, συμπεριλαμβανομένων μεγάλων εταιρειών άμυνας και ασφάλειας όπως η Accenture, η Airbus και η Atos.

iBorderCtrl & Robo-dogs σε δράση

«Γίνεται μεγάλη προσπάθεια από τους θεσμούς της Ε.Ε. και τα κράτη-μέλη να αυξήσουν τον αριθμό των απελάσεων. Η Ε.Ε. έριξε χρήμα και πόρους και αυτές τις βάσεις δεδομένων για να πει στην ουσία “θέλουμε να βοηθήσουμε την απομάκρυνση αυτών των ανθρώπων από ευρωπαϊκό έδαφος”», επισημαίνει ο Chris Jones του Statewatch. Δεν είναι μόνο η δημιουργία προφίλ που προβληματίζει όσους ασκούν κριτική στα σχέδια της Ε.Ε., αλλά και η ποιότητα των δεδομένων στα οποία αυτή η διαδικασία βασίζεται. «Μοιάζει με ένα “μαύρο κουτί”, που δεν ξέρουμε ακριβώς τι έχει μέσα», τονίζει η ειδικευμένη στο προσφυγικό δίκαιο δικηγόρος και ανθρωπολόγος Petra Molnar, η οποία εστιάζει στο υψηλό ρίσκο που ενέχει ο αυτοματισμός και η έλλειψη του ανθρώπινου παράγοντα στη λήψη αποφάσεων, όταν αυτές καθορίζουν ανθρώπινες ζωές.

■Τα σημαντικότερα ερευνητικά προγράμματα συνοριακών ελέγχων που χρηματοδοτήθηκαν στην Ε.Ε. τα τελευταία χρόνια

iBorderCtrl (Οι «έξυπνοι» ανιχνευτές ψεύδους) - Πρόκειται για έναν «ανιχνευτή ψεύδους», που δοκιμάστηκε στην Ουγγαρία, στην Ελλάδα και στη Λετονία και περιλάμβανε τη χρήση ενός «εικονικού συνοροφύλακα», εξατομικευμένου για το φύλο, την εθνικότητα και τη γλώσσα του ταξιδιώτη. Ενας φύλακας που κάνει ερωτήσεις μέσω ψηφιακής κάμερας. Το έργο χρηματοδοτήθηκε με 4,5 εκατομμύρια ευρώ από το πρόγραμμα «Horizon 2020» και δέχτηκε σφοδρή κριτική ως επικίνδυνο και ψευδοεπιστημονικό («Sci-fi surveillance: Europe’s secretive push into biometric technology» - «The Guardian», 10.12.2020). Στις αρχές Ιουλίου του 2019 στις εγκαταστάσεις της ΤΡΑΙΝΟΣΕ σε ειδικά διαμορφωμένο χώρο του Κέντρου Μελετών Ασφαλείας στην Αθήνα, εφαρμόστηκε σε συνθήκες προσομοίωσης. Στις 2 Φεβρουαρίου 2021 το Ευρωπαϊκό Δικαστήριο εκδίκασε αγωγή που ασκήθηκε από τον ευρωβουλευτή και ακτιβιστή Patrick Breyer (Κόμμα Πειρατών) κατά του απορρήτου του συγκεκριμένου ερευνητικού προγράμματος, το οποίο χαρακτήρισε ψευδοεπιστημονικό και οργουελικό.

ROBORDER (Ρομποτικές πλατφόρμες) - Στοχεύει στην ανάπτυξη ενός αυτόνομου συστήματος επιτήρησης συνόρων με τη χρήση μη επανδρωμένων ρομπότ συμπεριλαμβανομένων εναέριων, θαλάσσιων, υποβρύχιων και επίγειων οχημάτων. Το σύνολο της ρομποτικής πλατφόρμας ενσωματώνει πολυτροπικούς αισθητήρες σε ένα ενιαίο διαλειτουργικό δίκτυο. Από τις 28 Ιουνίου έως και την 1η Ιουλίου 2021 πραγματοποιήθηκε στην Ελλάδα η τελική πιλοτική δοκιμή του προγράμματος, στο οποίο συμμετέχει και το ελληνικό υπουργείο Εθνικής Αμυνας.

FOLDOUT - To ερευνητικό πρόγραμμα «Foldout» δεν κρύβει τους σκοπούς του: «Τα τελευταία χρόνια η παράτυπη μετανάστευση έχει δραματικά αυξηθεί και δεν είναι πια διαχειρίσιμη με τα υφιστάμενα συστήματα». Βασική ιδέα του προγράμματος, που δοκιμάζεται πιλοτικά στη Βουλγαρία και παρουσιάζεται σε Φινλανδία, Ελλάδα και τη Γαλλική Γουινέα, είναι η τοποθέτηση αισθητήρων κίνησης σε χερσαία τμήματα των συνόρων όπου, λόγω μορφολογίας του εδάφους, είναι δύσκολος ο εντοπισμός κάποιας παράτυπης διάσχισης. Με κάθε ύποπτη κίνηση, ανθρώπου ή οχήματος, θα στέλνεται στο συγκεκριμένο σημείο drone ή θα ενεργοποιούνται επίγειες κάμερες για επιπλέον έλεγχο. Τον συντονισμό της κοινοπραξίας που το αναπτύσσει έχει το Αυστριακό Ινστιτούτο Τεχνολογίας (έχει λάβει 25 εκατ. ευρώ από 37 ευρωπαϊκά έργα).

Πολλά από τα ερευνητικά προγράμματα του «Ηorizon 2020» (Roborder, iborderCtl, Foldout, Trespass κ.α.) χαρακτηρίστηκαν «ανώριμα» ακόμα για ευρεία χρήση. Ομως η συνολική στροφή της Ευρωπαϊκής Ενωσης όσον αφορά τη χρήση Τεχνητής Νοημοσύνης για τον έλεγχο της κινητικότητας και για την υποτιθέμενη πρόληψη της εγκληματικότητας φαίνεται από τις διαρκώς αυξανόμενες χρηματοδοτήσεις του Ευρωπαϊκού Ταμείου Εσωτερικής Ασφάλειας. Ενα τέτοιο έργο είναι και η προμήθεια χιλιάδων φορητών συσκευών από την Ελληνική Αστυνομία που θα επιτρέπουν την ταυτοποίηση πολιτών με τη χρήση λογισμικού αναγνώρισης προσώπου και τη λήψη δακτυλικού αποτυπώματος. Το συνολικό κόστος του προγράμματος, που ανέλαβε η εταιρεία Intracom Telecom, υπερβαίνει τα 4 εκατ. ευρώ.

Συστήματα υψηλού κινδύνου

Στην πρόταση για τον ευρωπαϊκό κανονισμό (COM/2021/206 final) που εκδόθηκε τον Απρίλιο του 2021, επισημαίνονται ως «υψηλού κινδύνου τα συστήματα Τεχνητής Νοημοσύνης (Τ.Ν.) που προορίζονται να χρησιμοποιηθούν από τις αρμόδιες δημόσιες αρχές στους τομείς της μετανάστευσης, του ασύλου, των συνοριακών ελέγχων, [...] για την ανίχνευση της συναισθηματικής κατάστασης ενός φυσικού προσώπου· για την αξιολόγηση ορισμένων κινδύνων που παρουσιάζουν φυσικά πρόσωπα που εισέρχονται στο έδαφος κράτους-μέλους ή υποβάλλουν αίτηση θεώρησης ή ασύλου».

Παραθυράκια

Σε εσωτερική παρουσίαση της Ευρωπαϊκής Επιτροπής που έγινε τον Μάιο του 2021 αποκαλύφθηκε ότι, σε περίπτωση ψήφισής του, ο νέος κανονισμός θα τεθεί σε εφαρμογή 24 μήνες μετά την υπογραφή του και δεν θα έχει αναδρομική ισχύ σε όσα συστήματα βρίσκονται ήδη στην αγορά. Είναι σαν να λέει η Επιτροπή πως «θέλουμε να ελέγξουμε υπεύθυνα τη χρήση της Τεχνητής Νοημοσύνης (Τ.Ν.) αλλά στο... μέλλον και όχι για τα συστήματα που ήδη οικοδομούμε».

Εντονη ήταν η διαμαρτυρία για αυτά τα επικίνδυνα «παραθυράκια» 114 ευρωπαϊκών οργανώσεων της Κοινωνίας των Πολιτών τον Νοέμβριο του 2021. Σε σχετική ανακοίνωση του δικτύου για τα ψηφιακά δικαιώματα, EDRI, οι οργανώσεις ζητούν από το Συμβούλιο της Ευρώπης, το Ευρωκοινοβούλιο και τις κυβερνήσεις των κρατών-μελών να συμπεριλάβουν στο τελικό νομοσχέδιο δικλίδες ασφαλείας και λογοδοσίας που θα εγγυώνται ένα ασφαλές πλαίσιο εφαρμογής των συστημάτων Τ.Ν. και κυρίως την προστασία των βασικών δικαιωμάτων όλων των Ευρωπαίων πολιτών.

Το «πείραμα» της Σάμου

Φωτογραφία της Petra Molnar από την αγκαθωτή περίφραξη της νέας δομής στη Σάμο. Κάτω, το σύστημα «Κένταυρος» σε λειτουργία

«Τα σύνορα και η μετανάστευση αποτελούν το τέλειο εργαστήριο πειραμάτων. Αδιαφανείς συνθήκες υψηλού ρίσκου με χαμηλά επίπεδα λογοδοσίας. Είναι ένα ιδανικό πεδίο δοκιμής νέων τεχνολογιών που μπορούν αργότερα να χρησιμοποιηθούν εκτενέστερα σε διάφορες κοινότητες και πληθυσμούς. Αυτό συμβαίνει ακριβώς και στην Ελλάδα», επισημαίνει η δικηγόρος Πέτρα Μόλναρ. Στο νέο στρατόπεδο μεταναστών της Σάμου, που διαφημίζει η ελληνική κυβέρνηση, τίθενται σε λειτουργία δύο πιλοτικά ειδικά συστήματα, το «Υπερίων» και το «Κένταυρος».

■ Το «Υπερίων» αποτελεί ένα σύστημα διαχείρισης αιτούντων άσυλο για τις ανάγκες της Υπηρεσίας Υποδοχής και Ταυτοποίησης. Επεξεργάζεται βιομετρικά και βιογραφικά δεδομένα των αιτούντων, όπως επίσης των μελών ΜΚΟ που επισκέπτονται τις δομές και των εργαζομένων σε αυτές. Θα αποτελέσει το βασικό εργαλείο για τη λειτουργία των Κέντρων Υποδοχής και των Κλειστών Δομών (ΚΕΔΝ) καθώς θα έχει την ευθύνη του ελέγχου πρόσβασης, της παρακολούθησης παροχών ανά αιτούντα άσυλο με χρήση ατομικής κάρτας (φαγητό, προμήθειες ρουχισμού κ.λπ.) και των μετακινήσεων μεταξύ των ΚΥΤ, των ΚΕΔΝ και των Δομών Φιλοξενίας.

■ Το σύστημα «Κένταυρος» αποτελεί ένα ψηφιακό σύστημα διαχείρισης ηλεκτρονικής και φυσικής ασφάλειας περιμετρικά και εντός των εγκαταστάσεων, με χρήση καμερών και αλγορίθμων ανάλυσης συμπεριφοράς. Περιλαμβάνει κεντρική διαχείριση από το υπουργείο Ψηφιακής Διακυβέρνησης και υπηρεσίες όπως: σηματοδότηση συναγερμών παραβίασης της περιμέτρου με χρήση καμερών και αλγορίθμων ανάλυσης κίνησης, σηματοδότηση συναγερμών έκνομης συμπεριφοράς ατόμων ή ομάδων ατόμων σε χώρους συνάθροισης και χρήση συστημάτων μη επανδρωμένων αεροσκαφών για την εκτίμηση περιστατικών εντός της εγκατάστασης χωρίς τη μεσολάβηση ανθρώπινου παράγοντα.

«Το “Κένταυρος” χρησιμοποιεί κάμερες που μπορούν ανά πάσα στιγμή να μετρήσουν μέχρι και τη θερμοκρασία κάποιου. Δεν αντλεί εικόνες τόσο για λόγους ασφαλείας όσο κυρίως για να τροφοδοτήσει τους αλγορίθμους ανάλυσης συμπεριφοράς», λέει ο δικηγόρος και μέλος της Homo Digitalis, Κώστας Κακαβούλης. Οπως επισημαίνει, «ένας αλγόριθμος μαθαίνει να καταλήγει σε συγκεκριμένα συμπεράσματα με βάση κάποια στοιχεία που του δίνουμε. Μπορεί, π.χ., να διακρίνει ανάμεσα στο ότι ο Χ άνθρωπος ενδέχεται να έχει αυξημένη επιθετική συμπεριφορά και να επιτεθεί σε άλλους αιτούντες άσυλο ή σε φύλακες ή ενδέχεται να θελήσει να διαφύγει από τη δομή φιλοξενίας. Μια άλλη χρήση αλγορίθμων ανάλυσης συμπεριφοράς είναι οι αλγόριθμοι ανάλυσης ψεύδους, που μπορεί να κρίνουν αν η συμπεριφορά μας και τα λεγόμενά μας αποτυπώνουν κάτι αληθινό ή όχι.

Aυτό γίνεται κυρίως μέσα από την ανάλυση δεδομένων που όλοι μας παράγουμε μέσα από την κίνησή μας στον χώρο, από την εξωτερική μας εμφάνιση, από τον τρόπο που κουνάμε τα χέρια μας, που ανοιγοκλείνουμε τα μάτια μας, που περπατάμε. Ολα αυτά μπορεί να μας φαίνονται επουσιώδη, όμως αν κάποιος τα συλλέξει σε μεγάλο εύρος χρόνου και τα συσχετίσει με τα δεδομένα πολλών άλλων ανθρώπων, ενδεχομένως μπορεί να καταλήξει σε συμπεράσματα για μας, που μπορεί να μας καταπλήξουν, για το πόσο επιθετική μπορεί να είναι η συμπεριφορά μας, πόσο άγχος έχουμε, πόσο φοβόμαστε, αν λέμε αλήθεια ή όχι». Στην ισχύουσα επί του παρόντος νομοθεσία απαγορεύεται να γίνεται επεξεργασία προσωπικών δεδομένων χωρίς να υπάρχει η δυνατότητα ανθρώπινης παρέμβασης.

Η δικηγόρος Πέτρα Μόλναρ βρέθηκε στη Σάμο στα εγκαίνια της νέας κλειστής δομής. «Πολλαπλές στρώσεις συρματοπλεγμάτων, κάμερες παντού, σταθμοί δακτυλικών αποτυπωμάτων στην περιστροφική πύλη, σημεία εισόδου - εξόδου. Οι πρόσφυγες το βλέπουν ως ένα συγκρότημα φυλακών. Την παραμονή των εγκαινίων βρέθηκα στο παλιό στρατόπεδο στο Βαθύ της Σάμου. Μιλήσαμε με μια νεαρή Αφγανή μαμά. Εσπρωχνε τη μικρή της κόρη σε ένα καρότσι και πληκτρολόγησε βιαστικά ένα μήνυμα στο τηλέφωνό της που έλεγε: “Αν πάμε εκεί, θα τρελαθούμε”. Κάθε φορά που κοιτάζω στρατόπεδα με αυτά τα συστήματα, αντιλαμβάνομαι ότι ενσαρκώνουν τον φόβο των ανθρώπων όταν πρόκειται να απομονωθούν, ενώ χρησιμοποιούνται τεχνολογίες επιτήρησης που ελέγχουν ακόμη περισσότερο τις κινήσεις τους».

Οι Γιατροί Χωρίς Σύνορα χαρακτήρισαν «δυστοπικό εφιάλτη» τη νέα δομή στη Σάμο. Δεν ήταν οι μόνοι. «Υπάρχει σοβαρό ενδεχόμενο η εγκατάσταση των συστημάτων “Υπερίων” και “Κένταυρος” να παραβιάζει τη νομοθεσία της Ε.Ε. για την επεξεργασία προσωπικών δεδομένων και τις διατάξεις του Ν.4624/2019», επισημαίνει η οργάνωση Ηomo Digitalis. Οι οργανώσεις Ελληνική Ενωση για τα Δικαιώματα του Ανθρώπου, HIAS Ελλάδος, Homo Digitalis και η λέκτορας του πανεπιστημίου Queen Mary Νιόβη Βάβουλα κατέθεσαν ενώπιον της Αρχής Προστασίας Δεδομένων Προσωπικού Χαρακτήρα (ΑΠΔΠΧ) στις 18.02.2022 αίτημα για την άσκηση των εξουσιών έρευνας και την έκδοση σχετικής γνωμοδότησης επί της προμήθειας και εγκατάστασης των συστημάτων. Στις 2 Μαρτίου η Αρχή ξεκίνησε να ερευνά το υπουργείο Μετανάστευσης και Ασύλου για τα δύο επίμαχα συστήματα.

Η φετιχοποίηση της αυτοματοποίησης

«Το πρόβλημα είναι ότι οι Αρχές, αλλά και οι πολιτικοί, αντιλαμβάνονται τις προηγμένες αναλύσεις δεδομένων ως παράγοντες κάποιου είδους αντικειμενικής και αμερόληπτης γνώσης για θέματα ασφάλειας, επειδή έχουν αυτή την αύρα μαθηματικής ακρίβειας. Αλλά η τεχνητή νοημοσύνη και η μηχανική μάθηση μπορεί να είναι στην πραγματικότητα πολύ ακριβείς στην αναπαραγωγή και τη μεγέθυνση των προκαταλήψεων του παρελθόντος. Θα πρέπει να θυμόμαστε ότι τα δεδομένα κακής ποιότητας θα οδηγήσουν μόνο σε κακές αυτοματοποιημένες, μεροληπτικές αποφάσεις», επισημαίνει ο ερευνητής και λέκτορας στο Πανεπιστήμιο του Τρέντο, Γιώργος Γλούφτσιος.

Αναρωτιόμαστε ποιος είναι τελικά ο λόγος που χρησιμοποιούμε στα σύνορά μας robot-σκύλους, ηχητικά κανόνια (όπως στον φράχτη του Εβρου) και διάφορους ανιχνευτές ψεύδους αλλά δεν χρησιμοποιούμε την ίδια την Τεχνητή Νοημοσύνη για να εξοστρακίσουμε, για παράδειγμα, ρατσιστές συνοροφύλακες.

Είναι υπερβολικό –προς το παρόν– να ισχυριστούμε ότι πλησιάζουμε στη φαντασία τον Φίλιπ Ντικ στο «Μinority Report», όπου μια ειδική «προ-εγκληματική» αστυνομική ομάδα συνελάμβανε υπόπτους εγκλημάτων πριν ακόμη αυτοί διαπράξουν το έγκλημα. Ομως αυτό που δεν είναι καθόλου μακρινό είναι η ύπαρξη διαφόρων συστημάτων ανάλυσης συμπεριφοράς, ανιχνευτών ψεύδους, λογισμικών αναγνώρισης προσώπου και συναισθημάτων, με ορίζοντα τις αυτοματοποιημένες λήψεις αποφάσεων. Ολα αυτά, σε ένα περιβάλλον αντιμετώπισης του ανθρώπου σε κίνηση –και όχι μόνο των μεταναστών– ως εν δυνάμει απειλής, κινδυνεύουν να οδηγήσουν σε ένα επισφαλές ανθρώπινο εργαστήριο, σε ένα πείραμα υψηλού ρίσκου για τα θεμελιώδη ανθρώπινα δικαιώματα.

■ Το άρθρο έχει δημιουργηθεί στο πλαίσιο του project «Panelfit», που υποστηρίζεται από το πρόγραμμα «Horizon 2020» της Ε.Ε. Η Επιτροπή δεν συμμετείχε στην παραγωγή του και δεν είναι υπεύθυνη για το περιεχόμενό του. Το άρθρο αποτελεί μέρος της ανεξάρτητης δημοσιογραφικής παραγωγής του Ευρωπαϊκού Δικτύου Δημοσιογραφίας Δεδομένων (EDJNet).

ΠΗΓΗ ΕΦΣΥΝ