Clearview AI: Το χρονικό του προδιαγεγραμμένου τέλους της ιδιωτικότητας;
3 δισ. φωτογραφίες - 1 βάση δεδομένων προς πώληση σε κάθε ενδιαφερόμενο - 1 εφαρμογή τεχνητής νοημοσύνης - 2.200 αστυνομικές αρχές και ιδιωτικές επιχειρήσεις σε 27 χώρες του κόσμου με πρόσβαση Δημήτρης Βέρρας
3 δισεκατομμύρια φωτογραφίες. Φωτογραφίες απλών πολιτών, που έχουν συλλεγεί από αναρτήσεις δικές τους ή και τρίτων προσώπων στα social media ή από οποιαδήποτε άλλη δημοσίως προσβάσιμη πηγή του διαδικτύου.
1 βάση δεδομένων που πωλείται (ή δίνεται δωρεάν προς δοκιμή) σε κάθε ενδιαφερόμενο.
1 εφαρμογή τεχνητής νοημοσύνης με δυνατότητα αναγνώρισης προσώπου και ταυτοποίησης ατόμων μέσω εξαγωγής βιομετρικών υποδειγμάτων από τις φωτογραφίες της βάσης δεδομένων.
2.200 αστυνομικές αρχές και ιδιωτικές επιχειρήσεις σε 27 χώρες του κόσμου με πρόσβαση στη βάση δεδομένων και τις δυνατότητες της εφαρμογής.
Μοιάζει με σενάριο επιστημονικής φαντασίας, όμως είναι πραγματικότητα.
Η τεχνογνωσία υπάρχει εδώ και χρόνια, αυτό ήταν γνωστό. Είναι πλέον δυνατό να αναπτύξεις μια εφαρμογή, η οποία, χρησιμοποιώντας τεχνολογίες αναγνώρισης προσώπου, να είναι σε θέση να επιβεβαιώσει ποια είναι η ταυτότητα του προσώπου που αναζητείς, αρκεί το πρόσωπο αυτό να έχει καταχωρηθεί σε μια βάση δεδομένων1. Οι αστυνομικές αρχές σε όλο και περισσότερα μέρη του κόσμου αγοράζουν τέτοιες εφαρμογές προκειμένου να συνδυάζουν το υλικό που συλλέγουν από κάμερες με τις βάσεις δεδομένων τους2. Το 2018 η αστυνομία του Τορόντο αγόρασε έναντι $450,000 από την αμερικανική NEC μια τέτοια εφαρμογή, την οποία συνέδεσε με τα 1.2 εκατομμύρια φωτογραφίες του αρχείου της. Λίγες ημέρες πριν δημοσιεύτηκε η εντυπωσιακή ιστορία της εξιχνίασης μιας ανθρωποκτονίας με τη χρήση της εφαρμογής αυτής.
Αυτό που λείπει είναι μια μεγάλη βάση δεδομένων. Με φωτογραφίες πολιτών.
Οι κίνδυνοι ενός τέτοιου εγχειρήματος ήταν πάντα προφανείς. Το ίδιο και οι ενστάσεις. Πόσο νόμιμο ή θεμιτό είναι να αναπτύξεις εμπορικά μια τέτοια τεχνολογία, όταν αυτή μπορεί να οδηγήσει σε τόσο βίαιη και ολοκληρωτική άρση της ιδιωτικότητας του πολίτη; Πόσο επικίνδυνο μπορεί να είναι όταν θέσεις μια τέτοια τεχνολογία στη διάθεση αυταρχικών καθεστώτων (εφόσον δεν ανήκουν σε αυτά που την έχουν ήδη αναπτύξει) ή ιδιωτικών εταιρειών; Πόσο εύκολο είναι να έχεις πρόσβαση στην εικόνα του ατόμου σε έναν κόσμο που καλύπτεται όλο και περισσότερο από συστήματα βιντεοεπιτήρησης ή αποκαλύπτεται οικειοθελώς από αναρτήσεις στα μέσα κοινωνικής δικτύωσης;
Το μόνο που χρειαζόταν για να «ξεπεραστούν» οι προβληματισμοί αυτοί ήταν η βούληση. Η βούληση μιας από τις πολλές και μεγάλες εταιρείες, που αναπτύσσουν την τεχνολογία αυτή και – κυρίως – μπορούν να έχουν πρόσβαση σε μεγάλες βάσεις δεδομένων, να προχωρήσει στο εγχείρημα. Και να αναλάβει και το βάρος της λογοδοσίας.
Η βούληση αυτή δεν υπήρξε. Οι εταιρείες αυτές διαβεβαίωναν – και διαβεβαιώνουν - ότι δεν έχουν καμία πρόθεση να αναπτύξουν εμπορικά τέτοιες εφαρμογές, χωρίς όμως να χάνουν την ευκαιρία να μας δείχνουν πόσο εύκολο τους είναι.
Η Facebook ανέπτυξε για τους εργαζόμενούς της (και μετά απέσυρε φυσικά) μια εφαρμογή, με την οποία μπορούσαν, στρέφοντας το κινητό σε ένα συνάδελφό τους, να πληροφορηθούν ποιος είναι3. Ταυτόχρονα, προχωρά σε αντικατάσταση των ετικετών (tags) που μπαίνουν σε κάθε φωτογραφία που αναρτάται στο μέσο, με αυτόματη αναγνώριση προσώπου. Ο χρήστης που ανεβάζει στο προφίλ του μια φωτογραφία της παρέας του δεν χρειάζεται να κουραστεί για να «tagάρει» τα πρόσωπα που απεικονίζονται. Η εφαρμογή τα αναγνωρίζει μόνη της. H Amazon δεν κρύβει την υπερηφάνεια της για τις εξαιρετικές δυνατότητες του Rekognition, της τεχνολογίας αναγνώρισης προσώπου που έχει αναπτύξει και πουλά και σε αστυνομικά σώματα.
Η Google, ήδη από το 2011, έχει καταστήσει σαφές ότι μπορεί ανά πάσα στιγμή όχι μόνο να αναπτύξει μια τέτοια εφαρμογή, αλλά και να δημιουργήσει την αναγκαία βάση δεδομένων, αυτό όμως θα θεωρείτο ως «crossing the creepy line».
Για να ξεπεραστεί αυτό ακριβώς το «creepy line» χρειαζόταν ένας λαγός. Μια εταιρεία ή ένας άνθρωπος που θα αναλάμβανε να σπάσει το τείχος των επιφυλάξεων.
Εδώ εμφανίζεται η Clearview AI. Και ο Hoan Ton-That.
Μια τυχαία είδηση
Το Δεκέμβριο του 2019, ένα δημοσίευμα από τη Φλόριντα των ΗΠΑ κάνει λόγο για τη σύλληψη μιας νεαρής γυναίκας από τις αστυνομικές αρχές της Τάμπα και της Κομητείας του Σέμινολ. Η γυναίκα, η οποία φέρεται να έχει κλέψει δύο ψησταριές και μια ηλεκτρική σκούπα από κατάστημα στο Κλερμόντ αναγνωρίστηκε από ένα τατουάζ και ταυτοποιήθηκε από τη σύγκριση μιας εικόνας από τις κάμερες του καταστήματος με μια φωτογραφία της στο Facebook.
Λίγοι ενδεχομένως θα προσέξουν μια αναφορά στο τέλος του άρθρου: «Το Γραφείο του Σερίφη είπε ότι αυτήν περίοδο δοκιμάζει ένα πρόγραμμα αναγνώρισης προσώπου που λέγεται Clearview AI».
Και μετά εμφανίζονται οι New York Times.
Η αποκάλυψη της εφαρμογής
Την 18-1-2020 η ιστοσελίδα της εφημερίδας ανεβάζει άρθρο της Kashmir Hill με τον τίτλο «Η μυστικοπαθής εταιρεία που μπορεί να βάλει τέλος στην ιδιωτικότητα όπως την ξέρουμε». Το άρθρο δημοσιεύεται στο πρωτοσέλιδο της έντυπης έκδοσης της εφημερίδας την επόμενη ημέρα με τον τίτλο «Εφαρμογή σκαναρίσματος προσώπων πλησιάζει αργά το τέλος της ιδιωτικότητας»
Οι αποκαλύψεις του άρθρου είναι εντυπωσιακές.
Μια πάλαι ποτέ μικρή start-up από τη Νέα Υόρκη, δημιούργημα του 31χρονου Αυστραλού με καταγωγή από το Βιετνάμ Hoan Ton-That, έχει συλλέξει από δημόσια προσβάσιμες πηγές του διαδικτύου 3 δισεκατομμύρια φωτογραφίες πολιτών και τις πουλάει σε αστυνομικές αρχές με την εφαρμογή αναγνώρισης προσώπου που έχει αναπτύξει.
Ο Ton-That έχει κάνει αυτό που κανείς δεν τόλμησε ως τότε.
Έχει κάνει το πιο εκτεταμένο scraping (ελληνικά: απόξεση ή συγκομιδή) φωτογραφιών που έχει γίνει ποτέ γνωστό. Με απλά λόγια, έχει βρει τον τρόπο να συλλέξει και να κατηγοριοποιήσει ένα τεράστιο αριθμό δημοσίως διαθέσιμων φωτογραφιών που κυκλοφορούν στο διαδίκτυο. Και το έχει κάνει.
Από τις πρώτες φωτογραφίες που ανέβασε κάποιος πριν από 15 χρόνια στο MySpace, μέχρι τη φωτογραφία που δημοσιεύτηκε σε ηλεκτρονική σελίδα για μια εκδήλωση στην οποία ο ίδιος άνθρωπος παρέστη, όλα μπορούν να αποτελέσουν μέρος του αρχείου. Η επεξεργασία των προσωπικών δεδομένων όμως, δεν τελειώνει με τη συλλογή και αποθήκευση των φωτογραφιών αυτών.
Μετά την απόξεση, η εφαρμογή αναλαμβάνει να εξαγάγει το βιομετρικό υπόδειγμα από κάθε φωτογραφία και να αντιστοιχήσει κάθε απεικόνιση ενός προσώπου, αποθηκεύοντας παράλληλα και κάθε πληροφορία για τη φωτογραφία αυτή (πότε ανέβηκε, πού βρέθηκε κοκ).
Η εταιρεία ισχυρίζεται ότι το προϊόν απευθύνεται πρωτίστως στις διωκτικές αρχές, με σκοπό να αποτελέσει ένα σημαντικό όπλο στην προσπάθεια εξιχνίασης εγκλημάτων.
Στο πλαίσιο αυτό, η εταιρεία αναπτύσσει και εφαρμόζει για πολλούς μήνες μια πολιτική επιθετικού και εκτεταμένου μάρκετινγκ. Επικοινωνεί απευθείας με αστυνομικά τμήματα σε όλες τις Πολιτείες των ΗΠΑ και ενημερώνει για τη νέα εφαρμογή που μπορεί να δώσει αποτελέσματα καλύτερα από ποτέ, αφού δεν περιορίζεται στην αναζήτηση υπόπτων μέσα από τις φωτογραφίες των αρχείων τους.
Πηγή εικόνας nytimes.com
Οι υποψήφιοι πελάτες δεν χρειάζεται καν να αγοράσουν το προϊόν. Μπορούν να το δοκιμάσουν δωρεάν για 30 ημέρες, προκειμένου να πειστούν για τις θαυμάσιες δυνατότητές του.
Το Φεβρουάριο του 2019, η Πολιτειακή Αστυνομία της Ιντιάνα είναι μια από τις αρχές που αξιοποιούν τη δοκιμαστική χρήση. Μέσα από τη χρήση αυτή, θα επιτευχθεί η σύλληψη του δράστη μιας ανθρωποκτονίας, που βιντεοσκοπήθηκε στο κινητό ενός πολίτη. Η φωτογραφία του δράστη δεν υπάρχει στα αρχεία της αστυνομίας, αλλά υπάρχει στη βάση δεδομένων της εφαρμογής. Μέσα σε 20 λεπτά ο δράστης έχει ταυτοποιηθεί και η εταιρεία έχει μόλις βρει την πρώτη αστυνομική αρχή που θα αγοράσει το προϊόν.
Το Μάιο του ίδιου έτους, αξιωματικοί του αστυνομικού τμήματος στο Κλίφτον του Νιου Τζέρσεϋ ζητούν από το διοικητή τους να προχωρήσει στην αγορά της εφαρμογής, παραθέτοντάς του σε ηλεκτρονικό μήνυμα σειρά υποθέσεων που εξιχνίασαν με τη δοκιμαστική χρήση της. Μεταξύ των περιπτώσεων που εξιχνιάστηκαν και η περίπτωση της αναζήτησης ενός «Καλού Σαμαρείτη», του ανθρώπου που ακινητοποίησε πελάτη καταστήματος που απειλούσε τους υπαλλήλους με μαχαίρι. Αμέσως μετά την ηρωική πράξη του, ο άνθρωπος αυτός προτίμησε να διατηρήσει την ανωνυμία του και εξαφανίστηκε. Κανείς όμως δεν μπορεί να κρυφτεί από την Clearview AI. Με συνοπτικές διαδικασίες, η εφαρμογή οδήγησε την αστυνομία στο προφίλ του στο Facebook και αμέσως μετά στην εξακρίβωση των στοιχείων του.
Σύμφωνα με το άρθρο των NYT, η πολιτική αυτή έχει αρχίσει να αποδίδει εξαιρετικά αποτελέσματα. Η εφαρμογή χρησιμοποιείται ήδη από περισσότερες από 600 διωκτικές αρχές, ενώ η εταιρεία τη διαθέτει και σε ιδιώτες, που θέλουν να τη χρησιμοποιήσουν για «λόγους ασφάλειας».
Οι πρώτες αντιδράσεις
Η αποκάλυψη της εφημερίδας φαίνεται αρχικά να προκαλεί έντονες αντιδράσεις σε πολλαπλά επίπεδα.
● Στις 22-1 το Twitter ζητά από την Clearview να διακόψει κάθε συλλογή φωτογραφιών και δεδομένων από την πλατφόρμα του. Την ίδια ημέρα, η Επίτροπος Ιδιωτικότητας4 της Αυστραλίας ανακοινώνει την έναρξη έρευνας για το ενδεχόμενο συλλογής προσωπικών δεδομένων Αυστραλών πολιτών.
● Την 23-1 ο Δημοκρατικός Γερουσιαστής της Μασαχουσέτης Ed Markey, μέλος της Επιτροπής Εμπορίου, Επιστημών και Μεταφορών5 της Γερουσίας, δημοσιοποιεί επιστολή του προς την εταιρεία, με την οποία ζητά αναλυτική λίστα με όλες τις διωκτικές αρχές στις οποίες έχει γίνει προώθηση του προϊόντος, καθώς και ενημέρωση για το αν το προϊόν πουληθεί σε ιδιώτες και σε ποιους. Η Clearview AI του απαντά οκτώ ημέρες μετά ότι αφενός δεν μπορεί να του αποκαλύψει πληροφορίες για την τεχνολογία που χρησιμοποιεί ή για τους πελάτες της, αφετέρου ότι δεν είναι παρά μια «public photo search engine» που έχει πρόσβαση μόνο σε δημόσια δεδομένα στο δημόσιο διαδίκτυο. «Όπως οι άλλες εταιρείες που λειτουργούν software αναγνώρισης προσώπου, εμείς απλώς σχηματίζουμε ευρετήρια και επιτρέπουμε την αναζήτηση δημοσίως διαθέσιμων πληροφοριών», αναφέρει χαρακτηριστικά στην απάντησή της.
Ο Γερουσιαστής θα χαρακτηρίσει την απάντηση «απαράδεκτη», αλλά δεν θα επανέλθει, παρά μόνο μετά τη διαρροή δεδομένων που θα ακολουθήσει.
● Την 24-1 ο Γενικός Εισαγγελέας6 της Πολιτείας του Νιου Τζέρσεϋ, Gurbir Grewal, απαγορεύει τη χρήση της εφαρμογής από τις αστυνομικές αρχές της Πολιτείας του. Βασικό παράγοντα που οδηγεί στην απόφαση αυτή αποτελεί η προωθητική χρήση από την εταιρεία αποσπασμάτων από συνέντευξη τύπου του Οκτωβρίου 2019, όταν περιχαρής ο Εισαγγελέας ανακοίνωνε τη σύλληψη 19 υπόπτων για αποπλάνηση ανηλίκων. Η Clearview ενημερώνει τους υποψήφιους πελάτες της ότι η σύλληψη επετεύχθη χάρη στη χρήση της εφαρμογής της! Ο Εισαγγελέας χαρακτηρίζει «ανεύθυνη» την αποκάλυψη τεχνικών έρευνας και, εκτός από την απαγόρευση, ζητά την απόσυρση του υλικού.
Την ίδια ημέρα, η ιστοσελίδα ZDNet δημοσιοποιεί την κατάθεση της πρώτης αγωγής κατά της εταιρείας σε δικαστήριο του Ιλλινόις για παραβίαση του Biometric Information Privacy Act7, της πολιτειακής νομοθεσίας για την προστασία των βιομετρικών δεδομένων. Σύμφωνα με τις διατάξεις του BIPA, η συλλογή και επεξεργασία βιομετρικών δεδομένων των πολιτών του Ιλλινόις μπορεί να γίνεται μόνο με τη ρητή συγκατάθεσή τους. Θα ακολουθήσουν αγωγές στη Βιρτζίνια και τη Νέα Υόρκη8.
● Στις 28-1 το ζήτημα τίθεται ενώπιον της Ευρωπαϊκής Επιτροπής. Με ερώτησή τους προς την Επιτροπή, 8 ευρωβουλευτές της ομάδας Renew Europe ζητούν να πληροφορηθούν κατά πόσον η Επιτροπή γνωρίζει αν η εφαρμογή χρησιμοποιείται από αρχές της ΕΕ, αν περιλαμβάνει προσωπικά δεδομένα πολιτών της Ένωσης, καθώς και κατά πόσον θεωρεί τη χρήση μιας τέτοιας εφαρμογής συμβατή με τη νομοθεσία για την προστασία των προσωπικών δεδομένων. Παρεμφερές ερώτημα υποβάλλει την ίδια ημέρα και ο Στέλιος Κούλογλου. Μέχρι τη στιγμή σύνταξης του παρόντος [23-4], η Επιτροπή δεν έχει ακόμη δώσει απάντηση.
Η Ευρώπη και η Ελλάδα μπαίνουν [κυριολεκτικά] στο χάρτη.
● Μια εβδομάδα μετά την υποβολή των ερωτημάτων αυτών, στις 5-2, για πρώτη φορά θα πληροφορηθούμε ότι η Clearview έχει έρθει και στην Ευρώπη. Μετά από υποβολή αιτήματος πρόσβασης σε δημόσιο έγγραφο, το Buzzfeed παίρνει στα χέρια του προωθητικό υλικό της εταιρείας προς το αστυνομικό τμήμα του Βόρειου Μαϊάμι. Στο υλικό αυτό περιλαμβάνεται και ο ακόλουθος χάρτης επέκτασης των δραστηριοτήτων της εταιρείας:
Πηγή εικόνας buzzfeednews.com
Συμπληρωματικά του χάρτη, με το υλικό αυτό (το οποίο ανάγεται στον Νοέμβριο του 2019), η Clearview ενημερώνει τους υποψήφιους πελάτες της ότι δραστηριοποιείται ήδη ή σχεδιάζει άμεσα την επέκτασή της σε τουλάχιστον 22 χώρες, εκτός ΗΠΑ. Αυτό που δεν θα τους πει είναι ότι σε ορισμένες από τις χώρες αυτές διαπιστώνονται συστηματικές παραβιάσεις των ανθρωπίνων δικαιωμάτων.
Από τη μελέτη του χάρτη, οι συντάκτες του δημοσιεύματος διαπιστώνουν το προφανές. Η Clearview φαίνεται να έχει πατήσει στα εδάφη του GDPR. Εννέα χώρες της ΕΕ, μεταξύ των οποίων και η Ελλάδα, βρίσκονται μεταξύ των αγορών που πιθανώς έχει χρησιμοποιηθεί η εφαρμογή.
Οι αντιδράσεις συνεχίζονται.
● Την ίδια ημέρα, το CBS ενημερώνει για μια σειρά εξωδίκων που έχουν σταλεί στην εταιρεία. Σύμφωνα με το άρθρο, η Google, το YouTube, η Venmo και το LinkedIn έχουν ακολουθήσει τα χνάρια του Twitter και έχουν αποστείλει cease-and-desist letters, ζητώντας από την Clearview να απόσχει από κάθε παράνομη συμπεριφορά και να άρει τυχόν προηγηθείσες ενέργειές της, ήτοι να σταματήσει τη συλλογή δεδομένων και να διαγράψει όσα δεδομένα έχει ήδη συλλέξει από τις πλατφόρμες αυτές. Ενδιαφέρον παρουσιάζει το ότι, σύμφωνα με το δημοσίευμα, το Facebook δεν έχει ακολουθήσει την ίδια πρακτική, παρά έχει ζητήσει μόνο πληροφορίες για τις μεθόδους και πρακτικές της. Ας μη μας διαφεύγει ότι όταν μιλάμε για Facebook, αναφερόμαστε και στο Instagram, το μέσο με το μεγαλύτερο αρχείο δημοσίως διαθέσιμων φωτογραφιών.
Απέναντι στις ενέργειες αυτές, ο Ton-That επικαλείται το First Amendment9 του Συντάγματος των ΗΠΑ και απαντά ότι «Έχουμε φτιάξει το σύστημά μας έτσι ώστε απλώς να παίρνει πληροφορίες δημόσια διαθέσιμες και να τις ευρετηριάζει». Το Clearview AI, συμπληρώνει ο ιδρυτής του, δεν είναι παρά μια μηχανή αναζήτησης για πρόσωπα. «Εάν μια πληροφορία είναι δημόσια, βρίσκεται εκεί έξω και μπορεί να εμφανιστεί στη μηχανή αναζήτησης της Google, τότε θα μπορεί και στη δική μας».
● Μια εβδομάδα μετά την αποκάλυψη του Buzzfeed για ενδεχόμενη δραστηριοποίηση της Clearview στην Ευρώπη, δημοσιοποιείται η πρώτη [και τελευταία] αντίδραση της Ευρωπαϊκής Επιτροπής. Σύμφωνα με δημοσίευμα του Euractiv της 12-2, η Επιτροπή βρίσκεται σε στενή επικοινωνία με τις εποπτικές αρχές προστασίας δεδομένων της Ένωσης για την αξιολόγηση του ζητήματος. «Η Επιτροπή είναι ενήμερη για τα δημοσιεύματα του τύπου, παρακολουθούμε την υπόθεση και παραμένουμε σε στενή επικοινωνία με τις εθνικές αρχές προστασίας δεδομένων και το ΕΣΠΔ», αναφέρει ένας ευρωπαίος αξιωματούχος, για να προσθέσει: «Αυτές οι τεχνολογίες δεν λειτουργούν υπό νομικό κενό. Η χρήση προσωπικών δεδομένων εμπίπτει στους αυστηρούς κανόνες του ΓΚΠΔ, οι οποίοι απαιτούν σωστά προσδιορισμένη νομική βάση και νόμιμους σκοπούς, το να ενημερώνεται το υποκείμενο για την επεξεργασία και να έχει τα μέσα για αποκατάσταση και διόρθωση».
Το πρακτορείο επισημαίνει ότι, σύμφωνα με πληροφορίες αμερικανών, η Clearview δεν είναι μέλος της συμφωνίας ΕΕ-ΗΠΑ Privacy Shield, γεγονός που εγείρει ακόμη περισσότερα ερωτήματα ως προς τους όρους δραστηριοποίησής της στην ευρωπαϊκή αγορά.
● Στις 13-2 η αστυνομία του Τορόντο, αναιρώντας αρχική της διάψευση, επιβεβαιώνει ότι η εφαρμογή έχει χρησιμοποιηθεί από μέλη της. Δέκα ημέρες μετά, στις 23-2, το γραφείο του Ομοσπονδιακού Επιτρόπου του Καναδά για την πληροφορία και την ιδιωτικότητα ανακοινώνει την έναρξη έρευνας για το κατά πόσον οι πρακτικές της εταιρείας είναι σύμφωνες με τη νομοθεσία για την προστασία της ιδιωτικότητας.
● Στις 25-2 η Homo Digitalis απευθύνει επιστολή προς τον Υπουργό Προστασίας του Πολίτη για τη χρήση της εφαρμογής από τις αρχές επιβολής του νόμου στην ελληνική επικράτεια. Η επιστολή, η οποία επικαλείται τις πληροφορίες του Buzzfeed, δεν έχει ακόμη απαντηθεί.
Η διαρροή.
● Την 26-2 δημοσίευμα του Daily Beast αποκαλύπτει τη διαρροή ολόκληρου του αρχείου πελατών της Clearview, μετά από επέμβαση στα αρχεία της. Σύμφωνα με το άρθρο, η εταιρεία έχει ενημερώσει τους πελάτες της ότι άγνωστος έχει αποκτήσει πρόσβαση στον κατάλογο πελατών της, τον αριθμό των λογαριασμών καθενός από αυτούς και τον αριθμό των αναζητήσεων που είχαν κάνει. Οι πληροφορίες αυτές θα γίνουν γνωστές μόλις ένα 24ωρο αργότερα, με μια δημοσίευση που θα προκαλέσει ακόμη περισσότερες αντιδράσεις.
● Πράγματι, οι λεπτομέρειες που θα δημοσιευτούν την 27-2 στο Buzzfeed είναι εντυπωσιακές.
Σύμφωνα με τα στοιχεία που έχουν διαβιβαστεί στην ιστοσελίδα ανωνύμως:
- η εφαρμογή χρησιμοποιείται από περισσότερες από 2.200 διωκτικές αρχές, δημόσιους φορείς και ιδιώτες, σε 27 χώρες. Πολλοί από αυτούς δεν είναι συνδρομητές της εταιρείας, αλλά απλοί χρήστες της δωρεάν δοκιμαστικής παροχής της υπηρεσίας.
- Ως προς τις διωκτικές αρχές των ΗΠΑ, στη λίστα βρίσκονται: Department of Homeland Security, το ICE, το Υπουργείο Δικαιοσύνης, το US Secret Service, το Drug Enforcement Administration, το Bureau of Alcohol, Tobacco, Firearms, and Explosives και το FBI. Σε επίπεδο πολιτειακό, μεταξύ των χρηστών βρίσκονται το Γραφείο του Εισαγγελέα στο Southern District της Νέας Υόρκης, η αστυνομία του Μαϊάμι, της Φιλαδέλφεια, της Ιντιάνα, της Ατλάντα και του Σικάγο. Το μεγαλύτερο αστυνομικό σώμα της χώρας, η αστυνομία της Νέας Υόρκης είναι ο πελάτης με τις περισσότερες αναζητήσεις. Το σύστημα έχει καταγράψει 11.000 αναζητήσεις μέσα από 30 λογαριασμούς χρηστών.
- Οι πελάτες όμως δεν είναι μόνο αυτοί. Στη λίστα περιλαμβάνονται 50 εκπαιδευτικά ιδρύματα σε 24 πολιτείες, 200 αμερικανικές εταιρείες, από την Kohl’s και τη Walmart μέχρι τη Wells Fargo και την Bank of America ή ακόμη το NBA και τους τηλεπικοινωνιακούς παρόχους AT&T, Verizon και T-Mobile.
- Η λίστα καταγράφει 26 χώρες εκτός των ΗΠΑ, οι αστυνομικές αρχές των οποίων έχουν χρησιμοποιήσει την εφαρμογή: Αυστραλία, Βέλγιο, Βραζιλία, Καναδάς, Δανία, Φινλανδία, Γαλλία, Ιρλανδία, Ινδία, Ιταλία, Λετονία, Λιθουανία, Μάλτα, Ολλανδία, Νορβηγία, Πορτογαλία, Σερβία, Σλοβενία, Ισπανία, Σουηδία, Ελβετία και το Ηνωμένο Βασίλειο. Η Ελλάδα, αυτή τη φορά, δεν βρίσκεται στον κατάλογο.
- Το αρχείο εμφανίζει χρήση της εφαρμογής από την Ιντερπόλ, ενώ επιβεβαιώνει την πώληση της στη Σαουδική Αραβία και τα ΗΑΕ.
● Την ίδια ημέρα, το Gizmodo δημοσιεύει ανάλυση για τα κρυμμένα χαρακτηριστικά που περιλαμβάνονται στο – μη διαθέσιμο στο Google Play – app της εφαρμογής. Το app, το οποίο έχει δημιουργηθεί για χρήση από android συσκευές, εντοπίστηκε σε δημοσίως προσβάσιμο server της Amazon, από όπου και έγινε η μεταφόρτωση και εγκατάστασή του.
● Μια ημέρα μετά, την 28-2, το Buzzfeed αποκαλύπτει ότι η Apple έχει απενεργοποιήσει την iOS εφαρμογή της Clearview AI, λόγω παραβίασης των όρων χρήσης της υπηρεσίας. Σύμφωνα με το δημοσίευμα, η Clearview παρέκαμπτε το app store της Apple, ενθαρρύνοντας τους χρήστες να κατεβάσουν την εφαρμογή μέσω προγράμματος που είχε διατεθεί αποκλειστικά για προγραμματιστές.
Τα επακόλουθα της διαρροής.
● Στις 29-2 η συντάκρια του Vice Anna Merlan δημοσιεύει το υλικό που της εστάλη από την Clearview κατόπιν άσκησης του δικαιώματος πρόσβασης βάσει της CCPA.
Η CCPA10, η νομοθεσία της Πολιτείας της Καλιφόρνια για την προστασία των καταναλωτών, θεσπίζει δικαιώματα για τα φυσικά πρόσωπα, κατά τρόπο παρεμφερή με εκείνον του Γενικού Κανονισμού Προστασίας Δεδομένων. Μεταξύ των δικαιωμάτων αυτών, ο καταναλωτής δικαιούται να ζητήσει πρόσβαση στις πληροφορίες που έχει συλλέξει μια επιχείρηση για αυτόν καθώς και τη διαγραφή τους. Κατόπιν άσκησης των δικαιωμάτων της αυτών, η αρθρογράφος έχει λάβει αρχείο με όλες τις προσωπικές της πληροφορίες από την εφαρμογή.
Από το αρχείο αυτό διαπιστώνει ότι:
- οι φωτογραφίες καλύπτουν τη χρονική περίοδο από το 2004 μέχρι και το 2019.
- κάθε φωτογραφία συνοδεύεται από τα πλήρη στοιχεία της διεύθυνσης στην οποία αυτή έχει βρεθεί.
- οι περισσότερες από τις φωτογραφίες είχαν κατά καιρούς αναρτηθεί σε λογαριασμούς της αιτούσης σε μέσα κοινωνικής δικτύωσης (μέχρι και στο πάλαι ποτέ δημοφιλές MySpace), υπάρχουν όμως και πολλές, οι οποίες παραπέμπουν σε τυχαίες ιστοσελίδες με από αναφορές αγνώστων στο πρόσωπό της
- μεταξύ των σελίδων από τις οποίες έχει «αποξεστεί» το υλικό βρίσκονται και σελίδες εφαρμογών που κάνουν ακριβώς την ίδια εργασία, να συλλέγουν φωτογραφίες. Αναφέρεται χαρακτηριστικά το InstaStalker μια online scraping εφαρμογή που συλλέγει και αρχειοθετεί φωτογραφίες χρηστών από το Instagram.
● Στις 2-3 το Buzzfeed, και πάλι, δημοσιεύει άρθρο σχετικά με τα σχέδια επέκτασης της εφαρμογής και σε άλλες τεχνολογίες. Σύμφωνα με τη δημοσίευμα, η εταιρεία έχει ήδη αναπτύξει, μέσω μιας θυγατρικής εταιρείας με το όνομα Insight Camera, συστήματα βιντεοεπιτήρησης με τη χρήση των εφαρμογών αναγνώρισης προσώπου που η εταιρεία παρέχει. Οι κάμερες αυτές φαίνεται να έχουν δοκιμαστεί ήδη από δύο υποψήφιους πελάτες, ένας εκ των οποίων η United Federation of Teachers (UFT), σωματείο εκπαιδευτικών στα δημόσια σχολεία της Νέας Υόρκης.
Εκτός από τη βιντεοεπιτήρηση, η Clearview φαίνεται να βρίσκεται σε συνεργασία με δύο εταιρείες για την κατασκευή γυαλιών επαυξημένης πραγματικότητας (augmented reality glasses), που θα μπορούσαν να αξιοποιήσουν την εφαρμογή της.
● Στις 3-3 ο Γερουσιαστής Markey επανέρχεται με νέο ερώτημα προς την Clearview, με αφορμή την είδηση περί διαρροής των πληροφοριών της. Μεταξύ των ερωτημάτων που θέτει είναι και το ζήτημα και το κατά πόσον η εταιρεία σκοπεύει να επεκταθεί σε εργαλεία ζωντανής αναγνώρισης προσώπου, όπως σε γυαλιά επαυξημένης πραγματικότητας. Αντίστοιχη επιστολή στέλνουν και άλλοι δύο Γερουσιαστές, μέλη της Επιτροπής Επιστημών, Διαστήματος και Τεχνολογίας11 της Βουλής των Αντιπροσώπων των ΗΠΑ.
● Στις 4-3 το καναδικό δίκτυο CBS αποκαλύπτει ότι το RCMP12, η ομοσπονδιακή αστυνομία του Καναδά, έχει χρησιμοποιήσει την εφαρμογή της Clearview AI, παρά τις αρχικές διαψεύσεις της ένα μήνα νωρίτερα. «Με εξαίρεση τη χρήση της εφαρμογής σε υποθέσεις σεξουαλικής εκμετάλλευσης παιδιών, η χρήση έχει διερευνηθεί σε πολύ περιορισμένη δοκιμαστική βάση», δηλώνει η εκπρόσωπος του σώματος, για να προσθέσει «Η RCMP δεν χρησιμοποιεί την Clearview AI στους πολίτες. Τη χρησιμοποιούμε μόνο στο πλαίσιο ερευνών για εγκλήματα που διεξάγουμε, πρωτίστως για την αναγνώριση θυμάτων».
● Σε δημοσίευμα της Philadelphia Inquirer την 5-3, εκπρόσωπος της αστυνομίας της Φιλαδέλφεια επιβεβαιώνει τη χρήση της εφαρμογής, όπως είχε αποκαλυφθεί από τη λίστα του Buzzfeed. Σύμφωνα με τον εκπρόσωπο, οι περίπου 1.000 αναζητήσεις στη βάση δεδομένων της Clearview έχουν γίνει δοκιμαστικά, αφού η αρχή δεν έχει ακόμη καταρτίσει πολιτική χρήσης εφαρμογών αναγνώρισης προσώπων.
Την ίδια ημέρα, οι New York Times φέρνουν στη δημοσιότητα περιστατικό που αποκαλύπτει αυτό που πολλοί υποψιάζονται και όλοι φοβούνται. Το ότι η εταιρεία προωθεί την εφαρμογή και σε ιδιώτες, ακόμη και σε φυσικά πρόσωπα, παρά τις κατηγορηματικές διαψεύσεις της.
Σύμφωνα με το δημοσίευμα, ο Ελληνοαμερικανός δισεκατομμυριούχος John Catsimatidis χρησιμοποίησε την εφαρμογή βρισκόμενος σε εστιατόριο του Μανχάταν προκειμένου να πληροφορηθεί την ταυτότητα του ανθρώπου που μόλις πριν λίγο είχε εμφανιστεί στον ίδιο χώρο συνοδεύοντας την κόρη του. «Ήθελα να σιγουρευτώ ότι δεν είναι τσαρλατάνος», είπε ο ευτυχής πατέρας που φρόντισε να στείλει απευθείας τα αποτελέσματα της αναζήτησης στο κινητό της κόρης του. Η κόρη του, κατενθουσιασμένη, φέρεται να δήλωσε: «Έχω ικανό τον πατέρα μου να κάνει τρελά πράγματα. Είναι πολύ εξοικειωμένος με την τεχνολογία. Ο συνοδός μου εντυπωσιάστηκε πολύ».
● Την επόμενη ημέρα 6-3 το EPIC (Electronic Privacy Information Center), ανεξάρτητος ερευνητικός φορέας για την προστασία της ιδιωτικότητας, δημοσιεύει επιστολή του προς το FBI, με την οποία ζητεί τη χορήγηση πληροφοριών στη βάση της FOIA13.
Την ίδια ημέρα, η ιστοσελίδα OneZero αποκαλύπτει τις προθέσεις της Clearview AI να προσθέσει στις βάσεις δεδομένων της και τα περίφημα mugshots, τα αρχεία συλληφθέντων που τηρούν οι αστυνομικές αρχές των ΗΠΑ. Σύμφωνα με το δημοσίευμα, σε ερώτημα του αστυνομικού τμήματος του Green Bay του Γουισκόνσιν για τη δυνατότητα τους να ανεβάσουν στην εφαρμογή και τα mugshots που τηρούν στο αρχείο τους, η εταιρεία ενημερώνει ότι στις προθέσεις της είναι να προστεθούν στη βάση δεδομένων της όλα τα mugshots της χώρας για τα τελευταία 15 έτη. Άλλωστε, όπως διευκρινίζεται στο άρθρο, η βάση δεδομένων ήδη περιλαμβάνει φωτογραφίες από δημοσίως προσβάσιμα αρχεία με mugshots, από σελίδες όπως το Rapsheets.org και το Arrests.org,
Επίσης την ημέρα αυτή, η Σουηδική Αρχή Προστασίας Δεδομένων Datainspektionen, γίνεται η πρώτη εποπτική αρχή της ΕΕ που δημοσιοποιεί την απόφασή της να διερευνήσει το ενδεχόμενο χρήσης της εφαρμογής. Σύμφωνα με την ανακοίνωση που δημοσιεύεται στην ιστοσελίδα της, η Αρχή δεν έχει γνώση ως προς το κατά πόσον χρησιμοποιείται η εφαρμογή από τις σουηδικές αρχές. Για το λόγο αυτό, έχει αποστείλει σειρά ερωτημάτων στην αστυνομία, το λιμενικό, τα τελωνεία, τις διευθύνσεις μετανάστευσης, καθώς και μια σειρά άλλων σουηδικών αρχών, προκειμένου να πληροφορηθεί εάν χρησιμοποιούν την εφαρμογή της Clearview AI, και εφόσον ναι, με ποια νομική βάση.
Όπως χαρακτηριστικά επισημαίνει η Αρχή, οι κατευθυντήριες γραμμές 14 της ΕΕ για τις κάμερες διευκρινίζουν το πώς μπορούν να χρησιμοποιούνται οι τεχνολογίες αναγνώρισης προσώπου. Ο βασικός κανόνας είναι ότι η χρήση τους δεν επιτρέπεται, όταν ο σκοπός είναι η αναγνώριση ενός προσώπου. Η ειδικότερη χρήση των τεχνολογιών αυτών από αστυνομικές αρχές αναμένεται να ρυθμιστεί με σχετική οδηγία του ΕΣΠΔ.
● Στις 10-3 ο Γενικός Εισαγγελέας της Πολιτείας του Βερμόντ ανακοινώνει την άσκηση αγωγής σε βάρος της Clearview AI για την παραβίαση της πολιτειακής νομοθεσίας για την προστασία των καταναλωτών15 και για παράνομη συλλογή δεδομένων με σκοπό τη μεσιτεία16. Παράλληλα, κατατίθεται και αίτηση ασφαλιστικών μέτρων (Motion for Preliminary Injunction), με την οποία ζητείται η άμεση λήψη μέτρων σε βάρος της εταιρείας.
Στην εισαγωγική επί του δικογράφου τοποθέτησή του, ο Γ.Ε. αναφέρει χαρακτηριστικά:
«Οι θεμελιώδεις ελευθερίες μας: να εκφραζόμαστε, να συνερχόμαστε, να βγαίνουμε έξω και να περπατάμε στην πόλη, βασίζονται σε ένα θεμελιώδες δικαίωμα: την ιδιωτικότητα. Οι καθημερινές δραστηριότητές μας συχνά προϋποθέτουν έναν βαθμό ανωνυμίας, την οποία δεν εκτιμάμε, μέχρι να τη χάσουμε, όπως κάθε celebrity μπορεί να επιβεβαιώσει. Το αντίθετο της ιδιωτικότητας είναι η παρακολούθηση, η κατάσταση στην οποία παρακολουθούμαστε, ακολουθούμαστε και αναλυόμαστε συνεχώς. Η τεχνολογία, για καλό ή για κακό, έχει κάνει την παρακολούθηση φθηνή, αποτελεσματική και σε κάποιες περιπτώσεις διαδεδομένη. Η παρακολούθηση είναι επίσης επικερδής. Καθώς οι ζωές μας, όλο και περισσότερο, μετατοπίζονται σε μια επιγραμμική παρουσία, η παρακολούθηση υπό τη μορφή του ελέγχου της περιήγησής μας σε ιστοσελίδες, του ιστορικού αναζητήσεών μας και των καταναλωτικών συνηθειών μας έχει γίνει δεδομένη. Είμαστε στη γνώση εκατοντάδων επιχειρήσεων, διαφημιστών και σε κάποιες περιπτώσεις κυβερνητικών αρχών από τη στιγμή που συνδεόμαστε.
Ωστόσο, έχουμε ακόμη την επιλογή να κλείσουμε τον υπολογιστή, να βγούμε έξω και να χαρούμε την ανωνυμία μας, καθώς περνούμε το χρόνο μας. Αυτός ο περιορισμένος, αλλά κρίσιμος βαθμός ιδιωτικότητας, αυτό το όριο μεταξύ κανονικότητας και μιας οργουελιανής δυστοπίας, η οποία είναι ήδη πραγματικότητα σε κάποια μέρη του κόσμου, κινδυνεύει να εξαφανιστεί.
Η τεχνολογία αναγνώρισης προσώπου, η ικανότητα να δημιουργήσεις ένα οπτικό βιομετρικό «αποτύπωμα» κάθε ατόμου, δίνει τη θεωρητική δυνατότητα να αναγνωρίσεις αυτοστιγμεί οποιονδήποτε, οπουδήποτε. Έχει την ικανότητα να εξαφανίσει την ιδιωτικότητα της ανωνυμίας άπαξ και δια παντός.
Για να συμβεί αυτό, η τεχνολογία θα έπρεπε να συνδυαστεί με έναν τεράστιο θησαυρό ταυτοποιήσιμων φωτογραφιών, όπως αυτές που κυκλοφορούν στο διαδίκτυο. Η ικανότητα να το κάνει αυτό κανείς υπάρχει – αλλά οι εταιρείες με τη δυνατότητα να δημιουργήσουν μια εφαρμογή αναγνώρισης προσώπου με μαζική παρακολούθηση έχουν αρνηθεί να το κάνουν. Γνωρίζουν ότι αυτό θα ξεπερνούσε το όριο. Θα ήταν ανήθικο. Θα ήταν λάθος.
Η εναγόμενη Clearview AI […] έκανε αυτό που καμία άλλη εταιρεία δεν θέλησε να δοκιμάσει. Έριξε δίχτυα στο διαδίκτυο για δισεκατομμύρια φωτογραφίες, κλέβοντάς τις, σύμφωνα με αναφορές, από σελίδες κοινωνικής δικτύωσης και άλλα sites. Εξήγαγε τα βιομετρικά δεδομένα συγκεκριμένων ατόμων από τις φωτογραφίες αυτές, για να φτιάξει μια τεράστια βάση δεδομένων παρακολούθησης. Μας εξέτασε, μας χαρτογράφησε και μας πούλησε.
Η εφαρμογή της Clearview κατέστη διαθέσιμη σε εκατοντάδες ή ενδεχομένως χιλιάδες πρόσωπα και οντότητες, μεταξύ των οποίων και ξένες χώρες. Οι πελάτες της υπήρξαν μεγάλες επιχειρήσεις, από εμπορικά καταστήματα, μέχρι καζίνο και κέντρα υγείας, οι οποίες ήταν παραπάνω από πρόθυμες να χρησιμοποιήσουν την εφαρμογή, αρκεί να μην ήξερε κανείς ότι το κάνουν. Η Clearview ισχυρίζεται τώρα ότι περιορίζει τη χρήση στις αρχές επιβολής του νόμου, αλλά δεν έχει παράσχει καμία βάση να εμπιστευτούμε την πολιτική αυτή ως αληθή ή ότι θα συνεχίσει να ισχύει όταν η Clearview φύγει από το προσκήνιο.
Ένας απροσδιόριστος αριθμός κατοίκων του Βερμόντ βρίσκεται σε αυτή τη βάση δεδομένων. Ούτε ένας από αυτούς δεν έχει συναινέσει στο να βρίσκεται αυτή. Ακόμη χειρότερα, τα παιδιά τους έχουν πιαστεί στο δίχτυ αυτό, χωρίς καμία δυνατότητα διαφυγής. Μας έχουν αναγκάσει να στεκόμαστε σε μια αναγνώριση υπόπτων, χωρίς τη θέλησή μας, κάθε φορά που κάποιο αδίστακτο άτομο ή επιχείρηση ψάχνει τη βάση δεδομένων της Clearview.
Με την αίτηση αυτή, ο Γενικός Εισαγγελέας του Βερμόντ λέει «Ως εδώ».
Η απάντηση της Clearview AI στους ισχυρισμούς αυτούς θα έρθει την ίδια ημέρα: «Η Clearview AI λειτουργεί με τρόπο παρόμοιο με μηχανές αναζήτησης, όπως η Google και το Bing. Η Clearview AI, ωστόσο, συλλέγει πολύ λιγότερα δεδομένα από τη Google και το Bing, διότι η Clearview AI συλλέγει μόνο δημόσιες φωτογραφίες και τη web address τους. Αυτό είναι όλο», θα αναφέρει το δελτίο τύπου της εταιρείας, συμπληρώνοντας ότι «Η Google, το Bing και το Facebook συλλέγουν πολύ περισσότερα δεδομένα, συμπεριλαμβανομένων ονομάτων, διευθύνσεων, οικονομικών πληροφοριών και πληροφοριών υγείας και καταναλωτικών συνηθειών».
H Clearview στην εποχή του κορωνοϊού.
Οι σκέψεις του Γενικού Εισαγγελέα του Βερμόντ παρουσιάζουν ενδιαφέρον και, αν μη τι άλλο, συγκινούν όσους στέκονται απέναντι στην παραβίαση της ιδιωτικότητας. Δεν είναι όμως παρά μία από τις ελάχιστες εξαιρέσεις στον κανόνα.
Και ο κανόνας είναι ότι οι περισσότερες αρμόδιες αρχές παραμένουν απαθείς απέναντι στο τεραστίων διαστάσεων scraping δεδομένων και την εξαγωγή βιομετρικών υποδειγμάτων που έχει κάνει η εταιρεία. Η παρατεταμένη σιωπή τους αυτή, ακόμη και μετά τις αποκαλύψεις που έχουν προηγηθεί, θα μπορούσε, δυστυχώς, να ερμηνευθεί ως επιβεβαίωση των ισχυρισμών της εταιρείας για τη χρησιμότητα της εφαρμογής της.
Ο κανόνας θα επιβεβαιωθεί λίγες ημέρες αργότερα, τη 17-3, με ένα δημοσίευμα της Wall Street Journal, που έρχεται να αποκαταστήσει τις εντυπώσεις. Η κυβέρνηση των ΗΠΑ, σύμφωνα με το άρθρο, βρίσκεται σε επαφές με την εταιρεία, προκειμένου να χρησιμοποιήσει τη βάση δεδομένων της για τον εντοπισμό ασθενών που έχουν τον ιό. Ο σκοπός αγιάζει τα μέσα, οι έκτακτες συνθήκες απαιτούν και έκτακτα μέτρα και κάπως έτσι η συλλογή των φωτογραφιών και η επεξεργασία βιομετρικών δεδομένων μπορεί να είναι εν τέλει χρήσιμη.
Οι προβληματισμοί περί του αντιθέτου, ωστόσο, θα εξακολουθήσουν να έρχονται στην επικαιρότητα.
● Την 24-3, το OneZero θα γίνει το δεύτερο μέσο που θα δημοσιεύσει τα αποτελέσματα αίτησης πρόσβασης στη βάση δεδομένων της εταιρείας.
● Στις 7-4 η HuffPost θα αποκαλύψει τους δεσμούς των στελεχών της Clearview AI με την αμερικανική ακροδεξιά, με μια έρευνα πολύ εκτεταμένη και λεπτομερή.
● Στις 15-4 η AFP, η ομοσπονδιακή αστυνομία της Αυστραλίας θα γίνει ακόμη μια αστυνομική αρχή που θα συνομολογήσει τη χρήση της εφαρμογής, παρά τις αρχικές διαψεύσεις της.
● Σε ένα ακόμη πλήγμα για την αξιοπιστία των μέτρων ασφάλειας της εταιρείας, δημοσίευμα του TechCrunch στις 16-4 θα αποκαλύψει ότι η SpiderSilk, εταιρεία κυβερνοασφάλειας από το Ντουμπάι, απέκτησε πρόσβαση σε αρχεία της εταιρείας, μεταξύ των οποίων και ο πηγαίος κώδικας της εφαρμογής της.
Πού βρισκόμαστε σήμερα.
Στο ίδιο ακριβώς σημείο στο οποίο βρισκόμασταν όταν μάθαμε για πρώτη φορά για την ύπαρξη της Clearview AI.
Τρεις μήνες πριν, μια από τις μεγαλύτερες εφημερίδες των ΗΠΑ αποκάλυψε ότι μια άγνωστη εταιρεία έχει συλλέξει προσωπικά δεδομένα εκατομμυρίων πολιτών και τα έχει χρησιμοποιήσει ως πηγή για εξαγωγή βιομετρικών δεδομένων, προκειμένου να διαθέσει στην αγορά μια εφαρμογή αναγνώρισης προσώπων.
Στο διάστημα που ακολούθησε της αποκάλυψης αυτής, μάθαμε επίσης ότι η εταιρεία διαθέτει την εφαρμογή της όχι μόνο στις ΗΠΑ, αλλά και στον υπόλοιπο κόσμο, όχι μόνο σε αστυνομικές αρχές, αλλά και σε ιδιωτικές επιχειρήσεις ή ακόμη και σε φυσικά πρόσωπα.
Μάθαμε επίσης ότι η εταιρεία σχεδιάζει την επέκταση της εφαρμογής της και σε συστήματα βιντεοεπιτήρησης, αλλά και σε αναγνώριση προσώπων με τη χρήση γυαλιών επαυξημένης πραγματικότητας. Ο χρήστης των τεχνολογιών αυτών θα μπορεί σε real-time να ταυτοποιεί οποιοδήποτε πρόσωπο βρίσκεται εντός εμβέλειας της κάμερας ή περνά μπροστά του, τη στιγμή που φορά τα γυαλιά.
Απέναντι στον καταιγισμό αυτό των αποκαλύψεων, κανείς δεν έχει αντιδράσει.
Στις ΗΠΑ, η Clearview AI καλείται από την ομοσπονδιακή κυβέρνηση να θέσει την εφαρμογή της στη μάχη για τον περιορισμό του κορωνοϊού. Οι τεχνολογίες αναγνώρισης προσώπου είναι το κατεξοχήν πεδίο στο οποίο «ο σκοπός αγιάζει τα μέσα».
Στην Ευρώπη, όπου θα περίμενε κανείς εντονότερες αντιδράσεις και αμεσότερες παρεμβάσεις, μόνο η σουηδική αρχή ασχολήθηκε με το ζήτημα.
Η Ευρωπαϊκή Επιτροπή διέρρευσε ανεπισήμως ότι παρακολουθεί το ζήτημα και έκτοτε σιωπά. Είναι ίσως αναμενόμενο, άλλωστε δεν πρέπει να παραβλέπουμε την βίαιη μετάθεση προτεραιοτήτων που έχει προκαλέσει η πανδημία.
Από την άλλη πλευρά όμως, ένας από τους σημαντικότερους προβληματισμούς πού έχουν αναδειχθεί στην προσπάθεια περιορισμού της εξάπλωσης του ιού – και ίσως ο σημαντικότερος από αυτούς που θα μας απασχολήσουν την επόμενη ημέρα – είναι η σκοπιμότητα, η αναγκαιότητα και ο βαθμός της υποχώρησης θεμελιωδών ατομικών δικαιωμάτων στο όνομα της προστασίας του δημοσίου συμφέροντος. Και στην περίπτωση της Ευρώπης, η κρίση αυτή μπορεί να συνοψιστεί έξοχα στο αν και σε ποιο βαθμό «ο σκοπός αγιάζει τα μέσα».
Ειδικά στην περίπτωση της Clearview AI, το πρόβλημα που καλείται να αντιμετωπίσει η Ένωση είναι, ίσως, πιο σύνθετο από κάθε άλλη περίπτωση που αντιμετωπίσαμε στο παρελθόν. Με ένα νέο, αυστηρότερο από ποτέ και εξαιρετικά δημοφιλές νομοθετικό πλαίσιο για την προστασία των προσωπικών δεδομένων των πολιτών της, η Ευρωπαϊκή Ένωση καλείται να δώσει απαντήσεις σε μια δραστηριότητα ιδιαίτερα σύνθετη, με πολλές διακριτές δραστηριότητες - πράξεις επεξεργασίας.
Για την προώθηση των εμπορικών σκοπών της, η Clearview AI:
Α. έχει συλλέξει και αποθηκεύσει προσωπικά δεδομένα εκατομμυρίων ευρωπαίων πολιτών.
Αυτή είναι μια αυτοτελής δραστηριότητα, που δεν θα πρέπει να παραγνωριστεί. Δεν είναι άλλωστε η πρώτη εταιρεία που το κάνει αυτό, Λίγα χρόνια πριν, μια επίσης άγνωστη εταιρεία, η hiQ είχε εμπλακεί σε δικαστική διαμάχη με το LinkedIn, για το scraping βιογραφικών που έκανε, προκειμένου να τα μεταπωλεί σε εργοδότες.
Η δημιουργία μαζικών βάσεων δεδομένων για εμπορική χρήση είναι μια δραστηριότητα εξαιρετικά επικερδής και ιδιαίτερα εύκολη.
Τα ερωτήματα όμως είναι πολλά.
Μπορεί μια εταιρεία αμερικανικών συμφερόντων να συλλέγει προσωπικά δεδομένα ευρωπαίων πολιτών προκειμένου να στήνει βάσεις δεδομένων για εμπορικούς σκοπούς; Εντάσσεται μια τέτοια δραστηριότητα στο εδαφικό πεδίο εφαρμογής του Γενικού Κανονισμού και ποιες δυνατότητες έχουν οι ευρωπαίοι πολίτες για την προστασία των δικαιωμάτων τους17;
Β. έχει επεξεργαστεί βιομετρικά δεδομένα των προσώπων αυτών.
Πολλοί θα ισχυριστούν ότι η επεξεργασία βιομετρικών δεδομένων για σκοπούς αντιμετώπισης του εγκλήματος είναι σύννομη, ακόμη και αναγκαία. Όχι τυχαία, οι υπέρμαχοι της χρήσης της εφαρμογής της Clearview τονίζουν το πόσες υποθέσεις με θύματα παιδιά έχουν διαλευκανθεί, χάρη στις δυνατότητες που προσφέρει.
Εδώ όμως δεν πρόκειται για μια εφαρμογή που παρέχει στις διωκτικές αρχές τη δυνατότητα να επεξεργαστούν βιομετρικά δεδομένα. Η βιομετρική ταυτοποίηση γίνεται από την ίδια την Clearview και προσφέρεται έτοιμη σε κάθε ενδιαφερόμενο και με κάθε πιθανό τρόπο. Ακόμα και με μια απλή εφαρμογή κινητού.
Υπό την έννοια αυτή, η νομιμότητα της επεξεργασίας των βιομετρικών δεδομένων θα πρέπει να κριθεί στην ίδια βάση ανεξαρτήτως αν ο χρήστης είναι ο John Catsimatidis ή η Interpol.
Γ. έχει δημιουργήσει μια, κατά κοινή παραδοχή, state-of-the-art εφαρμογή αναγνώρισης προσώπων, την οποία πωλεί μαζί με τη βάση δεδομένων της, τόσο στην Ευρώπη, όσο και σε αγορές του υπόλοιπου κόσμου.
Δεν πρέπει να ξεχνάμε ότι οι τεχνολογίες αναγνώρισης προσώπων τείνουν να εξελιχθούν σε ζήτημα υπαρξιακού χαρακτήρα για την Ευρώπη των ανθρωπίνων δικαιωμάτων. Μετά την αρχική διαρροή της πληροφορίας ότι εξετάζεται η 5ετής απαγόρευση της χρήσης των τεχνολογιών αυτών σε δημόσιους χώρους, η Επιτροπή αφαίρεσε εν τέλει τη σχετική διατύπωση από το κείμενο της «λευκής βίβλου» για την Τεχνητή Νοημοσύνη που δημοσιοποιήθηκε στις 19-2-2020. Η Ευρώπη δεν φαίνεται σίγουρη για το πώς μπορούν να συμβιβαστούν τα δικαιώματα στην ιδιωτικότητα και την προστασία προσωπικών δεδομένων με τις απεριόριστες δυνατότητες που παρέχουν οι τεχνολογίες αυτές.
Όπως έχει εύγλωττα διατυπωθεί από αξιωματούχους της Ένωσης, αν η Ευρώπη δεν προχωρήσει στις τεχνολογίες αυτές, κινδυνεύει να καταστεί ουραγός των τεχνολογικών εξελίξεων, απέναντι σε κολοσσούς που δεν κάμπτονται παρά ελάχιστα (ΗΠΑ) ή και καθόλου (Κίνα) από αντίστοιχα διλήμματα.
«Οι τεχνολογίες αυτές δεν λειτουργούν υπό νομικό κενό» δήλωσε εκπρόσωπος της Επιτροπής στις 12 Φεβρουαρίου, σχολιάζοντας τις πρακτικές της Clearview AI. «Η χρήση προσωπικών δεδομένων εμπίπτει στους αυστηρούς κανόνες του ΓΚΠΔ, οι οποίοι απαιτούν σωστά προσδιορισμένη νομική βάση και νόμιμους σκοπούς»
Στη θεωρητική προσέγγιση είμαστε όλοι σύμφωνοι, στην πράξη όμως πόσο σίγουροι είμαστε ότι τα πράγματα έχουν έτσι;
Πόσο αισιόδοξοι μπορούμε να είμαστε ότι η Ευρώπη έχει απάντηση σε πρακτικές όπως αυτή της Clearview AI;
Πηγή φωτογραφίας: pikrepo.com
1.Πρόκειται για την λεγόμενη «βιομετρική ταυτοποίηση», την οποία η ΟΕ29 [Γνώμη 3/2012] περιγράφει ως εξής: «Η ταυτοποίηση ενός ατόμου από ένα βιομετρικό σύστημα αποτελεί συνήθως τη διαδικασία σύγκρισης των βιομετρικών δεδομένων ενός ατόμου (τα οποία λαμβάνονται κατά την ταυτοποίηση) με μια σειρά βιομετρικών υποδειγμάτων αποθηκευμένων σε βάση δεδομένων (π.χ. μια διαδικασία αντιστοίχισης «ενός προς πολλά»)»
2.Αντίστοιχη τεχνολογία έχει μπει στο στόχαστρο και της Ελληνικής Αστυνομίας, η οποία έχει διενεργήσει σχετικό διαγωνισμό. Βλ. και https://www.homodigitalis.gr/posts/4662
3.Here's What Facebook's Internal Facial Recognition App Looked Like: https://www.vice.com/en_us/article/k7ekmv/facebook-facial-recognition-app
4.Office of the Australian Information Commissioner (OAIC): https://www.oaic.gov.au/about-us/
5.U.S. Senate Committee on Commerce, Science, and Transportation: https://www.commerce.senate.gov/about
6.Attorney General: Η θέση αυτή αποδίδεται στα ελληνικά ως «Γενικός Εισαγγελέας» ή «Υπουργός Δικαιοσύνης». Μολονότι η δεύτερη απόδοση είναι στις περισσότερες περιπτώσεις πιο ακριβής σε σχέση με τις αρμοδιότητές του, χρησιμοποιείται η πρώτη (εναλλακτικά: Εισαγγελέας ή Γ.Ε.) προκειμένου να διακρίνονται οι πολιτειακοί λειτουργοί από τον ομοσπονδιακό Υπουργό Δικαιοσύνης.
7.Biometric Information Privacy Act (BIPA), 740 ILCS/14
8.Στο Ιλλινόις είχαν σταματήσει και τα φιλόδοξα σχέδια του Facebook να αναπτύξει την τεχνολογία αναγνώρισης προσώπου στους χρήστες του, χωρίς να τους ρωτήσει: https://www.digitaltrends.com/news/facebook-forced-to-pay-550-million-settlement-over-facial-recognition/
9.Η Πρώτη Τροποποίηση του Συντάγματος των ΗΠΑ. Προστατεύει σειρά ατομικών δικαιωμάτων, μεταξύ των οποίων και το δικαίωμα στην ελευθερία έκφρασης και πληροφόρησης. Ερμηνευθείσα ιδιαίτερα διασταλτικά από τα δικαστήρια των ΗΠΑ, η διάταξη έχει κριθεί ότι φθάνει μέχρι και το δικαίωμα των πολιτών να βιντεοσκοπούν δημόσια αστυνομικούς κατά την άσκηση των καθηκόντων τους.
10.California Consumer Privacy Act of 2018 [1798.100 - 1798.199]
11.House Committee on Science, Space and Technology: https://science.house.gov/
12.Royal Canadian Mounted Police
13.FOIA [Freedom of Information Act]: Η ομοσπονδιακή νομοθεσία του 1967 για την προστασία του δικαιώματος στην πληροφορία. Βάσει των προβλέψεων του FOIA, οι πολίτες έχουν το δικαίωμα να ζητούν από τις ομοσπονδιακές αρχές τη δημοσιοποίηση πληροφοριών και εγγράφων που τηρούν στα αρχεία τους. Οι αρχές έχουν την υποχρέωση να ικανοποιήσουν το αίτημα, εκτός εάν η πληροφορία που ζητείται εμπίπτει σε μια από τις εννέα εξαιρέσεις του νόμου.
14.Η Αρχή αναφέρεται στις Κατευθυντήριες Γραμμές 3/2019 του ΕΣΠΔ.
15.Vermont Consumer Protection Act, 9 V.S.A. § 2451
16.Acquisition of Brokered Personal Information, 9 V.S.A. § 2431
17.Για να είναι σε κάθε περίπτωση σίγουρη, η Clearview AI παρέχει στα υποκείμενα των δεδομένων τα δικαιώματα πρόσβασης, εναντίωσης και διαγραφής του ΓΚΠΔ: https://clearview.ai/privacy/requests
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου