Όταν ο Ian Clayton, ένας συνταξιούχος επαγγελματίας υγείας και ασφάλειας από το Τσέστερ, εμφανίστηκε στο Home Bargains ένα μεσημέρι του Φεβρουαρίου, ξαφνικά τον πλησίασε ένα αυστηρό μέλος του προσωπικού.
«Με συγχωρείτε, μπορείτε να τα αφήσετε όλα κάτω και να φύγετε τώρα από το κατάστημα;†είπε εκείνη. Ο Κλέιτον θυμήθηκε πώς έμεινε άναυδος, και μόνο καθώς περνούσε βιαστικά από τους λόφους προς την έξοδο σταμάτησε για να ρωτήσει τι είχε κάνει.
“Έχετε εμφανιστεί στο σύστημά μας που ονομάζεται Facewatch ως κλέφτης καταστημάτων”, ήρθε η απάντηση. «Υπάρχει μια αφίσα στη βιτρίνα». Με αυτό, έμεινε μόνος έξω από το κατάστημα, με έναν κωδικό QR για σάρωση και χωρίς ιδέα τι είχε συμβεί.
Είναι ένας από τους πολλούς ανθρώπους που μίλησαν στον Guardian μετά την ψευδή ταυτότητά του ως κλέφτη από καταστήματα που χρησιμοποιούν το Facewatch, ένα ζωντανό σύστημα αναγνώρισης προσώπου που κυκλοφορεί σε όλο το Ηνωμένο Βασίλειο για την καταστολή του εγκλήματος λιανικής.
Ο ιστότοπος της εταιρείας ισχυρίζεται ότι το σύστημά της έχει ποσοστό ακρίβειας 99,98% και ότι τον περασμένο μήνα έστειλε 50.288 ειδοποιήσεις για «γνωστούς παραβάτες» σε καταστήματα όπως τα B&M, Home Bargains, Sports Direct, Farm Foods και Spar, τα οποία πλέον χρησιμοποιούν το λογισμικό.
Αλλά όσοι έχουν εντοπιστεί εσφαλμένα και αναγκάστηκαν να εγκαταλείψουν τα καταστήματα, είτε μέσω της ίδιας της τεχνολογίας είτε λόγω ανθρώπινου λάθους, λένε ότι δεν τους δόθηκε καμία υποστήριξη και δεν ήξεραν πώς να παραπονεθούν για τη μεταχείρισή τους ή να αποδείξουν την αθωότητά τους.
Ο Κλέιτον, 67 ετών, είπε ότι αφού αποβλήθηκε από το Home Bargains προσπάθησε να καλέσει έναν αριθμό τηλεφώνου σε μια αφίσα του Facewatch και εστάλη σε ένα μήνυμα που έλεγε ότι η εταιρεία δεν δεχόταν κλήσεις και ότι έπρεπε να στείλει ένα email.
Μπόρεσε να λάβει απαντήσεις μόνο μετά την υποβολή αιτήματος πρόσβασης από το θέμα – ένα επίσημο αίτημα βάσει της νομοθεσίας περί προστασίας δεδομένων για προσωπικές πληροφορίες – που αποκάλυψε ότι είχε συνδεθεί εσφαλμένα με ένα περιστατικό κλοπής σε μια προηγούμενη επίσκεψη στο κατάστημα.
“Ήταν σαν να ήμουν ένοχος μέχρι να αποδειχτεί αθώος. Είναι απαίσιο συναίσθημα. Αφήνει ένα λάκκο στο στομάχι σου και όταν κοιτάζω πίσω τώρα το νιώθω ξανά», είπε.
“Αισθάνεται πολύ οργουελικό. Μας καταγράφουν συνεχώς και μας βάζουν αυτά τα συστήματα, αλλά πρέπει να είμαστε εκεί; Είναι σαν να κατασκοπεύεις χωρίς αιτία. Γνωρίζω υπερβολικά τις κάμερες παντού τώρα, τις γνωρίζω τόσο πολύ.â€
Η Home Bargains του εξέδωσε τελικά μια συγγνώμη και ένα κουπόνι £100 ως «χειρονομία καλής θέλησης χωρίς είσοδο», με την προϋπόθεση ότι οι λεπτομέρειες του περιστατικού παραμένουν εμπιστευτικές. Ο Κλέιτον αρνήθηκε: «Μόλις σκέφτηκα: «Αλήθεια, προσπαθείς να αγοράσεις τη σιωπή μου;»
Καθώς η αναγνώριση προσώπου εξαπλώνεται στις αστυνομικές δυνάμεις και στα καταστήματα λιανικής, οι επίτροποι βιομετρίας του Ηνωμένου Βασιλείου προειδοποιούν ότι η εθνική εποπτεία υστερεί πολύ σε σχέση με την ταχεία επέκταση της τεχνολογίας.
Πέρυσι, το Υπουργείο Εσωτερικών παραδέχτηκε ότι οι κάμερες αναγνώρισης προσώπου ήταν πιο πιθανό να εντοπίζουν εσφαλμένα τους μαύρους και τους Ασιάτες παρά τους λευκούς ομολόγους τους και τις γυναίκες περισσότερο από τους άνδρες, και έχουν υπάρξει αντικρουόμενες μελέτες για τη συνολική τους ακρίβεια.
Ο Warren Rajah, ένας στρατηγός δεδομένων στο νότιο Λονδίνο, κλήθηκε να αφήσει κάτω το καλάθι αγορών του και να φύγει από το τοπικό του κατάστημα Sainsbury, αφού του είπαν ότι είχε εμφανιστεί στο σύστημα Facewatch τον Φεβρουάριο.
«Για μένα, αυτό είναι ένα ζήτημα πολιτικών δικαιωμάτων στο οποίο εξετάζουμε αργά, γιατί αν αφαιρεθείτε χωρίς αμφιβολία, επηρεάζονται τα πολιτικά σας δικαιώματα», είπε.
«Ζούμε ήδη σε μια χώρα που έχει προβλήματα με τον ρατσισμό, είναι ένα αναπόφευκτο ζήτημα. Και γνωρίζουμε ότι οι κάμερες δεν μπορούν να εντοπίσουν χαρακτηριστικά ατόμων που έχουν πιο σκούρα χαρακτηριστικά με τόση ακρίβεια. Και αυτό μπορεί να συμβαίνει σε ανθρώπους που είναι πολύ πιο ευάλωτοι από εμένα.â€
Είπε ότι είχε μεγάλες ανησυχίες σχετικά με την ανάπτυξη αυτής της τεχνολογίας στις αστυνομικές δυνάμεις, καθώς και στον τομέα του λιανικού εμπορίου.
“Ποιος ρυθμίζει αυτές τις εταιρείες και μπορούν να τους εμπιστευτούμε τις πληροφορίες μας; Και το πιο σημαντικό, κανείς δεν έχει πραγματικά ορίσει ποια είναι η προσφυγή σας όταν κάτι πάει στραβά», είπε.
Μετά από αμέτρητα email, τελικά ανακάλυψε ότι δεν ήταν στο σύστημα βάσης δεδομένων Facewatch και τα μέλη του προσωπικού τον είχαν αναγνωρίσει εσφαλμένα. Του προσφέρθηκε ένα κουπόνι £75 ως συγγνώμη – όταν είπε ότι δεν ένιωθε άνετα να επιστρέψει στο κατάστημα, του είπαν να το χρησιμοποιήσει στο διαδίκτυο.
Η Jennie Sanders, 48 ετών, από το Μπέρμιγχαμ, περιηγείτο στο B&M το απόγευμα του Σαββάτου του περασμένου έτους, όταν ένας φύλακας της είπε ότι είχε επισημανθεί στο σύστημα Facewatch και έπρεπε να τη συνοδεύσει στο κατάστημα για να ελέγξει ότι δεν έκλεβε.
“Ήμουν πραγματικά στενοχωρημένος. Ήταν μπροστά σε πολλούς ανθρώπους και ντρεπόμουν πραγματικά. Είπα ότι ήθελα να φύγω και με συνόδευσε έξω από το κατάστημα», είπε.
“Ήταν τρομακτικό, αλλά αυτό που ήταν πιο τρομακτικό ήταν όταν γύρισα σπίτι και άρχισα να ψάχνω στο Facewatch, είδα ότι μοιράζονταν τις πληροφορίες μεταξύ πολλών εμπόρων λιανικής.
«Σκέφτηκα: «Θα με αντιμετωπίζουν σαν κλέφτη σε κάθε κατάστημα. Δεν πρόκειται να μπορέσω ποτέ ξανά να κάνω αγορές από κοντά».â€
Της είπαν ότι έπρεπε να στείλει ένα αντίγραφο του διαβατηρίου της στο Facewatch για να αποδείξει την ταυτότητά της προτού μάθει ότι ήταν στο σύστημα για την κλοπή ενός μπουκαλιού κρασί από την B&M, κάτι που όπως είπε δεν συνέβη ποτέ.
Η B&M της είπε ότι δεν είχε πλέον κανένα αποδεικτικό στοιχείο, συμπεριλαμβανομένου του πλάνα CCTV από την ημέρα, έτσι αφαιρέθηκε από το σύστημα και της πρόσφερε ένα κουπόνι £25.
“Πήρα μερικές μέρες άδεια από τη δουλειά, ήμουν εντελώς εκτός εαυτού. Γιατί ήμουν σε μια βάση δεδομένων εγκληματιών εν αγνοία μου;» είπε. “Δεν θα ξαναπάω στο B&M. Προσπαθώ να μείνω μακριά από μέρη με κάμερες καθόλου – με έχει επηρεάσει πραγματικά
Η Σάντερς είπε ότι παραπονέθηκε στο Γραφείο του Επιτρόπου Πληροφοριών (ICO), τον επίσημο φύλακα που παρακολουθεί τον τρόπο με τον οποίο χρησιμοποιούνται προσωπικές πληροφορίες στην τεχνολογία αναγνώρισης προσώπου, αλλά επτά μήνες αργότερα δεν είχε λάβει ακόμη απάντηση.
Και πρόσθεσε: «Μας είπαν να υποβάλουμε παράπονα και να στείλουμε όλη την αλληλογραφία στον επίτροπο πληροφοριών, αλλά δεν σας απαντούν. Τι διάολο συμβαίνει με κάθε είδους απάντηση στα θύματα αυτού;â€
Ο Rajah είχε επίσης σκεφτεί να παραπονεθεί στο ICO, αλλά δεν μπορούσε να βρει πληροφορίες για το πώς να το κάνει.
“Είναι τόσο χωρίς δόντια», είπε. “Και αυτό το θέμα έχει αναφερθεί καλά, και δεν έχουν δημοσιοποιήσει μια επίσημη διαδικασία καταγγελιών. Πού είναι αυτές οι πληροφορίες; Πώς μπορείτε να παραπονεθείτε όταν δεν υπάρχουν δρόμοι να ακολουθήσετε;â€
Ένας εκπρόσωπος του Sainsbury είπε: «Ζητήσαμε ειλικρινά συγγνώμη από τον κ. Rajah για την εμπειρία του στο κατάστημά μας Elephant and Castle. Αυτό δεν ήταν ένα ζήτημα με την τεχνολογία αναγνώρισης προσώπου που χρησιμοποιείται, αλλά μια περίπτωση που προσεγγίστηκε λάθος άτομο στο κατάστημα.
“Το σύστημα Facewatch έχει ποσοστό ακρίβειας 99,98% και όλοι οι αγώνες ελέγχονται από εκπαιδευμένους διευθυντές, με πρόσθετη εκπαίδευση που παρέχεται μετά από αυτό το περιστατικό για να διασφαλιστεί ότι οι διασφαλίσεις μας τηρούνται με συνέπεια.â€
Ο Nick Fisher, διευθύνων σύμβουλος του Facewatch, δήλωσε: «Γνωρίζουμε τα θέματα που αναφέρονται και σε κάθε περίπτωση, ενεργήσαμε αμέσως μόλις ήρθαν σε επαφή με την ομάδα προστασίας δεδομένων του Facewatch.
“Αυτές οι περιπτώσεις σχετίζονται με ανθρώπινο λάθος στον τρόπο με τον οποίο διεξήχθησαν οι διαδικασίες στο κατάστημα, παρά σε οποιαδήποτε αποτυχία της τεχνολογίας του Facewatch. Λυπούμαστε για αυτά τα άτομα που αντιμετώπισαν πρόκληση κατά τις αγορές και καταλαβαίνουμε γιατί αυτό θα ήταν ενοχλητικό.
“Αυτά τα τρία σφάλματα είναι εξαιρετικά σπάνιες περιπτώσεις όταν προβάλλονται στο πλαίσιο των περισσότερων από 500.000 ειδοποιήσεων που στέλνουμε στους λιανοπωλητές κάθε χρόνο, αλλά αναγνωρίζουμε ότι οποιοδήποτε λάθος είναι αναστατωμένο για το ενδιαφερόμενο άτομο. Το σύστημα έχει σχεδιαστεί για να υποστηρίζει, όχι να αντικαθιστά, την ανθρώπινη λήψη αποφάσεων.â€
Ένας εκπρόσωπος του ICO είπε: «Αναγνωρίζουμε τη βλάβη και την αναστάτωση που μπορεί να προκληθεί από την εσφαλμένη αναγνώριση. Για το λόγο αυτό, η χρήση της τεχνολογίας αναγνώρισης προσώπου πρέπει να συμμορφώνεται αυστηρά με τη νομοθεσία περί προστασίας δεδομένων και να αντιμετωπίζεται με προσοχή και διαφάνεια.
“Εάν κάποιος έχει ανησυχίες σχετικά με τον τρόπο συλλογής, χρήσης ή κοινής χρήσης των δεδομένων του και αυτές οι ανησυχίες δεν μπορούν να επιλυθούν απευθείας με τον πωλητή λιανικής, έχει το δικαίωμα να υποβάλει καταγγελία σε εμάς.
«Συνεχίζουμε επίσης να ρυθμίζουμε ενεργά αυτόν τον τομέα και θα δημοσιεύουμε περαιτέρω οδηγίες λιανικής» για να υποστηρίξουμε τους λιανοπωλητές να κατανοήσουν και να εκπληρώσουν τις υποχρεώσεις τους για την προστασία των δεδομένων, διασφαλίζοντας παράλληλα την κατάλληλη προστασία του κοινού».
Η Home Bargains και η B&M αρνήθηκαν να σχολιάσουν.
