Η Αστυνομία του Ηνωμένου Βασιλείου επεκτείνει την AI αναγνώριση προσώπου παρά τις αποδείξεις για φυλετικές διακρίσεις. Δείτε τα ανησυχητικά δεδομένα του NPL.
Σε μια κίνηση που προκαλεί αντιδράσεις, αξιωματούχοι στο Ηνωμένο Βασίλειο δεσμεύτηκαν να αναπτύξουν ένα εκτεταμένο σύστημα αναγνώρισης προσώπου σε όλη την επικράτεια, με στόχο να ενισχύσουν το έργο της αστυνομίας στον εντοπισμό εγκληματιών.
Οι υπουργοί της χώρας εγκαινίασαν μια διαβούλευση 10 εβδομάδων για να καθορίσουν το ρυθμιστικό πλαίσιο και τους κανόνες προστασίας της ιδιωτικής ζωής για αυτό το «πανοπτικό» σύστημα παρακολούθησης που βασίζεται στην τεχνολογία AI. Ωστόσο, φαίνεται πως η έλευση του ψηφιακού «παντεπόπτη οφθαλμού» είναι πλέον αναπόφευκτη.
Υπάρχει όμως ένα σοβαρό τεχνολογικό και ηθικό «αγκάθι»: οι προηγμένες κάμερες αναγνώρισης προσώπου με τεχνολογία AI έχουν την τάση να κάνουν συστηματικά λανθασμένη αναγνώριση σε άτομα που δεν είναι λευκά.
Ένα νέο, αποκαλυπτικό ρεπορτάζ του The Guardian φέρνει στο φως δεδομένα που προβληματίζουν. Δοκιμές της τεχνολογίας AI που πραγματοποιήθηκαν από το εγνωσμένου κύρους National Physical Laboratory (NPL) διαπίστωσαν ότι:
Το σύστημα είναι «πιο πιθανό να συμπεριλάβει λανθασμένα ορισμένες δημογραφικές ομάδες στα αποτελέσματα αναζήτησής του».
Τα αποτελέσματα δείχνουν ξεκάθαρη στόχευση σε συγκεκριμένες ομάδες, και ειδικότερα σε Μαύρους και Ασιάτες πολίτες.
Παρά τα ευρήματα, η πολιτική ηγεσία φαίνεται αμετακίνητη. Η υπουργός αστυνόμευσης Sarah Jones περιέγραψε την τεχνολογία αναγνώρισης προσώπου ως τη «μεγαλύτερη ανακάλυψη για τη σύλληψη εγκληματιών μετά την ταυτοποίηση DNA», υπογραμμίζοντας τη σημασία της για την εξέλιξη της ασφάλειας.
Στον αντίποδα, χαμηλόβαθμοι αστυνομικοί επίτροποι δήλωσαν στον The Guardian ότι το εύρημα του NPL «ρίχνει φως σε μια ανησυχητική ενσωματωμένη μεροληψία» των αλγορίθμων. Παρομοίως ζήτησαν μεγάλη προσοχή στην εθνική εφαρμογή του μέτρου, μια έκκληση που, προς το παρόν, φαίνεται να πέφτει στο κενό μπροστά στην τεχνολογική επέλαση.
Σύμφωνα με την λεπτομερή ανάλυση του NPL, το εθνικό «εργαλείο αναδρομικής αναγνώρισης προσώπου» — ένα από τα τρία βασικά είδη λογισμικού που χρησιμοποιεί η αστυνομία — παρουσιάζει δραματικές αποκλίσεις ανάλογα με τη φυλή.
Τα στοιχεία είναι αποκαλυπτικά:
Αυτό το ποσοστό είναι δραματικά χαμηλότερο για τους λευκούς σε σύγκριση με τα σφάλματα για άλλες ομάδες, εγείροντας σοβαρά ερωτήματα για την αξιοπιστία της τεχνολογίας AI σε κρίσιμους τομείς.
Τα παραπάνω στοιχεία υπογραμμίζουν την άμεση ανάγκη για αυστηρότερο έλεγχο πριν την καθολική εφαρμογή της τεχνολογίας.
