Το Ηνωμένο Βασίλειο επεκτείνει το σύστημα AI αναγνώρισης προσώπου παρά τις ανησυχίες για φυλετική μεροληψία
Σε μια κίνηση που προκαλεί αντιδράσεις, αξιωματούχοι στο Ηνωμένο Βασίλειο δεσμεύτηκαν να αναπτύξουν ένα εκτεταμένο σύστημα αναγνώρισης προσώπου σε όλη την επικράτεια, με στόχο να ενισχύσουν το έργο της αστυνομίας στον εντοπισμό εγκληματιών.
Οι υπουργοί της χώρας εγκαινίασαν μια διαβούλευση 10 εβδομάδων για να καθορίσουν το ρυθμιστικό πλαίσιο και τους κανόνες προστασίας της ιδιωτικής ζωής για αυτό το «πανοπτικό» σύστημα παρακολούθησης που βασίζεται στην τεχνολογία AI. Ωστόσο, φαίνεται πως η έλευση του ψηφιακού «παντεπόπτη οφθαλμού» είναι πλέον αναπόφευκτη.
Υπάρχει όμως ένα σοβαρό τεχνολογικό και ηθικό «αγκάθι»: οι προηγμένες κάμερες αναγνώρισης προσώπου με τεχνολογία AI έχουν την τάση να κάνουν συστηματικά λανθασμένη αναγνώριση σε άτομα που δεν είναι λευκά.
Ανησυχητικά ευρήματα: Η AI στοχεύει λάθος άτομα
Ένα νέο, αποκαλυπτικό ρεπορτάζ του The Guardian φέρνει στο φως δεδομένα που προβληματίζουν. Δοκιμές της τεχνολογίας AI που πραγματοποιήθηκαν από το εγνωσμένου κύρους National Physical Laboratory (NPL) διαπίστωσαν ότι:
Το σύστημα είναι «πιο πιθανό να συμπεριλάβει λανθασμένα ορισμένες δημογραφικές ομάδες στα αποτελέσματα αναζήτησής του».
Τα αποτελέσματα δείχνουν ξεκάθαρη στόχευση σε συγκεκριμένες ομάδες, και ειδικότερα σε Μαύρους και Ασιάτες πολίτες.
Η σύγκρουση για το μέλλον της αστυνόμευσης
Παρά τα ευρήματα, η πολιτική ηγεσία φαίνεται αμετακίνητη. Η υπουργός αστυνόμευσης Sarah Jones περιέγραψε την τεχνολογία αναγνώρισης προσώπου ως τη «μεγαλύτερη ανακάλυψη για τη σύλληψη εγκληματιών μετά την ταυτοποίηση DNA», υπογραμμίζοντας τη σημασία της για την εξέλιξη της ασφάλειας.
Στον αντίποδα, χαμηλόβαθμοι αστυνομικοί επίτροποι δήλωσαν στον The Guardian ότι το εύρημα του NPL «ρίχνει φως σε μια ανησυχητική ενσωματωμένη μεροληψία» των αλγορίθμων. Παρομοίως ζήτησαν μεγάλη προσοχή στην εθνική εφαρμογή του μέτρου, μια έκκληση που, προς το παρόν, φαίνεται να πέφτει στο κενό μπροστά στην τεχνολογική επέλαση.
Τα στατιστικά της αποτυχίας
Σύμφωνα με την λεπτομερή ανάλυση του NPL, το εθνικό «εργαλείο αναδρομικής αναγνώρισης προσώπου» — ένα από τα τρία βασικά είδη λογισμικού που χρησιμοποιεί η αστυνομία — παρουσιάζει δραματικές αποκλίσεις ανάλογα με τη φυλή.
Τα στοιχεία είναι αποκαλυπτικά:
- Το σύστημα έχει ποσοστό ψευδώς θετικής ταυτοποίησης για λευκά υποκείμενα μόλις 0,04%.
- Για ασιατικά υποκείμενα, το σφάλμα εκτοξεύεται στο 4,0%.
- Για μαύρα υποκείμενα, το ποσοστό λάθους φτάνει το 5,5%.
Αυτό το ποσοστό είναι δραματικά χαμηλότερο για τους λευκούς σε σύγκριση με τα σφάλματα για άλλες ομάδες, εγείροντας σοβαρά ερωτήματα για την αξιοπιστία της τεχνολογίας AI σε κρίσιμους τομείς.
Τα παραπάνω στοιχεία υπογραμμίζουν την άμεση ανάγκη για αυστηρότερο έλεγχο πριν την καθολική εφαρμογή της τεχνολογίας.