Αστυνομία και AI: Παραδοχή για σοβαρά σφάλματα στην αναγνώριση προσώπου
Το Ηνωμένο Βασίλειο επεκτείνει την αναγνώριση προσώπου με AI παρά τα σφάλματα. Δείτε τα σοκαριστικά ποσοστά αστοχίας σε μειονότητες που αποκαλύπτει το NPL.
Minas Marios Kontis
Το Ηνωμένο Βασίλειο επεκτείνει την αναγνώριση προσώπου με AI παρά τα σφάλματα. Δείτε τα σοκαριστικά ποσοστά αστοχίας σε μειονότητες που αποκαλύπτει το NPL.
Σε μια κίνηση που προκαλεί έντονες συζητήσεις για το μέλλον της ιδιωτικότητας και την ηθική της τεχνολογίας, αξιωματούχοι στο Ηνωμένο Βασίλειο δεσμεύτηκαν να εφαρμόσουν ένα πανεθνικό σύστημα αναγνώρισης προσώπου.
Στόχος είναι η χρήση προηγμένων εργαλείων για να βοηθήσουν την αστυνομία στον εντοπισμό εγκληματιών, σηματοδοτώντας μια νέα εποχή στην ψηφιακή επιτήρηση.
Οι υπουργοί της χώρας ξεκίνησαν μια διαβούλευση 10 εβδομάδων για να αναλύσουν το κανονιστικό πλαίσιο και το πλαίσιο προστασίας της ιδιωτικής ζωής του συστήματος παρακολούθησης που βασίζεται στο AI.
Παρά τις ανησυχίες που εκφράζονται συχνά και σε ευρωπαϊκό επίπεδο, φαίνεται πως με τον έναν ή τον άλλον τρόπο, ο ψηφιακός «παντεπόπτης οφθαλμός» έρχεται, φέρνοντας μια νέα πραγματικότητα στην αστυνόμευση.
Υπάρχει όμως μια κρίσιμη «λεπτομέρεια» που σκιάζει αυτή την τεχνολογική καινοτομία: οι κάμερες αναγνώρισης προσώπου με τεχνολογία AI έχουν την τάση να κάνουν εσφαλμένες ταυτοποιήσεις, εμφανίζοντας σημαντικές αποκλίσεις σε μη λευκούς ανθρώπους.
Ένα νέο αποκαλυπτικό ρεπορτάζ του The Guardian επισημαίνει ότι οι δοκιμές της τεχνολογίας AI που διεξήχθησαν από το έγκριτο National Physical Laboratory (NPL) κατέληξαν σε ανησυχητικά συμπεράσματα.
Διαπιστώθηκε ότι το σύστημα είναι «πιο πιθανό να συμπεριλάβει λανθασμένα ορισμένες δημογραφικές ομάδες στα αποτελέσματα αναζήτησής του» — και συγκεκριμένα Μαύρους και Ασιάτες πολίτες.
Αν και η υπουργός αστυνόμευσης Sarah Jones περιέγραψε την τεχνολογία αναγνώρισης προσώπου ως τη «μεγαλύτερη ανακάλυψη για τη σύλληψη εγκληματιών μετά την ταυτοποίηση DNA», η πραγματικότητα των αριθμών δημιουργεί σκεπτικισμό.
Κατώτεροι αστυνομικοί διευθυντές δήλωσαν στον The Guardian ότι το εύρημα του NPL «ρίχνει φως σε μια ανησυχητική ενσωματωμένη προκατάληψη». Οι ίδιοι ζήτησαν επίσης προσοχή στην εθνική εφαρμογή του μέτρου, μια έκκληση που όμως φαίνεται να πέφτει στο κενό μπροστά στην πίεση για τεχνολογική αναβάθμιση.
Τα στατιστικά της προκατάληψης στο AI:
Σύμφωνα με την ενδελεχή ανάλυση του NPL, το εθνικό «εργαλείο αναδρομικής αναγνώρισης προσώπου» — ένα από τα τρία είδη λογισμικού που χρησιμοποιεί η αστυνομία — παρουσιάζει τα εξής ποσοστά σφάλματος, που αποδεικνύουν το χάσμα ακρίβειας:
- Λευκά υποκείμενα: Ποσοστό ψευδούς θετικής ταυτοποίησης μόλις 0,04%.
- Ασιάτες υποκείμενα: Ποσοστό που εκτινάσσεται στο 4,0%.
- Μαύρα υποκείμενα: Ποσοστό που αγγίζει το 5,5%.
