Ένα νέο AI της Axon, το Draft One, γράφει αστυνομικές αναφορές, αλλά σβήνει τα ίχνη του. Μάθετε για τους κινδύνους στη διαφάνεια και τη δικαιοσύνη.
Η εξέλιξη της τεχνολογίας AI φέρνει μια επανάσταση στον τρόπο λειτουργίας των αστυνομικών αρχών. Ένα νέο, προηγμένο εργαλείο υπόσχεται να αυτοματοποιήσει τη σύνταξη αναφορών, αλλά εγείρει σοβαρά ερωτήματα για τη διαφάνεια και τη λογοδοσία.
Την Πέμπτη, το Electronic Frontier Foundation (EFF), μια κορυφαία οργάνωση για την προάσπιση των ψηφιακών δικαιωμάτων, δημοσίευσε μια εκτενή έρευνα που κρούει τον κώδωνα του κινδύνου.
Το αντικείμενο της έρευνας είναι οι αστυνομικές αναφορές που δημιουργούνται από AI. Σύμφωνα με την ομάδα, η συγκεκριμένη τεχνολογία είναι εκ σχεδιασμού σχεδόν αδύνατο να ελεγχθεί, κάτι που θα μπορούσε να διευκολύνει αστυνομικούς να παραποιήσουν στοιχεία ή ακόμη και να ψεύδονται ενόρκως.
Το Draft One, η καινοτομία της εταιρείας Axon, έκανε το ντεμπούτο του το περασμένο καλοκαίρι σε πιλοτική εφαρμογή σε αστυνομικό τμήμα στο Colorado. Η εμφάνισή του πυροδότησε αμέσως συζητήσεις για τις ανησυχητικές επιπτώσεις που μπορεί να έχει ένα τέτοιο σύστημα AI στο σύστημα ποινικής δικαιοσύνης.
Το εργαλείο χρησιμοποιεί μια παραλλαγή του ChatGPT για να μετατρέπει αυτόματα τον ήχο από τις κάμερες σώματος (body cameras) σε γραπτές αστυνομικές αναφορές. Θεωρητικά, οι αστυνομικοί οφείλουν να ελέγχουν και να επεξεργάζονται το παραγόμενο κείμενο για να διορθώσουν τυχόν λάθη, να αξιολογήσουν τα αποτελέσματα για μεροληπτικές τάσεις (bias) ή να προσθέσουν απαραίτητες διευκρινίσεις.
Η έρευνα του EFF αποκάλυψε ότι η τεχνολογία του Draft One «φαίνεται σχεδιασμένη για να εμποδίζει κάθε προσπάθεια ελέγχου, διαφάνειας και λογοδοσίας».
Τα βασικά προβλήματα που εντοπίστηκαν είναι τα εξής:
Αυτό οδηγεί στο κρίσιμο ερώτημα που θέτει το EFF: «Γιατί μια υπηρεσία να μη θέλει να διατηρεί ένα αρχείο που μπορεί να αποδείξει την ακρίβεια της τεχνολογίας της;»
Η χρήση τέτοιων προηγμένων συστημάτων AI εγείρει σημαντικά ζητήματα και για το ευρωπαϊκό πλαίσιο. Με δεδομένους τους αυστηρούς κανόνες προστασίας δεδομένων (GDPR) και την έμφαση στη διαφάνεια, η υιοθέτηση μιας τεχνολογίας όπως το Draft One χωρίς μηχανισμούς ελέγχου και λογοδοσίας θα ήταν προβληματική.
Το μέλλον της αστυνόμευσης περνά μέσα από την τεχνολογία, αλλά η εμπιστοσύνη των πολιτών απαιτεί απόλυτη διαφάνεια.
Πηγή: Ars Technica
Δείτε τα σχόλια στο αρχικό άρθρο
