Η εξέλιξη της τεχνολογίας AI φέρνει μια επανάσταση στον τρόπο λειτουργίας των αστυνομικών αρχών. Ένα νέο, προηγμένο εργαλείο υπόσχεται να αυτοματοποιήσει τη σύνταξη αναφορών, αλλά εγείρει σοβαρά ερωτήματα για τη διαφάνεια και τη λογοδοσία.
AI στις Αστυνομικές Αναφορές: Εργαλείο Διαφάνειας ή Μηχανισμός Συγκάλυψης;
Την Πέμπτη, το Electronic Frontier Foundation (EFF), μια κορυφαία οργάνωση για την προάσπιση των ψηφιακών δικαιωμάτων, δημοσίευσε μια εκτενή έρευνα που κρούει τον κώδωνα του κινδύνου.
Το αντικείμενο της έρευνας είναι οι αστυνομικές αναφορές που δημιουργούνται από AI. Σύμφωνα με την ομάδα, η συγκεκριμένη τεχνολογία είναι εκ σχεδιασμού σχεδόν αδύνατο να ελεγχθεί, κάτι που θα μπορούσε να διευκολύνει αστυνομικούς να παραποιήσουν στοιχεία ή ακόμη και να ψεύδονται ενόρκως.
Τι είναι το Draft One της Axon;
Το Draft One, η καινοτομία της εταιρείας Axon, έκανε το ντεμπούτο του το περασμένο καλοκαίρι σε πιλοτική εφαρμογή σε αστυνομικό τμήμα στο Colorado. Η εμφάνισή του πυροδότησε αμέσως συζητήσεις για τις ανησυχητικές επιπτώσεις που μπορεί να έχει ένα τέτοιο σύστημα AI στο σύστημα ποινικής δικαιοσύνης.
Το εργαλείο χρησιμοποιεί μια παραλλαγή του ChatGPT για να μετατρέπει αυτόματα τον ήχο από τις κάμερες σώματος (body cameras) σε γραπτές αστυνομικές αναφορές. Θεωρητικά, οι αστυνομικοί οφείλουν να ελέγχουν και να επεξεργάζονται το παραγόμενο κείμενο για να διορθώσουν τυχόν λάθη, να αξιολογήσουν τα αποτελέσματα για μεροληπτικές τάσεις (bias) ή να προσθέσουν απαραίτητες διευκρινίσεις.
Οι Κίνδυνοι για τη Διαφάνεια και τη Λογοδοσία
Η έρευνα του EFF αποκάλυψε ότι η τεχνολογία του Draft One «φαίνεται σχεδιασμένη για να εμποδίζει κάθε προσπάθεια ελέγχου, διαφάνειας και λογοδοσίας».
Τα βασικά προβλήματα που εντοπίστηκαν είναι τα εξής:
- Έλλειψη Γνωστοποίησης: Δεν υπάρχει υποχρέωση από όλα τα αστυνομικά τμήματα να αποκαλύπτουν πότε χρησιμοποιείται AI για τη δημιουργία μιας αναφοράς.
- Καμία Αποθήκευση Προσχεδίων: Το Draft One δεν αποθηκεύει προσχέδια ούτε διατηρεί ιστορικό αλλαγών. Αυτό σημαίνει ότι είναι αδύνατο να γνωρίζει κανείς ποια μέρη της τελικής αναφοράς γράφτηκαν από το AI και ποια από τον αστυνομικό.
- Αδυναμία Σύγκρισης: Τα αστυνομικά τμήματα δεν κρατούν διαφορετικές εκδόσεις των αναφορών, καθιστώντας ανέφικτη τη σύγκριση και την αξιολόγηση της αξιοπιστίας ή της μεροληψίας του AI.
Αυτό οδηγεί στο κρίσιμο ερώτημα που θέτει το EFF: «Γιατί μια υπηρεσία να μη θέλει να διατηρεί ένα αρχείο που μπορεί να αποδείξει την ακρίβεια της τεχνολογίας της;»
Το Μέλλον της Αστυνόμευσης στην Ελλάδα και την Ευρώπη
Η χρήση τέτοιων προηγμένων συστημάτων AI εγείρει σημαντικά ζητήματα και για το ευρωπαϊκό πλαίσιο. Με δεδομένους τους αυστηρούς κανόνες προστασίας δεδομένων (GDPR) και την έμφαση στη διαφάνεια, η υιοθέτηση μιας τεχνολογίας όπως το Draft One χωρίς μηχανισμούς ελέγχου και λογοδοσίας θα ήταν προβληματική.
Το μέλλον της αστυνόμευσης περνά μέσα από την τεχνολογία, αλλά η εμπιστοσύνη των πολιτών απαιτεί απόλυτη διαφάνεια.
Πηγή: Ars Technica
Δείτε τα σχόλια στο αρχικό άρθρο