Μάθετε πώς ένα σφάλμα AI στην αστυνομία της Utah μετέτρεψε έναν αστυνομικό σε βάτραχο! Η τεχνολογία Draft One, η Disney και η σημασία της ανθρώπινης επίβλεψης.
Η τεχνολογία εξελίσσεται ραγδαία και οι αστυνομικές αρχές παγκοσμίως έχουν υιοθετήσει με ταχύτατους ρυθμούς το AI για διάφορες εργασίες. Η τάση αυτή παρατηρείται τόσο σε διεθνές επίπεδο όσο και σε επίπεδο πιλοτικών προγραμμάτων στην Ευρώπη και την Ελλάδα.
Αυτή η επανάσταση στον χώρο της ασφάλειας περιλαμβάνει εφαρμογές που ποικίλλουν:
Τα αποτελέσματα, ωστόσο, δεν είναι πάντα τα αναμενόμενα. Παρά τις υποσχέσεις για το μέλλον της αστυνόμευσης, ορισμένες φορές η πραγματικότητα αποδεικνύεται απογοητευτική — ή ακόμα και ξεκαρδιστική.
Σε μια ιδιαίτερα κραυγαλέα περίπτωση, το αστυνομικό τμήμα στο Heber City της Utah κλήθηκε να δώσει εξηγήσεις για ένα απίστευτο περιστατικό: ένα λογισμικό σύνταξης αναφορών αποφάνθηκε ότι ένας αστυνομικός είχε... μεταμορφωθεί σε βάτραχο.
Όπως αναφέρει το Fox 13 με έδρα το Salt Lake City, το προβληματικό εργαλείο AI φαίνεται πως «παρερμήνευσε» ήχους από το περιβάλλον, καταλήγοντας να επινοήσει ένα φανταστικό σενάριο βγαλμένο κυριολεκτικά από παραμύθι.
Το σφάλμα προέκυψε όταν το σύστημα άκουσε μια ταινία που έπαιζε στο παρασκήνιο. Ο αστυνομικός λοχίας Rick Keel εξήγησε στο κανάλι τι ακριβώς συνέβη:
«Το λογισμικό της κάμερας σώματος (body cam) και το λογισμικό συγγραφής αναφορών AI κατέγραψαν την ταινία που έπαιζε στο υπόβαθρο, η οποία έτυχε να είναι το "The Princess and the Frog"», δήλωσε ο Keel, αναφερόμενος στη μουσική κωμωδία της Disney από το 2009. «Τότε ήταν που μάθαμε τη σημασία της διόρθωσης αυτών των αναφορών που δημιουργούνται από AI».
Το τμήμα είχε ξεκινήσει να δοκιμάζει το Draft One, ένα λογισμικό που βασίζεται στο AI, για την αυτόματη δημιουργία αστυνομικών αναφορών απευθείας από το υλικό της κάμερας σώματος.
Ο βασικός στόχος της εφαρμογής είναι η μείωση της γραφειοκρατίας — μια ανάγκη που υπάρχει έντονα και στις ελληνικές αστυνομικές υπηρεσίες. Ωστόσο, τα αποτελέσματα της δοκιμής σαφώς ποικίλλουν, καθώς τεράστια λάθη φαίνεται να ξεφεύγουν της προσοχής:
Παρά τα μειονεκτήματα και τα περιστατικά αυτά, ο Keel αναγνωρίζει πως η τεχνολογία έχει δυνατότητες. Η προϋπόθεση, όμως, είναι να υπάρχει πάντα αυστηρή ανθρώπινη επίβλεψη για να αποφεύγονται τέτοια σουρεαλιστικά σενάρια στο μέλλον.
