Ένα απίστευτο νομικό περιστατικό στις ΗΠΑ! Δικαστής ανακαλεί απόφαση γεμάτη λάθη που θυμίζουν «παραισθήσεις» AI. Δείτε πώς η τεχνολογία αλλάζει τη δικαιοσύνη.
Η τεχνολογία AI φέρνει μια πραγματική επανάσταση σε πολλούς τομείς, αλλά η ενσωμάτωσή της στον νομικό κόσμο αποδεικνύεται περίπλοκη. Ένα πρόσφατο περιστατικό στις ΗΠΑ, όπου ένας δικαστής αναγκάστηκε να ανακαλέσει την απόφασή του, υπογραμμίζει τους κινδύνους από την αλόγιστη χρήση προηγμένων εργαλείων AI, όπως το ChatGPT, στη νομική έρευνα.
Ένας περιφερειακός δικαστής των ΗΠΑ ανακάλεσε την απόφασή του σε μια υπόθεση κινητών αξιών της βιοφαρμακευτικής εταιρείας CorMedix. Η κίνηση αυτή ήρθε αφότου οι δικηγόροι επισήμαναν ότι η γνωμοδότησή του περιείχε ψευδή αποσπάσματα και άλλες λανθασμένες πληροφορίες για σχετικές υποθέσεις — σφάλματα που παραπέμπουν ευθέως σε δυσλειτουργίες που έχουν παρατηρηθεί σε εργαλεία AI.
Σε μια επιστολή που εστάλη στον δικαστή του New Jersey, Julien Xavier Neals, ο δικηγόρος Andrew Lichtman ανέφερε ότι υπήρχε μια «σειρά σφαλμάτων» στην αρχική απόφαση. Τα λάθη αυτά περιλάμβαναν:
Όπως ανέφερε πρώτο το Bloomberg Law, μια νέα ανακοίνωση στο πινάκιο του δικαστηρίου ανέφερε ότι «εκείνη η γνωμοδότηση και διαταγή καταχωρήθηκαν εκ παραδρομής» και ότι θα ακολουθήσει νέα. Αν και οι διορθώσεις ήσσονος σημασίας είναι συχνές, η πλήρης ανάκληση και αναδιατύπωση αποφάσεων είναι εξαιρετικά σπάνια.
Παρόλο που δεν υπάρχει επίσημη επιβεβαίωση ότι χρησιμοποιήθηκε AI για τη συγγραφή της απόφασης, τα σφάλματα έχουν όλα τα χαρακτηριστικά των λεγόμενων παραισθήσεων του AI (AI hallucinations).
Πρόκειται για ένα γνωστό φαινόμενο όπου τα γλωσσικά μοντέλα παράγουν ψευδείς, παραπλανητικές ή εντελώς ανύπαρκτες πληροφορίες με απόλυτη βεβαιότητα.
Το φαινόμενο αυτό έχει ήδη εμφανιστεί σε άλλες νομικές υποθέσεις, καθώς οι δικηγόροι στρέφονται όλο και περισσότερο σε εργαλεία όπως το ChatGPT για να επιταχύνουν τη νομική τους έρευνα, συχνά χωρίς την απαραίτητη κριτική αξιολόγηση των αποτελεσμάτων.
Αυτό το περιστατικό λειτουργεί ως προειδοποίηση για τη νομική κοινότητα παγκοσμίως, συμπεριλαμβανομένης της Ελλάδας και της Ευρώπης.
Η εξέλιξη της τεχνολογίας AI προσφέρει πρωτοφανείς δυνατότητες, αλλά απαιτεί και νέα πρωτόκολλα ελέγχου και επαλήθευσης. Το μέλλον της νομικής επιστήμης θα εξαρτηθεί από την ικανότητά μας να αξιοποιούμε την καινοτομία με υπευθυνότητα, διασφαλίζοντας την ακεραιότητα και την αξιοπιστία της δικαιοσύνης.
