Ένα σοβαρό δικαστικό επεισόδιο με άξονα την τεχνητή νοημοσύνη ταλάνισε το Ανώτατο Δικαστήριο του Νέου Μεξικού, όταν αποκαλύφθηκε ότι έγγραφο έφεσης περιείχε εξ ολοκλήρου κατασκευασμένες μαρτυρίες. Ο δικηγόρος Στίβεν Άαρονς είχε χρησιμοποιήσει το ChatGPT της OpenAI για τη σύνταξη του δικογράφου, χωρίς να επαληθεύσει την ακρίβεια των στοιχείων που παρήγαγε το εργαλείο. Το δικαστήριο τον έκρινε ένοχο για ασέβεια και του επέβαλε πρόστιμο 5.000 δολαρίων, ενώ αποφάσισε να παραπέμψει την υπόθεση στο πειθαρχικό συμβούλιο του δικηγορικού συλλόγου.
Ανύπαρκτοι μάρτυρες σε δικόγραφο έφεσης
Η υπόθεση αφορά την έφεση του Όσκαρ Ρενέ Σαντοβάλ, ο οποίος καταδικάστηκε πέρυσι σε ισόβια κάθειρξη για τη δολοφονία της μητέρας των παιδιών του, ενώ ο ίδιος συνεχίζει να δηλώνει αθώος. Ο Στίβεν Άαρονς, δικηγόρος με ιδιωτικό γραφείο στη Σάντα Φε, ανέλαβε την υπεράσπισή του και, κατά την προετοιμασία της έφεσης, τροφοδότησε το ChatGPT με απομαγνητοφωνημένες καταθέσεις και λοιπό υλικό της δίκης, πιστεύοντας ότι το σύστημα θα του παρείχε μια αξιόπιστη σύνοψη. Το αποτέλεσμα, ωστόσο, περιείχε στοιχεία που δεν υπήρχαν πουθενά στη δικογραφία.
Στο δικόγραφο εμφανίστηκαν «ψευδείς μαρτυρίες από εξ ολοκλήρου επινοημένους μάρτυρες», όπως έκρινε το δικαστήριο, καθώς και ανύπαρκτες καταθέσεις αστυνομικών. Χαρακτηριστικό παράδειγμα αποτελεί η αναφορά ότι «ο δράστης φορούσε σκούρο παντελόνι και λευκό μπλουζάκι», μια λεπτομέρεια που ουδέποτε είχε καταγραφεί στη δικογραφία της υπόθεσης. Το Ανώτατο Δικαστήριο ζήτησε τον περασμένο μήνα από τον Άαρονς να εξηγήσει πώς κατέληξαν στο έγγραφο αυτές οι κατασκευασμένες πληροφορίες.
Η εξέλιξη αυτή δεν αποτελεί μεμονωμένο περιστατικό. Πολλοί πολιτειακοί και ομοσπονδιακοί δικαστές στις Ηνωμένες Πολιτείες έχουν επιβάλει πειθαρχικά μέτρα σε δικηγόρους που κατέθεσαν έγγραφα συνταγμένα με τεχνητή νοημοσύνη χωρίς επαρκή έλεγχο. Δεκάδες νομικοί αντιμετωπίζουν πλέον κυρώσεις επειδή τα εργαλεία που χρησιμοποίησαν παρερμήνευσαν τον νόμο ή παρήγαγαν ανακριβή στοιχεία, ενώ ακόμη και ορισμένοι δικαστές έχουν δεχθεί κριτική για ανάλογη χρήση τέτοιων εργαλείων.
Η απολογία του δικηγόρου και η αυστηρή στάση των δικαστών
Ο Άαρονς παραδέχθηκε στο πρακτορείο Reuters ότι χρησιμοποίησε το ChatGPT για να συνοψίσει τη δίκη μόλις ανέλαβε την υπόθεση, χωρίς να αντιληφθεί την έκταση των λεγόμενων «παραισθήσεων» που μπορεί να παράγει η τεχνητή νοημοσύνη. «Έχω μετανοήσει, αλλά διατηρώ την ελπίδα ότι το πειθαρχικό συμβούλιο θα λάβει υπόψη του ότι ήταν ένα ειλικρινές λάθος», δήλωσε ο δικηγόρος, προσθέτοντας ότι η υπόθεσή του αποτελεί μάθημα για όλους τους επαγγελματίες που βασίζονται σε αυτή την ισχυρή, αλλά ασταθή, τεχνολογία.
Το δικαστήριο, ωστόσο, δεν πείστηκε ότι επρόκειτο απλώς για άγνοια κινδύνου. Η δικαστής Σ. Σάνον Μπέικον στάθηκε ιδιαίτερα αυστηρή απέναντι στην εξήγηση του δικηγόρου, λέγοντας χαρακτηριστικά: «Βλέπετε ειδήσεις; Ακούτε ραδιόφωνο; Διαβάζετε οτιδήποτε για όσα συμβαίνουν στον κόσμο; Επειδή το πρόβλημα με τους δικηγόρους που βασίζονται στις παραισθήσεις της ΤΝ είναι στα πρωτοσέλιδα σε καθημερινή βάση». Η δήλωση αυτή αποτύπωσε τη στάση του δικαστηρίου, το οποίο έκρινε ότι ο Άαρονς όφειλε να γνωρίζει τους κινδύνους πριν καταθέσει το έγγραφο στο όνομα του πελάτη του.
Η OpenAI, εταιρεία που έχει αναπτύξει το ChatGPT, δεν απάντησε σε αίτημα για σχολιασμό σχετικά με την υπόθεση. Το δικαστήριο επισήμανε επίσης ότι η κατασκευή ψευδών στοιχείων σε δικόγραφο δεν αφορά μόνο τεχνικό σφάλμα, αλλά αντανακλά και την αδιαφορία του δικηγόρου απέναντι στον πελάτη του, ο οποίος εκτίει ισόβια κάθειρξη και βασίζεται στην έφεσή του για να αμφισβητήσει την καταδίκη του.
Τι ακολουθεί για την υπόθεση Σαντοβάλ
Η έφεση του Σαντοβάλ παραμένει εκκρεμής, ωστόσο στις αρχές Σεπτεμβρίου διορίστηκε νέα συνήγορος για την υπόθεση, η δημόσια υπερασπίστρια Κιμ Τσάβες Κουκ. Ο Άαρονς, πέρα από το χρηματικό πρόστιμο, θα κληθεί να απολογηθεί και ενώπιον του πειθαρχικού συμβουλίου του δικηγορικού συλλόγου, το οποίο θα αποφασίσει αν θα του επιβληθούν επιπλέον κυρώσεις. Η υπόθεση προστίθεται σε μια σειρά αντίστοιχων περιστατικών στις Ηνωμένες Πολιτείες, όπου η ανεξέλεγκτη χρήση τεχνητής νοημοσύνης στη σύνταξη νομικών εγγράφων προκαλεί ολοένα περισσότερες πειθαρχικές παρεμβάσεις από τα δικαστήρια.
