Το υπουργείο Δικαιοσύνης της Τασμανίας, της νησιωτικής πολιτείας της Αυστραλίας που βρίσκεται νότια της ηπειρωτικής χώρας, ξεκίνησε επίσημη έρευνα για τη χρήση τεχνητής νοημοσύνης στις αποφάσεις του Συμβουλίου Υφ’ Όρον Απόλυσης. Η κίνηση έγινε αφού αποκαλύφθηκε ότι σε υπόθεση καταδικασμένης για φόνο χρησιμοποιήθηκε έγγραφο με ανύπαρκτη νομολογία, πιθανό προϊόν παραισθήσεων συστήματος AI. Η υπόθεση προκάλεσε αναταραχή στο αυστραλιανό δικαστικό σύστημα και άνοιξε συζήτηση για τα όρια της χρήσης της τεχνητής νοημοσύνης σε ευαίσθητες θεσμικές διαδικασίες.
Διαβάστε επίσης: Ο Τραμπ δημιουργεί τη «Δύναμη Τεχνητής Νοημοσύνης» για AI
Η υπόθεση της Σούζαν Νιλ-Φρέιζερ
Στο επίκεντρο της υπόθεσης βρίσκεται η Σούζαν Νιλ-Φρέιζερ, η οποία αποφυλακίστηκε υπό όρους το 2022, αφού είχε εκτίσει 13 χρόνια φυλάκισης για τη δολοφονία του συντρόφου της, Μπομπ Τσάπελ, το 2009. Μετά την αποφυλάκισή της, το Συμβούλιο Υφ’ Όρον Απόλυσης της Τασμανίας της είχε επιβάλει όρο που της απαγόρευε να μιλά δημόσια για τους ισχυρισμούς της περί αθωότητας και δικαστικής πλάνης. Ο συγκεκριμένος περιορισμός έφτασε τελικά ενώπιον του Ανώτατου Δικαστηρίου της Τασμανίας.
Ο δικαστής Στίβεν Έστκορτ έκρινε τον όρο άκυρο, διαπιστώνοντας ότι είχε επιβληθεί χωρίς την απαιτούμενη διαδικαστική δικαιοσύνη. Το πιο σοβαρό εύρημα, ωστόσο, αφορούσε το έγγραφο στο οποίο είχε βασιστεί το Συμβούλιο για να λάβει την απόφασή του. Το κείμενο παρέπεμπε σε δικαστικές αποφάσεις που στην πραγματικότητα δεν υπήρχαν, παραπομπές που ο δικαστής χαρακτήρισε «πλασματικές» και πιθανό αποτέλεσμα παραισθήσεων τεχνητής νοημοσύνης.
Από το λάθος της AI στην ευθύνη του ανθρώπου
Η υπόθεση αποκτά ιδιαίτερη βαρύτητα επειδή το λάθος δεν περιορίστηκε σε ένα απλό προσχέδιο ή σε μια λανθασμένη απάντηση ενός chatbot. Μη επαληθευμένη πληροφορία που φαίνεται να παρήχθη με τη βοήθεια τεχνητής νοημοσύνης εισήλθε στη διαδικασία λήψης μιας επίσημης απόφασης η οποία περιόριζε θεμελιώδεις ελευθερίες ενός ανθρώπου. Το γεγονός ότι ένα κρατικό όργανο βασίστηκε σε ανύπαρκτη νομολογία για να επιβάλει περιορισμό στην ελευθερία λόγου μιας αποφυλακισμένης, θέτει ζήτημα για τους μηχανισμούς ελέγχου που υπάρχουν πριν από τη λήψη τέτοιων αποφάσεων.
Το υπουργείο Δικαιοσύνης της Τασμανίας ανακοίνωσε ότι θα εξετάσει κατά πόσο η τεχνητή νοημοσύνη χρησιμοποιήθηκε και σε παλαιότερες αποφάσεις του Συμβουλίου Υφ’ Όρον Απόλυσης. Παράλληλα, ο γενικός εισαγγελέας της Τασμανίας, Γκάι Μπάρνετ, ανακοίνωσε ξεχωριστή και ανεξάρτητη έρευνα για τα επαγγελματικά πρότυπα του οργάνου. Η απόφαση αυτή δείχνει ότι οι αρχές αντιμετωπίζουν το περιστατικό όχι ως μεμονωμένο τεχνικό σφάλμα, αλλά ως ζήτημα που άπτεται της αξιοπιστίας ολόκληρου του θεσμού.
Έλεγχος σε αποφάσεις δύο ετών
Η Υπηρεσία Νομικής Υποστήριξης Κρατουμένων της Τασμανίας έχει ήδη ξεκινήσει τον έλεγχο αποφάσεων της τελευταίας διετίας, προκειμένου να διαπιστωθεί εάν υπάρχουν και άλλα αντίστοιχα περιστατικά όπου η τεχνητή νοημοσύνη ενδέχεται να επηρέασε λανθασμένα το περιεχόμενο επίσημων εγγράφων. Ο στόχος είναι να χαρτογραφηθεί η έκταση του προβλήματος και να διαπιστωθεί αν η υπόθεση της Σούζαν Νιλ-Φρέιζερ αποτελεί μεμονωμένο περιστατικό ή μέρος ευρύτερης πρακτικής εντός του Συμβουλίου.
Η ανεξάρτητη έρευνα που ζήτησε ο γενικός εισαγγελέας αναμένεται να εξετάσει τόσο τις εσωτερικές διαδικασίες σύνταξης εγγράφων όσο και τον βαθμό εποπτείας που ασκείται όταν χρησιμοποιούνται εργαλεία τεχνητής νοημοσύνης για την προετοιμασία υλικού που καταλήγει σε δικαστικές ή διοικητικές αποφάσεις. Μέχρι να ολοκληρωθούν οι δύο έρευνες, το ζήτημα παραμένει ανοιχτό και οι αρχές της Τασμανίας δεν έχουν ανακοινώσει συγκεκριμένο χρονοδιάγραμμα ολοκλήρωσης.
