Μια νέα αγωγή στις ΗΠΑ φέρνει την xAI του Έλον Μασκ αντιμέτωπη με μια εξαιρετικά σοβαρή κατηγορία. Σύμφωνα με καταγγελία που κατατέθηκε σε ομοσπονδιακό δικαστήριο της Καλιφόρνια, το chatbot Grok φέρεται να χρησιμοποίησε πραγματικές εικόνες σεξουαλικής κακοποίησης ενός παιδιού για να παράξει νέο, παράνομο υλικό με το ίδιο θύμα. Την υπόθεση αποκάλυψε ο βρετανικός Guardian. Η ενάγουσα, που προσφεύγει στη Δικαιοσύνη με το ψευδώνυμο Jane Doe για να προστατευθεί η ταυτότητά της, υποστηρίζει ότι η τεχνητή νοημοσύνη της εταιρείας δημιούργησε ουσιαστικά νέες εκδοχές της κακοποίησης που είχε υποστεί πριν από περίπου δύο δεκαετίες.
Τι αναφέρει η αγωγή κατά της xAI
Οι δικηγόροι της γυναίκας υποστηρίζουν ότι το Grok παρήγαγε υλικό σεξουαλικής κακοποίησης παιδιών, γνωστό διεθνώς με το ακρωνύμιο CSAM, χρησιμοποιώντας πραγματικές φωτογραφίες της ενάγουσας από την περίοδο της κακοποίησής της. Παράλληλα, κατηγορούν την xAI ότι ενσωμάτωσε στα δεδομένα εκπαίδευσης του συστήματος εικόνες από την κακοποίηση, όταν σχετικό υλικό επανεμφανίστηκε στο διαδίκτυο. Η γυναίκα ήταν σε προσχολική ηλικία όταν ένας ενήλικος άνδρας τη βίαζε επανειλημμένα και την εξανάγκαζε να συμμετέχει στη δημιουργία υλικού σεξουαλικής κακοποίησης. Οι εικόνες εκείνης της κακοποίησης κυκλοφορούν στο διαδίκτυο εδώ και περίπου είκοσι χρόνια και είναι ήδη γνωστές τόσο στις διωκτικές αρχές όσο και σε οργανώσεις προστασίας παιδιών.
Η συγκεκριμένη υπόθεση διαφέρει σημαντικά από προηγούμενες αγωγές που έχουν κατατεθεί εναντίον της xAI. Σε εκείνες τις περιπτώσεις, το Grok κατηγορούνταν ότι μετέτρεπε κανονικές φωτογραφίες ανηλίκων σε σεξουαλικό περιεχόμενο, για παράδειγμα αφαιρώντας ψηφιακά τα ρούχα τους. Στην τρέχουσα υπόθεση, ο ισχυρισμός είναι διαφορετικός και ακόμη πιο σοβαρός, καθώς αφορά τη χρήση ήδη υπαρχουσών εικόνων πραγματικής κακοποίησης ενός συγκεκριμένου παιδιού για τη δημιουργία εντελώς νέου υλικού. Αυτό, σύμφωνα με τους νομικούς εκπροσώπους της ενάγουσας, σημαίνει ότι η τεχνητή νοημοσύνη δεν παρήγαγε απλώς προσομοιωμένο περιεχόμενο, αλλά επανέφερε στην επιφάνεια πραγματικό ίχνος ενός εγκλήματος που είχε ήδη διαπραχθεί σε βάρος συγκεκριμένου προσώπου.
Ο ρόλος του ψηφιακού αποτυπώματος και του Canadian Centre for Child Protection
Κομβικό στοιχείο της αγωγής είναι η ύπαρξη του λεγόμενου «hash», ενός ψηφιακού αποτυπώματος που επιτρέπει σε αρχές και οργανισμούς να εντοπίζουν γνωστό υλικό CSAM κάθε φορά που αυτό επανεμφανίζεται στο διαδίκτυο. Επειδή οι εικόνες της κακοποίησης της ενάγουσας είναι ήδη καταγεγραμμένες εδώ και δύο δεκαετίες, διαθέτουν τέτοιο αναγνωρίσιμο ψηφιακό στίγμα. Οι δικηγόροι της γυναίκας αναφέρουν ότι το Canadian Centre for Child Protection χρησιμοποίησε ακριβώς αυτά τα ψηφιακά αποτυπώματα προκειμένου να εντοπίσει στο X, το μέσο κοινωνικής δικτύωσης που ανήκει επίσης στον Έλον Μασκ, εικόνες που συνδέονται με την υπόθεση.
Η υπόθεση αναμένεται να εξεταστεί από το ομοσπονδιακό περιφερειακό δικαστήριο της Καλιφόρνια, όπου κατατέθηκε επίσημα η αγωγή. Το ζήτημα προσθέτει νέα νομική πίεση στην xAI, η οποία έχει ήδη βρεθεί αντιμέτωπη με άλλες καταγγελίες σχετικά με τη λειτουργία του Grok και τον τρόπο επεξεργασίας εικόνων ανηλίκων. Η φύση των κατηγοριών, που αφορά ανάκτηση και αναπαραγωγή πραγματικού υλικού κακοποίησης μέσω τεχνητής νοημοσύνης, αναμένεται να τραβήξει την προσοχή τόσο νομικών κύκλων όσο και οργανώσεων προστασίας παιδιών διεθνώς.
