Η Google αποσύρει τις εικόνες ΑΙ από το Google Earth, ύστερα από σάλο που προκάλεσαν ψεύτικες απεικονίσεις καταστροφής σε παγκοσμίως γνωστά μνημεία. Η απόφαση ήρθε λιγότερο από 48 ώρες μετά την ενσωμάτωση του εργαλείου δημιουργίας εικόνων στον ψηφιακό άτλαντα της εταιρείας. Η κίνηση ακολούθησε ρεπορτάζ του BBC, το οποίο ανέδειξε τους κινδύνους παραπληροφόρησης από τη χρήση τεχνητής νοημοσύνης πάνω σε χάρτες. Ειδικοί προειδοποίησαν ότι το εργαλείο θα μπορούσε να χρησιμοποιηθεί για τη διάδοση ψευδών ειδήσεων με το κύρος της Google. Η υπόθεση προκάλεσε έντονο προβληματισμό σχετικά με τα όρια που πρέπει να τίθενται στα εργαλεία τεχνητής νοημοσύνης όταν εφαρμόζονται σε υπηρεσίες χαρτογράφησης.
Πώς ξεκίνησε ο σάλος με τις εικόνες ΑΙ
Το εργαλείο ονομαζόταν Nano Banana και επέτρεπε στους χρήστες να δίνουν γραπτές οδηγίες για τη δημιουργία συνθετικών εικόνων πάνω στους χάρτες του Google Earth. Οι συνθετικές απεικονίσεις δεν εμφανίζονταν στην ίδια την εφαρμογή, όμως οι χρήστες μπορούσαν να τις κατεβάσουν και να τις μοιράσουν ελεύθερα στα social media. Το BBC δοκίμασε το εργαλείο και κατάφερε να δημιουργήσει εικόνες με τον Πύργο του Άιφελ κατεστραμμένο, με μια γιγάντια τρύπα να έχει καταπιεί τη Μεγάλη Πυραμίδα της Γκίζας και με ρωσικά τανκ να συγκεντρώνονται στο Κίεβο. Τα τρία αυτά παραδείγματα αρκούσαν για να αναδείξουν πόσο εύκολα το εργαλείο μπορούσε να παράξει εικόνες που έμοιαζαν αυθεντικές, παρότι αναπαριστούσαν γεγονότα που ποτέ δεν συνέβησαν.
Μετά τη δημοσίευση του ρεπορτάζ, η Google ανακοίνωσε μέσω του λογαριασμού της στο X ότι παγώνει τη λειτουργία μέχρι να αναπτύξει καλύτερα μέτρα προστασίας. Η εταιρεία εξήγησε ότι είδε χρήστες να μοιράζονται στιγμιότυπα οθόνης που φαίνεται να παραβιάζουν τις πολιτικές της. Σύμφωνα με την ανακοίνωση της Google, οι χρήστες εμπιστεύονται το Google Earth όσο κανένα άλλο εργαλείο για μια αξιόπιστη απεικόνιση του κόσμου, κάτι που καθιστά την κατάχρηση ιδιαίτερα ευαίσθητο ζήτημα. Η εταιρεία σημείωσε ότι είχε παρατηρήσει και χρήσιμες εφαρμογές του εργαλείου από επαγγελματίες, γεγονός που δείχνει πως η απόφαση για πάγωμα δεν ήταν απλή υπόθεση.
Οι προειδοποιήσεις των ειδικών
Ο Χενκ φαν Ες, ειδικός σε θέματα τεχνητής νοημοσύνης και παραπληροφόρησης, ανέδειξε τους κινδύνους του εργαλείου δημιουργώντας μια σειρά από ανησυχητικά παραδείγματα. Κατασκεύασε εικόνες ενός ανύπαρκτου πυρηνικού εργοστασίου στο Ιράν, ενός καταυλισμού προσφύγων στα σύνορα ΗΠΑ-Μεξικού και ενός ψεύτικου νοσοκομείου στη Γάζα με έναν κρατήρα από βόμβα δίπλα του. Όπως εξήγησε ο ίδιος, η Google επέτρεπε σε κατασκευασμένες εικόνες να επικολλώνται πάνω σε πραγματικές συντεταγμένες, δίνοντάς τους την όψη αυθεντικών φωτογραφιών. Τα παραδείγματα αυτά επιλέχθηκαν συνειδητά από τον ερευνητή, καθώς αφορούσαν περιοχές με ήδη τεταμένη επικαιρότητα.
«Η πλαστογραφία δεν χρειάζεται να φαίνεται πειστική από μόνη της. Κληρονομεί την αξιοπιστία του χάρτη πάνω στον οποίο δημιουργήθηκε», σχολίασε ο φαν Ες. Ειδικοί δήλωσαν στο BBC Verify ότι κακόβουλοι χρήστες θα μπορούσαν να εκμεταλλευτούν το εργαλείο για να παρουσιάσουν ψευδή γεγονότα ως αληθινά, χρησιμοποιώντας το όνομα και την αξιοπιστία της Google ως ασπίδα. Η ανησυχία επικεντρώθηκε ιδίως σε ευαίσθητες γεωπολιτικές περιοχές, όπου παρόμοιες εικόνες θα μπορούσαν να προκαλέσουν σύγχυση σε περιόδους κρίσης. Το γεγονός ότι οι πλαστές εικόνες συνδέονταν με πραγματικές γεωγραφικές συντεταγμένες θεωρήθηκε από τους ειδικούς ιδιαίτερα επικίνδυνο στοιχείο.
Η Google σημείωσε παράλληλα ότι επαγγελματίες γεωχωρικών δεδομένων χρησιμοποιούσαν το εργαλείο για χρήσιμους σκοπούς, γεγονός που περιέπλεξε την απόφαση για πλήρη απόσυρση. Ωστόσο, η πίεση από τα δημοσιεύματα και τις αντιδράσεις ειδικών οδήγησε τελικά στην αναστολή της λειτουργίας. Προς το παρόν δεν έχει ανακοινωθεί συγκεκριμένη ημερομηνία επανενεργοποίησης του εργαλείου δημιουργίας εικόνων στο Google Earth, καθώς η εταιρεία επεξεργάζεται νέους μηχανισμούς ελέγχου πριν επιτρέψει ξανά στους χρήστες να δημιουργούν συνθετικές απεικονίσεις πάνω στους χάρτες.
