Η Meta αποκάλυψε ότι χρησιμοποιεί τεχνητή νοημοσύνη για τον εντοπισμό χρηστών κάτω των 13 ετών στις πλατφόρμες Facebook και Instagram. Το σύστημα αναλύει οπτικά χαρακτηριστικά και περιεχόμενο λογαριασμών, ώστε να εκτιμήσει αν ένας χρήστης είναι ανήλικος και να ενεργοποιήσει αντίστοιχες δικλείδες ασφαλείας. Η κίνηση γίνεται σε μια περίοδο εντεινόμενης πίεσης από ρυθμιστικές αρχές, μετά και από δικαστική καταδίκη που επέβαλε στην εταιρεία πρόστιμο εκατοντάδων εκατομμυρίων δολαρίων στις ΗΠΑ.
Διαβάστε επίσης: Ο Κουρτσβάιλ και η τεχνητή νοημοσύνη: Οι προβλέψεις επαληθεύονται
Πώς λειτουργεί το σύστημα AI εντοπισμού ανήλικων
Το νέο σύστημα της Meta «σκανάρει» φωτογραφίες και βίντεο που αναρτώνται στο Facebook και το Instagram, αναζητώντας οπτικά μοτίβα και στοιχεία που συνδέονται με την ηλικία του χρήστη. Η ανάλυση εστιάζει σε χαρακτηριστικά σωματικής διάπλασης — μεταξύ αυτών η δομή των οστών — για να εκτιμηθεί αν ένας χρήστης ενδέχεται να είναι κάτω των 13 ετών. Παράλληλα, το σύστημα εξετάζει και άλλα στοιχεία κάθε λογαριασμού, από λεζάντες και σχόλια μέχρι βιογραφικά, αναζητώντας συμφραζόμενα που αποκαλύπτουν ηλικία κάτω του επιτρεπτού ορίου. Η Meta διευκρινίζει ότι η προσέγγιση αυτή «δεν αποτελεί αναγνώριση προσώπου» και δεν στοχεύει στην ταυτοποίηση συγκεκριμένων ατόμων — πρόκειται αποκλειστικά για σύστημα εκτίμησης ηλικίας. Παρόμοιες τεχνολογίες χρησιμοποιούν ήδη εταιρείες επαλήθευσης ταυτότητας, όπως η Yoti και η k-ID, οι οποίες δραστηριοποιούνται στον συγκεκριμένο κλάδο.
Όταν ένας λογαριασμός εντοπιστεί ως πιθανώς ανήκων σε χρήστη κάτω των 13 ετών, οι πλατφόρμες προχωρούν σε απενεργοποίηση του λογαριασμού και ζητούν από τον χρήστη να επιβεβαιώσει την ηλικία του για να αποκαταστήσει την πρόσβαση. Ταυτόχρονα, η Meta επεκτείνει τα λεγόμενα «teen accounts», μεταφέροντας αυτόματα χρήστες ηλικίας 13 έως 17 ετών σε ειδικά προστατευμένα περιβάλλοντα με αυξημένες ρυθμίσεις ασφαλείας. Με αυτόν τον τρόπο, η εταιρεία επιδιώκει να εντοπίζει και να προστατεύει ανήλικους ακόμα κι όταν δεν έχουν δηλώσει ειλικρινά την ηλικία τους κατά την εγγραφή. Η ανακοίνωση μεταδόθηκε από το The Verge, το οποίο δημοσίευσε και τις σχετικές διευκρινίσεις της εταιρείας για τη φύση και τους περιορισμούς της τεχνολογίας.
Ρυθμιστική πίεση και δικαστικές αποφάσεις
Η αποκάλυψη της Meta για το σύστημα AI εντοπισμού ανήλικων έρχεται σε μια ιδιαίτερα ευαίσθητη στιγμή για τη μεγάλη τεχνολογική εταιρεία. Δικαστήριο στο Νέο Μεξικό έκρινε πρόσφατα ότι η Meta παραπλάνησε τους χρήστες σχετικά με την ασφάλεια των πλατφορμών της, αποτυγχάνοντας να προστατεύσει επαρκώς τους ανήλικους χρήστες. Η δικαστική απόφαση οδήγησε στην επιβολή προστίμου εκατοντάδων εκατομμυρίων δολαρίων, στέλνοντας ένα ηχηρό μήνυμα για τις ευθύνες που φέρουν τα μεγάλα μέσα κοινωνικής δικτύωσης απέναντι στους νέους χρήστες. Η πίεση έρχεται τόσο από τα δικαστήρια όσο και από νομοθέτες σε πολλές χώρες, οι οποίοι ζητούν αυστηρότερη προστασία των παιδιών στον ψηφιακό χώρο.
Τα τελευταία χρόνια, η Meta έχει δεχθεί επανειλημμένες κατηγορίες ότι γνώριζε τους κινδύνους που αντιμετωπίζουν τα παιδιά στο Instagram και το Facebook, χωρίς να λαμβάνει τα απαραίτητα μέτρα. Η ανάπτυξη εργαλείων τεχνητής νοημοσύνης για τον εντοπισμό ανηλίκων σηματοδοτεί μια ξεκάθαρη μεταστροφή στην πολιτική της εταιρείας — τουλάχιστον σε επίπεδο τεχνολογικών υποδομών. Ωστόσο, ερωτήματα παραμένουν ανοιχτά για την ακρίβεια αυτής της τεχνολογίας και το κατά πόσο μπορεί να εντοπίσει αποτελεσματικά όλους τους ανήλικους που χρησιμοποιούν τις πλατφόρμες με ψεύτικες ηλικίες. Η εταιρεία καλείται να αποδείξει με συγκεκριμένα αποτελέσματα ότι τα νέα εργαλεία που αναπτύσσει πραγματικά προστατεύουν τους νέους χρήστες.
Τι ακολουθεί
Η Meta συνεχίζει να επεκτείνει τα «teen accounts» σε όλες τις πλατφόρμες της, με στόχο την αυτόματη μεταφορά όλων των εντοπισμένων ανήλικων χρηστών ηλικίας 13 έως 17 ετών σε ειδικά περιβάλλοντα με αυξημένες δικλείδες ασφαλείας. Παράλληλα, το σύστημα εκτίμησης ηλικίας βρίσκεται ήδη σε εφαρμογή, με την εταιρεία να παρακολουθεί αδιαλείπτως τα αποτελέσματά του. Η πορεία αυτή θα κριθεί τελικά από τις ρυθμιστικές αρχές, οι οποίες παρακολουθούν στενά κάθε βήμα της Meta στον τομέα της προστασίας ανηλίκων.
