Στο στόχαστρο της ΕΕ ο αλγόριθμος «κουνελότρυπα» του TikTok

Σε ανοιχτή σύγκρουση με το TikTok μπαίνουν οι ρυθμιστικές αρχές τεχνολογίας της Ευρωπαϊκής Ένωσης, που σήμερα, Παρασκευή 6 Νοεμβρίου, κατηγόρησαν την πλατφόρμα για παραβίαση κρίσιμων διατάξεων του ευρωπαϊκού Νόμου για τις Ψηφιακές Υπηρεσίες (DSA). Στο επίκεντρο βρίσκεται το φαινόμενο της «κουνελότρυπας», ο τρόπος δηλαδή με τον οποίο το σύστημα συστάσεων εγκλωβίζει τους χρήστες σε μια συνεχή ροή παρόμοιων βίντεο. Οι Βρυξέλλες ζητούν ριζική αλλαγή των εξατομικευμένων ροών, τις οποίες θεωρούν επιβλαβείς για την ψυχική υγεία. Η εταιρεία απορρίπτει κατηγορηματικά τους ισχυρισμούς.

Η εντολή των Βρυξελλών για τη ροή «Για εσάς»

Η Ευρωπαϊκή Επιτροπή, που ενεργεί ως ρυθμιστική αρχή τεχνολογίας του μπλοκ, εξέδωσε αυστηρές συστάσεις, γνωστές ως προκαταρκτικά ευρήματα, καταλογίζοντας στην πλατφόρμα ότι δεν εφάρμοσε αναλογικά, εύλογα και αποτελεσματικά μέτρα μετριασμού για την αντιμετώπιση των κινδύνων. Σύμφωνα με την Επιτροπή, η ατελείωτη και επαναλαμβανόμενη έκθεση σε περιεχόμενο που αφορά τη θλίψη, την απομόνωση ή την εξωτερική εμφάνιση μπορεί να έχει αρνητικό αντίκτυπο στην ψυχική υγεία των χρηστών. Οι αρχές κάνουν λόγο για ένα σπιράλ περιεχομένου με εξαιρετικά αρνητικές επιπτώσεις.

Το ζητούμενο, όπως ξεκαθαρίζουν οι Βρυξέλλες, είναι η αναμόρφωση του σχεδιασμού του αλγορίθμου της ροής «Για εσάς» (For You). Η Επιτροπή ζητά ο αλγόριθμος να βασίζεται περισσότερο στις σαφείς προτιμήσεις των χρηστών, να αυξηθεί η προσβασιμότητα και η χρηστικότητα των σχετικών ελέγχων και να δοκιμάζεται τακτικά, μεταξύ άλλων αλλαγών. Η αρμόδια για την τεχνολογία επίτροπος, Χένα Βίρκουνεν, ανέφερε χαρακτηριστικά ότι «κάθε φορά που ένας χρήστης κάνει scroll ή like σε ένα βίντεο στο TikTok, ο αλγόριθμος τον σπρώχνει σε κουνελότρυπες από τις οποίες δεν μπορεί εύκολα να ξεφύγει».

Η Βίρκουνεν τόνισε ότι οι αυστηρές συστάσεις δείχνουν για άλλη μια φορά πως η πλατφόρμα πρέπει να εντείνει τις προσπάθειές της για την προστασία της ευημερίας των χρηστών, συμπεριλαμβανομένων των ανηλίκων. Η Επιτροπή προχώρησε ένα βήμα παραπέρα, υποστηρίζοντας ότι το TikTok οφείλει να αλλάξει το ίδιο το επιχειρηματικό του μοντέλο στην ευρωπαϊκή αγορά.

Η αντεπίθεση της ByteDance και το πρόστιμο του 6%

Η απάντηση της πλατφόρμας ήρθε άμεσα και ήταν απορριπτική. Σε ανακοίνωσή της, η εταιρεία ανέφερε ότι «η Επιτροπή έχει κάνει μια σειρά από ανακοινώσεις που είναι ουσιαστικά ανακριβείς και διαστρεβλώνουν την αρχιτεκτονική της πλατφόρμας μας και τη δέσμευσή μας για την ασφάλεια των χρηστών». Η πλατφόρμα επέμεινε ότι διαθέτει ισχυρό ιστορικό προστασίας της κοινότητάς της, παρέχοντας παράλληλα στους χρήστες άμεσο και εύληπτο έλεγχο της εμπειρίας περιεχομένου τους.

Το διακύβευμα για την κινεζική ByteDance, ιδιοκτήτρια του TikTok, είναι υψηλό. Εφόσον δεν καταφέρει να επιλύσει το πρόβλημα, η εταιρεία κινδυνεύει με πρόστιμο που μπορεί να φτάσει έως και το 6% του παγκόσμιου ετήσιου κύκλου εργασιών της τον επόμενο χρόνο, όπως προειδοποίησαν οι ρυθμιστικές αρχές. Η υπόθεση εντάσσεται σε μια ευρύτερη αντιπαράθεση των ευρωπαϊκών θεσμών με τους τεχνολογικούς κολοσσούς.

Η κίνηση των Βρυξελλών εκδηλώνεται τη στιγμή που οι εταιρείες μέσων κοινωνικής δικτύωσης δέχονται πιέσεις να τροποποιήσουν τους αλγορίθμους τους, καθώς ενισχύονται παγκοσμίως οι ανησυχίες ότι οι πλατφόρμες συμβάλλουν σε μια κρίση ψυχικής υγείας στα παιδιά. Οι ανησυχίες αυτές έχουν ήδη ωθήσει ορισμένες κυβερνήσεις να επιβάλουν ή να εξετάσουν το ενδεχόμενο απαγορεύσεων πρόσβασης για ανήλικους χρήστες, καθιστώντας την περίπτωση του TikTok κομβική για το μέλλον της ψηφιακής εποπτείας στην Ευρώπη.