Ο αλγοριθμικός αποκλεισμός αναδεικνύεται σε νέο πρόβλημα της αγοράς εργασίας, καθώς όλο και περισσότερες εταιρείες αναθέτουν την αξιολόγηση υποψηφίων σε συστήματα τεχνητής νοημοσύνης. Στις Ηνωμένες Πολιτείες έχει ξεκινήσει κύμα αγωγών εναντίον εταιρειών λογισμικού που αναπτύσσουν εργαλεία πρόσληψης, με επίκεντρο τις διακρίσεις και την έλλειψη διαφάνειας. Σε μια αγορά εργασίας πλημμυρισμένη από αιτήσεις, τα εργαλεία τεχνητής νοημοσύνης υπόσχονται στους εργοδότες ταχύτητα και αντικειμενικότητα στο φιλτράρισμα των υποψηφίων. Ωστόσο, μια αρνητική αξιολόγηση από αλγόριθμο μπορεί πλέον να ακολουθεί έναν υποψήφιο από εταιρεία σε εταιρεία, χωρίς ο ίδιος να γνωρίζει καν ότι τον κρίνει μηχανή αντί για άνθρωπος.
Διαβάστε επίσης: Η τεχνητή νοημοσύνη αλλάζει την παρακολούθηση εργαζομένων
Ο αλγοριθμικός αποκλεισμός και η «μαύρη τρύπα» των βιογραφικών
Η ραγδαία υιοθέτηση συστημάτων τεχνητής νοημοσύνης στις προσλήψεις βασίζεται σε λίγους μεγάλους προμηθευτές λογισμικού, καθώς οι περισσότερες εταιρείες δεν αναπτύσσουν δικά τους συστήματα αξιολόγησης. Αντίθετα, βασίζονται στα ίδια εργαλεία τρίτων, με αποτέλεσμα μια αρνητική κρίση ενός μόνο αλγορίθμου να μπορεί να διαχέεται ταυτόχρονα σε δεκάδες ή και εκατοντάδες εργοδότες που χρησιμοποιούν το ίδιο σύστημα. Το φαινόμενο αυτό, που οι ερευνητές ονομάζουν αλγοριθμικό αποκλεισμό, σημαίνει ότι ένας υποψήφιος μπορεί να αποκλείεται συστηματικά από δεκάδες θέσεις εργασίας ταυτόχρονα, χωρίς ποτέ να μάθει τον πραγματικό λόγο της απόρριψής του. Πρόκειται για μια δομική διαφορά σε σχέση με το παρελθόν, όταν μια απόρριψη αφορούσε μία και μόνο εταιρεία και όχι ολόκληρο δίκτυο εργοδοτών.
Χαρακτηριστικό παράδειγμα αποτελεί η περίπτωση της Erin Kistler, διευθύντριας προϊόντων με σχεδόν 20 χρόνια εμπειρίας, η οποία τα τελευταία τέσσερα χρόνια έχει υποβάλει αιτήσεις για χιλιάδες θέσεις εργασίας σε εταιρείες όπως η PayPal, η Microsoft και η Netflix. Παρότι θεωρεί ότι πληρούσε τις προϋποθέσεις για κάθε θέση που διεκδίκησε, το βιογραφικό της φαινόταν να εξαφανίζεται σε μια «μαύρη τρύπα», αφού δεν κλήθηκε ποτέ ούτε σε μία συνέντευξη σε τέσσερα ολόκληρα χρόνια αναζήτησης εργασίας. Η ίδια αποφάσισε τελικά να στραφεί νομικά εναντίον της εταιρείας που θεωρεί υπεύθυνη για τον συστηματικό αποκλεισμό της από την αγορά εργασίας.
Η αγωγή κατά της Eightfold AI
Η Erin Kistler κατέθεσε αγωγή εναντίον της Eightfold AI, εταιρείας της Silicon Valley που αναπτύσσει λογισμικό πρόσληψης, στο πλαίσιο ομαδικής αγωγής. Το συγκεκριμένο σύστημα χρησιμοποιείται από εκατοντάδες εταιρείες, συμπεριλαμβανομένων και εκείνων στις οποίες η ίδια είχε υποβάλει αίτηση χωρίς κανένα αποτέλεσμα. Η υπόθεση αυτή αναδεικνύει με τον πλέον χαρακτηριστικό τρόπο τον κίνδυνο του αλγοριθμικού αποκλεισμού: όταν ένας άνθρωπος απορρίπτει έναν υποψήφιο σε μια συνέντευξη, υπάρχει πάντα η δυνατότητα να δοκιμάσει αλλού. Αντίθετα, ένα σύστημα τεχνητής νοημοσύνης που χρησιμοποιείται ταυτόχρονα από δεκάδες εργοδότες μπορεί να «θυμάται» μια αρνητική αξιολόγηση και να την επεκτείνει αυτόματα σε ολόκληρο το δίκτυο των πελατών του, πολλαπλασιάζοντας τις συνέπειες για τον υποψήφιο.
Το ζήτημα που τίθεται πλέον στα δικαστήρια δεν αφορά μόνο μεμονωμένες περιπτώσεις αδικίας, αλλά τη δομική λειτουργία μιας ολόκληρης βιομηχανίας λογισμικού που διαμεσολαβεί στην πρόσβαση εκατομμυρίων ανθρώπων στην εργασία. Οι αγωγές για ηλικιακές διακρίσεις και έλλειψη διαφάνειας στην αξιολόγηση, που πολλαπλασιάζονται στα δικαστήρια των Ηνωμένων Πολιτειών, αναδεικνύουν ένα θεμελιώδες ερώτημα. Πόση διαφάνεια και πόσο έλεγχο πρέπει να έχουν οι υποψήφιοι πάνω σε μηχανές που αποφασίζουν, ουσιαστικά, για το επαγγελματικό τους μέλλον, χωρίς οι ίδιοι να γνωρίζουν καν ότι κρίνονται από αλγόριθμο και όχι από άνθρωπο. Το ερώτημα αυτό αναμένεται να απασχολήσει όλο και περισσότερο τόσο τη δικαιοσύνη όσο και τους ίδιους τους εργοδότες.
