Η Silicon Valley φαίνεται παγιδευμένη σε ένα κλασικό «δίλημμα του φυλακισμένου», καθώς η κούρσα για την κυριαρχία στην τεχνητή νοημοσύνη αναγκάζει ακόμη και τους πιο σθεναρούς υποστηρικτές της ασφάλειας να θυσιάσουν τις αρχές τους στον βωμό του ανταγωνισμού. Το Σάββατο ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, δημοσίευσε ένα καθηλωτικό, σχεδόν αποκαλυπτικό μανιφέστο για τους κινδύνους της ανεξέλεγκτης ανάπτυξης της τεχνητής νοημοσύνης. Η ανακοίνωσή του ευθυγραμμίζεται πλήρως με τις προειδοποιήσεις περί «Ημέρας της Κρίσης» που έχουν εκφράσει πρόσφατα νυν και πρώην στελέχη του κλάδου. Το θέμα της τεχνητής νοημοσύνης βρίσκεται και πάλι στο επίκεντρο της διεθνούς τεχνολογικής επικαιρότητας.
Η γέννηση της Anthropic και το μανιφέστο του Αμοντέι
Η Anthropic ιδρύθηκε ως το απόλυτο ανάχωμα απέναντι σε μια πιθανή ψηφιακή δυστοπία, από στελέχη που αποχώρησαν από την OpenAI επειδή διαφωνούσαν με την επικίνδυνα γρήγορη ανάπτυξη της τεχνολογίας. Στόχος του Ντάριο Αμοντέι ήταν εξαρχής να προλάβει τον εκτροχιασμό των συστημάτων τεχνητής νοημοσύνης, προτού αυτά ξεφύγουν από τον έλεγχο των δημιουργών τους. Αν και ο ίδιος προειδοποιεί δημόσια για τους κινδύνους αυτούς εδώ και καιρό, το κείμενο που δημοσίευσε το Σάββατο ξεχώρισε για τον ιδιαίτερα έντονο και σχεδόν αποκαλυπτικό του τόνο. Το μανιφέστο συνέπεσε χρονικά με αντίστοιχες προειδοποιήσεις άλλων στελεχών του κλάδου για μια επερχόμενη «Ημέρα της Κρίσης», καθώς οι εταιρείες τεχνητής νοημοσύνης τρέχουν προς την ανάπτυξη μιας ανεξέλεγκτης υπερνοημοσύνης.
«Μαζί με τους συνιδρυτές και τους υπαλλήλους, παλεύω με τη δυαδικότητα κινδύνου και οφέλους από τα σπάργανα της Anthropic», εξομολογήθηκε ο Αμοντέι. Όπως εξήγησε ο ίδιος, η μη ανάπτυξη της τεχνολογίας στερεί την ανθρωπότητα από πολύτιμα αντίδοτα ή, ακόμη χειρότερα, παραδίδει τα όπλα της τεχνητής νοημοσύνης σε αυταρχικά καθεστώτα. Από την άλλη πλευρά, όπως τόνισε, η ιλιγγιώδης και τυφλή ταχύτητα οικοδόμησής της συνιστά καθαρή αυτοκτονία για την ανθρωπότητα. Ο Αμοντέι ανανέωσε την αγωνιώδη έκκλησή του προς τους ανταγωνιστές της εταιρείας του να τραβήξουν χειρόφρενο στην κούρσα των εξοπλισμών της προηγμένης νοημοσύνης, ώστε να κερδηθεί ο απαραίτητος χρόνος για τη θωράκιση της ανθρωπότητας απέναντι στους κινδύνους αυτούς.
Το δίλημμα του φυλακισμένου και η στάση της Anthropic
Παρά τη δραματική έκκλησή του, ο Αμοντέι απέφυγε να προχωρήσει ο ίδιος στην πιο ριζοσπαστική κίνηση, δηλαδή να τραβήξει την πρίζα ή έστω να επιβραδύνει τα εργαστήρια της Anthropic. Η επιλογή του γίνεται μόλις λίγες εβδομάδες πριν από αυτό που διαφαίνεται ως η μεγαλύτερη αρχική δημόσια προσφορά στην ιστορία της Wall Street. Πρόκειται για την τέλεια αποτύπωση αυτού που στη θεωρία παιγνίων ονομάζεται «δίλημμα του φυλακισμένου»: μια κατάσταση όπου η συνεργασία και η ταυτόχρονη επιβράδυνση όλων των παικτών θα ήταν η ιδανική επιλογή για το κοινό καλό. Ωστόσο, ο φόβος ότι ο αντίπαλος δεν θα σταματήσει και θα κυριαρχήσει στην αγορά αναγκάζει τον καθένα να συνεχίσει να τρέχει, εγκλωβίζοντας τελικά ολόκληρο τον κλάδο της τεχνητής νοημοσύνης σε μια καταστροφική κούρσα.
Εάν όλα τα εργαστήρια τεχνητής νοημοσύνης, συμπεριλαμβανομένης της OpenAI, συμφωνούσαν να ρίξουν ταχύτητα, η ανθρωπότητα θα μπορούσε να βγει κερδισμένη, εφόσον επαληθεύονται οι προειδοποιήσεις του Αμοντέι. Μια τέτοια συλλογική επιβράδυνση θα προσέφερε παράλληλα σημαντικό στρατηγικό πλεονέκτημα στην Anthropic, η οποία ήδη κατέχει ηγετική θέση στον κλάδο της τεχνητής νοημοσύνης. Στον αντίποδα, αν η εταιρεία αποτελούσε τη μοναδική φωνή που θα εφάρμοζε πράγματι την έκκλησή της, θα κινδύνευε να μείνει πίσω από τον άσπονδο ανταγωνιστή της. Αυτή η αντίφαση αναδεικνύει το βασικό εμπόδιο που αντιμετωπίζει σήμερα ολόκληρος ο κλάδος της τεχνητής νοημοσύνης στην προσπάθειά του να συμφωνήσει σε κοινούς κανόνες ασφαλείας, την ώρα που κάθε εταιρεία υπολογίζει το δικό της οικονομικό και ανταγωνιστικό όφελος.
