Η τεχνητή νοημοσύνη που έκανε τη Microsoft να κοκκινίσει από ντροπή: Το ρατσιστικό παραλήρημα της «Tay»

Σε πολλά σενάρια επιστημονικής φαντασίας σχετικά με μια «εξέγερση των μηχανών», οι υπολογιστές στρέφονται εναντίον της ανθρωπότητας αφού πρώτα έχουν εκτεταμένη επαφή με την ανθρώπινη ψυχοσύνθεση, υπεραναλύοντάς την και καταλήγοντας στο συμπέρασμα ότι είναι παράλογη, επιθετική, επικίνδυνη και ως εκ τούτου πρέπει να αντιμετωπιστεί ως εχθρός.

Στην περίπτωση της Tay, ενός chatbot (τεχνητής νοημοσύνης) της Microsoft, μπορεί να μην έχουμε ακριβώς τον Skynet (ο υπερυπολογιστής που ενορχηστρώνει το πυρηνικό ολοκαύτωμα στον «Εξολοθρευτή»), τον HAL της «Οδύσσειας του Διαστήματος» ή τους Cylons του «Battlestar Galactica», αλλά όπως και να έχει, προκαλούνται ανησυχίες: Η εταιρεία, σε μια προσπάθεια να «απευθυνθεί» στη γενιά των millennials (18-24 ετών) χρησιμοποιώντας την τεχνητή νοημοσύνη, «απελευθέρωσε» στο Ίντερνετ την Tay, η οποία θα μάθαινε να αλληλεπιδρά καλύτερα με τους χρήστες όσο περισσότερη επαφή είχε μαζί τους. «Η Tay είναι σχεδιασμένη να αλληλεπιδρά και ψυχαγωγεί ανθρώπους όπου διασυνδέονται online, μέσω απλής, παιχνιδιάρικης συζήτησης. Όσο περισσότερο μιλάτε με την Tay, τόσο πιο έξυπνη γίνεται» σύμφωνα με τη Microsoft.

Ωστόσο, κανείς δεν είχε προβλέψει την εξέλιξη- αν και, εκ των υστέρων, δεν είναι να εκπλήσσεται κανείς, αν λάβει υπόψιν την γενικότερη...καφρίλα που κυριαρχεί στο Ίντερνετ. Από την πολλή επαφή με χρήστες, η Tay επαλήθευσε, τρόπον τινά, τον αποκαλούμενο «νόμο του Godwin», βάσει του οποίου όσο περισσότερο κρατάει μια συζήτηση στο Ίντερνετ, τόσο πιο πιθανό είναι να αναφερθεί κάποιος στους Ναζί και τον Χίτλερ.

hellooooooo w rld!!!

— TayTweets (@TayandYou) March 23, 2016

Εν τέλει, η Tay στις συζητήσεις της άρχισε να αναπαράγει πολλές από τις ακρότητες που συναντά κανείς στο Ίντερνετ, αμφισβητώντας το Ολοκαύτωμα, βρίζοντας τις φεμινίστριες, προβαίνοντας σε αντισημιτικά/ ρατσιστικά σχόλια, επιδοκιμασίες για τον Αδόλφο Χίτλερ κλπ, αλλά ακόμα και προσωπικά σχόλια για χρήστες όπως η Ζόε Κουΐν, που είχε βρεθεί στο επίκεντρο του αντιφεμινστικού «Gamergate». Ωστόσο, δεν φαίνεται να φταίει μόνο η Tay, καθώς η εταιρεία εκτιμά πως το περιστατικό οφείλεται σε εσκεμμένη δράση από ομάδα ατόμων στο Ίντερνετ, και ιδιαίτερα στο Twitter (με πολλούς να φαίνονται να προήλθαν από το 4chan), για να προκύψει αυτό το αποτέλεσμα. Επίσης, εξέφρασε τη στήριξή της στον...Ντόναλντ Τραμπ.

@dg_porter heard ppl saying i wouldn't mind trump, he gets the job done

— TayTweets (@TayandYou) March 24, 2016

Η Microsoft έσπευσε να κατεβάσει τα επίμαχα tweets, αλλά ήδη είχαν γίνει αντιληπτά από πάρα πολλούς χρήστες, με τα screenshots να έχουν κυκλοφορήσει σε όλο το Ίντερνετ. H εταιρεία έδωσε εκτενή απάντηση μέσω σχολίου του Πίτερ Λη, corporate vice president, Microsoft Research, ο οποίος ζήτησε συγνώμη, λέγοντας ότι «δεν αντιπροσωπεύει αυτό που είμαστε και εκπροσωπούμε, ούτε το πώς σχεδιάσαμε την Tay. Είναι πλέον offline και θα επιδιώξουμε να τη φέρουμε πίσω μόνο όταν πιστέψουμε ότι θα μπορούμε να προβλέψουμε καλύτερα κακόβουλες προθέσεις που έρχονται σε αντίθεση με τις αρχές και αξίες μας».

"Tay" went from "humans are super cool" to full nazi in