Οι ιντερνετικές προκαταλήψεις δημιουργούν... ρατσιστικά ρομπότ
Σε αντίθεση με τα πρώιμα «στατικά» μοντέλα, τα σημερινά προγράμματα τεχνητής νοημοσύνης έχουν την ικανότητα της μάθησης. Αλληλεπιδρώντας με το περιβάλλον τους, δηλαδή κυρίως με τους (ανθρώπινους) χρήστες του Διαδικτύου, και ενσωματώνοντας ολοένα και περισσότερες πληροφορίες από βάσεις δεδομένων όπως το Wikipedia, αυξάνουν τις «γνώσεις» και κατά συνέπεια βελτιώνουν την αποτελεσματικότητά τους. Σε πεδία όπως η μετάφραση,
Οταν η εφαρμογή διαχείρισης φωτογραφιών της Google άρχισε να βάζει την ετικέτα «γορίλας» σε σκουρόχρωμους απεικονιζόμενους, η εταιρεία έσπευσε να ζητήσει συγγνώμη και, καθώς δεν βρέθηκε άλλος τρόπος επίλυσης του προβλήματος, να καταργήσει οριστικά τη συγκεκριμένη ετικέτα. Οταν αποδείχθηκε πως η μηχανή αναζήτησης για επαγγελματίες LinkedIn «προτιμούσε» τα ανδρικά ονόματα από τα γυναικεία, οι τεχνικοί της απέσυραν τον επίμαχο αλγόριθμο. Κάτι αντίστοιχο συνέβη όταν η Tay, η αθώα αν και επιπόλαια Αμερικανίδα έφηβη της Microsoft που συνομιλούσε με πραγματικούς χρήστες του Twitter, κατέληξε όχι μόνο να αναπαράγει ρατσιστικά και σεξιστικά σχόλια, αλλά και να αυτοσχεδιάζει στο ίδιο πνεύμα μέσα σε λιγότερες από 24 ώρες. Η εταιρεία, η οποία διαφήμιζε την Tay ως ένα ρομπότ που γίνεται εξυπνότερο με κάθε συζήτηση, αρχικά διέγραψε τα προσβλητικά tweets και τελικά έκλεισε τον λογαριασμό της.
Κι αν όλα αυτά ακούγονται κάπως αστεία, τα πράγματα είναι σαφώς πιο σοβαρά στην περίπτωση των προγραμμάτων που χρησιμοποιούν ευρέως τα δικαστήρια των ΗΠΑ για να κρίνουν αν ένας κρατούμενος είναι πιθανό να απασχολήσει ξανά τις αρχές. Το 2016, ο οργανισμός ερευνητικής δημοσιογραφίας ProPublica μελέτησε τα προφίλ πάνω από 7.000 συλληφθέντων και συνέκρινε το «σκορ» (δηλαδή τις πιθανότητες υποτροπής μέσα στα επόμενα δύο χρόνια) που τους αναλογούσε σύμφωνα με τους υπολογισμούς των ειδικών αλγορίθμων, αποκαλύπτοντας πως ακόμη και εκείνοι είχαν την τάση να κατηγοριοποιούν τους μαύρους κατηγορουμένους ως μελλοντικούς εγκληματίες. Εντούτοις, τέτοιου είδους εφαρμογές προωθούνται ευρέως προς χρήση από οργανισμούς εύρεσης εργασίας, από τράπεζες για την αξιολόγηση αιτήσεων δανεισμού, από την αστυνομία για τον προσδιορισμό περιοχών που χρήζουν αστυνόμευσης κ.ά.
Φυσικά κανένας δεν μπορεί να χαρακτηρίσει ένα μηχάνημα «ρατσιστικό», στην πράξη όμως ένας αλγόριθμος που διδάσκεται από το περιβάλλον του έχει ελάχιστες πιθανότητες να είναι απολύτως «αντικειμενικός».
Σύμφωνα με έρευνα που δημοσιεύθηκε την περασμένη άνοιξη στο περιοδικό Science, τα μηχανήματα «μαθαίνουν» εντοπίζοντας και αφομοιώνοντας τους πιο συνηθισμένους συσχετισμούς μεταξύ των λέξεων, όπως αυτοί αποτυπώνονται μέσα στο χάος του Διαδικτύου. Επομένως δεν εκπλήσσει το γεγονός ότι συσχετίζουν τη λέξη «γυναίκα» με τις θεωρητικές επιστήμες και τη λέξη «άντρας» με τα μαθηματικά ή ότι συνδέουν τα αφροαμερικανικά ονόματα με δυσάρεστες έννοιες.
Επειδή δεν μπορούν να αλλάξουν την ανθρωπότητα, οι πολυεθνικοί κολοσσοί του Ιντερνετ έχουν υποσχεθεί ότι θα διερευνήσουν μεθόδους «φιλτραρίσματος» των δεδομένων, με τα οποία βομβαρδίζονται τα... ανυποψίαστα συστήματα τεχνητής νοημοσύνης. Εντός του Ιουλίου, η Google λάνσαρε το πρότζεκτ PAIR (People + AI Research), που έχει ακριβώς αυτόν τον σκοπό, ενώ μια ομάδα προγραμματιστών και ερευνητών ίδρυσε το AI Now Initiative σε συνεργασία με την Αμερικανική Ενωση για τις Ελευθερίες των Πολιτών. Το εγχείρημα, η δημιουργία του οποίου ανακοινώθηκε σε εκδήλωση του MIT, αποσκοπεί στον εντοπισμό και την κατανόηση των... αλγοριθμικών προκαταλήψεων, που, σύμφωνα με τους ιδρυτές της πρωτοβουλίας, ενδέχεται να αποτελέσουν σοβαρή απειλή στο προσεχές μέλλον.
Πηγή: ΧΡΙΣΤΙΝΑ ΣΑΝΟΥΔΟΥ - Η καθημερινή
ιντερνετικές προκαταλήψειςρατσιστικά ρομπότ- Δημοφιλέστερες Ειδήσεις Κατηγορίας Ειδήσεις
- «Του άξιζε ό,τι έπαθε, ο γιος του φταίει για όλα»
- ΚΡΑΥΓΕΣ ΤΡΟΜΟΥ-Τουρίστας κοροϊδεύει αρκούδα.Η επίθεσή της ήταν βίαιη.(εικονες-βίντεο)
- Τι λέει ο υδραυλικός που του σπάσανε με ρόπαλο το αυτοκίνητο στη Βουλιαγμένη
- Οικογενειακή τραγωδία: Απατημένος σύζυγος «έπιασε στα πράσα» τη γυναίκα του με τον εραστή της και τους σκότωσε
- ΕΣΧΑΤΗ ΠΡΟΔΟΣΙΑ. Η κατάρρευση της Εθνικής Αμυνας προ των πυλών: Μόνο λόγια χωρίς έργα...
- Καιρός – ΕΜΥ: Έκτακτο δελτίο - Έρχεται κακοκαιρία σε λίγες ώρες: Πού θα χτυπήσουν έντονα φαινόμενα
- Ενδείξεις καταθλίψεις «αποκαλύπτουν» οι φωτογραφίες στα social media
- Χαρίδημος Χατζηδάκης: ο χαρισματικός οινοποιός που απεβίωσε χθες ανέδειξε τα κρασιά της Σαντορίνης με μοναδικό τρόπο
- Τι λέει ο υδραυλικός που του σπάσανε με ρόπαλο το αυτοκίνητο
- Δημοφιλέστερες Ειδήσεις Alfa Vita
- Ταινία του ΑΠΘ: «Θεσσαλονίκη 2017: ένας αιώνας από τη μεγάλη πυρκαγιά»
- Μία ακόμη νεκρή σε τροχαίο στους ελληνικούς δρόμους
- Την παραίτηση Παπουτσή από την Παγκόσμια Τράπεζα ζητά η κυβέρνηση
- Ένοπλη ληστεία σε τράπεζα στον Άλιμο
- Στα χέρια των Αρχών φωτογραφία του εμπρηστή της Πάτρας
- Οι ιντερνετικές προκαταλήψεις δημιουργούν... ρατσιστικά ρομπότ
- Αποσπάσεις εκπαιδευτικών Δευτεροβάθμιας Εκπαίδευσης στα Πειραματικά & Πρότυπα Σχολεία για το διδακτικό έτος 2017-2018
- Τελευταία Νέα Alfa Vita
- Οι ιντερνετικές προκαταλήψεις δημιουργούν... ρατσιστικά ρομπότ
- Αποσπάσεις εκπαιδευτικών Δευτεροβάθμιας Εκπαίδευσης στα Πειραματικά & Πρότυπα Σχολεία για το διδακτικό έτος 2017-2018
- Στα χέρια των Αρχών φωτογραφία του εμπρηστή της Πάτρας
- Την παραίτηση Παπουτσή από την Παγκόσμια Τράπεζα ζητά η κυβέρνηση
- Ένοπλη ληστεία σε τράπεζα στον Άλιμο
- Μία ακόμη νεκρή σε τροχαίο στους ελληνικούς δρόμους
- Ταινία του ΑΠΘ: «Θεσσαλονίκη 2017: ένας αιώνας από τη μεγάλη πυρκαγιά»
- Μύθος και πραγματικότητα για την αξιολόγηση των "καλών" και "κακών" σχολείων
- Υπ.Παιδείας: Το χρονοδιάγραμμα (οδηγίες) για την ομαλή έναρξη της νέας σχολικής χρονιάς 2017-18
- Προσοχή: Υψηλός κίνδυνος πυρκαγιάς για σήμερα (Χάρτης)
- Τελευταία Νέα Κατηγορίας Ειδήσεις
- Στην Πάρο για διακοπές το ζεύγος Μακρόν; Όχι δεν είναι…
- Διακοπές στην Πάρο κάνει το ζεύγος Μακρόν
- Παιδί γλίστρησε από παράθυρο και κρεμόταν από καλώδιο
- Πυρκαγιά στο Κορωπί- Δεν φτάνουν στο σημείο τα οχήματα!
- Μία νεκρή και τρεις τραυματίες στην άσφαλτο - Άγνωστα τα αίτια της τραγωδίας
- Έρχεται βροχή από πεφταστέρια (video)
- Τέσσερις νεκροί από τις καταιγίδες στην Πολωνία
- Περού: «Δικτάτορας ο Μαδούρο - νοθεία &πραξικόπημα»
- Σε εξέλιξη πυρκαγιά στο Στόμιο Ιεράπετρας
- Η Παρευξείνια Τράπεζα εξετάζει προτάσεις χρηματοδοτήσεων 400 εκατ. ευρώ