Η Amazon έκλεισε λογισμικό που απέκλειε βιογραφικά γυναικών – Στοπ στην προκατάληψη (εικόνες)

Προκατάληψη σε βάρος των γυναικών έδειχνε εργαλείο τεχνητής νοημοσύνης που είχαν αναπτύξει ειδικοί της Amazon για σκοπούς εντοπισμού και πρόσληψης κατάλληλου ανθρωπίνου δυναμικού, σύμφωνα με το Reuters.

Η συγκεκριμένη ομάδα ανέπτυσσε προγράμματα από το 2014, αντικείμενο των οποίων είναι η εξέταση βιογραφικών, με σκοπό την αυτοματοποίηση της διαδικασίας, όπως είπαν στο Reuters πέντε άτομα ενήμερα

για το συγκεκριμένο πρόγραμμα. «Όλοι ήθελαν αυτό το “Άγιο Δισκοπότηρο”», είπε ένα από τα άτομα που δούλευαν πάνω στο πρόγραμμα. «Κυριολεκτικά ήθελαν μια μηχανή όπου θα μπαίνουν 100 βιογραφικά, θα βγαίνουν πέντε και θα παίρνουμε αυτούς».

#Amazon scraps secret AI recruiting tool that showed bias against women https://t.co/CY6fhOpw17

— Bunkunin (@bunkybun) 10 Οκτωβρίου 2018

Ωστόσο, το 2015 διαπιστώθηκε πως το νέο αυτό σύστημα δεν αξιολογούσε τους υποψηφίους για θέσεις εργασίας software developer και άλλων τεχνικών πόστων με όρους ιστότητας. Αυτό συνέβαινε επειδή τα μοντέλα της Amazon είχαν «εκπαιδευτεί» στην αξιολόγηση υποψηφίων μέσω παρατήρησης μοτίβων και τάσεων στα βιογραφικά που είχαν υποβληθεί σε περίοδο 10 ετών. Τα περισσότερα από αυτά προέρχονταν από άνδρες, κάτι που αντικατοπτρίζει την κυριαρχία των ανδρών στον χώρο της τεχνολογίας. Οπότε, και το σύστημα της Amazon κατέληξε στο συμπέρασμα πως οι άνδρες ήταν καταλληλότεροι: Σύμφωνα με το Reuters, υποβάθμιζε βιογραφικά που είχαν λέξεις όπως «γυναίκες/γυναικών» και προέρχονταν από υποψήφιες από κολέγια θηλέων.

Amazon’s AI-powered recruiting tool was biased against women — Quartz https://t.co/qGaDpYewNG

— Meet Mike Udem! (@mikeudem) 10 Οκτωβρίου 2018

Η Amazon τροποποίησε τα προγράμματα για να τα κάνει αντικειμενικά ως προς τέτοιους όρους. Ωστόσο, όπως υπογράμμισαν οι πηγές, αυτό δεν ήταν εγγύηση πως δε θα βρίσκονταν άλλοι τρόποι για προκαταλήψεις και διακρίσεις σε βάρος υποψηφίων. Εν τέλει, η εταιρεία διέλυσε την ομάδα στις αρχές του προηγούμενου έτους, επειδή οι υποψήφιοι είχαν χάσει τις ελπίδες τους για το συγκεκριμένο εγχείρημα: Οι υπεύθυνοι ανθρώπινου δυναμικού της Amazon έβλεπαν τις συστάσεις που προέκυπταν από το εργαλείο, ωστόσο ποτέ δεν βασίζονταν πλήρως σε αυτές.

Όπως υπογραμμίζει το Reuters, η Amazon αρνήθηκε να προβεί σε σχόλια για το θέμα, ωστόσο τόνισε πως είναι αφοσιωμένη στην ισότητα στον χώρο εργασίας.

Amazon ditches AI recruiting tool that didn’t like women – National ~ https://t.co/EFJMDjDhIB pic.twitter.com/pjEZ7EUwQp

— Automatic Blogging (@MyAutoBlogging) 10 Οκτωβρίου 2018

Πηγή: Reuters/naftemporiki.gr