Το Facebook εξηγεί γιατί δεν εντόπισε έγκαιρα το βίντεο του μακελάρη της Ν. Ζηλανδίας

Το Facebook εξήγησε γιατί τα εργαλεία τεχνητής νοημοσύνης (ΑΙ) του δεν κατάφεραν να ανιχνεύσουν το βίντεο του μακελάρη της Νέας Ζηλανδίας που μεταδόθηκε ζωντανά στον ιστοχώρο του την περασμένη εβδομάδα, προτού προβληθεί 4.000 φορές.

Ο δράστης σκότωσε 50 άτομα σε μια επίθεση σε δύο τζαμιά στην περιοχή.

Το βίντεο καταργήθηκε από το Facebook, αφού επισημάνθηκε για πρώτη φορά από έναν χρήστη 29 λεπτά μετά την

έναρξη της ζωντανής μετάδοσης, ανέφερε η εταιρεία σε ένα blog post το βράδυ της Τετάρτης. Πολλές πλατφόρμες social media αφαίρεσαν το αρχικό βίντεο από τους ιστότοπούς τους, αλλά γρήγορα αντίγραφα εμφανίστηκαν με ένα ρυθμό που τα συστήματα παρακολούθησής τους δεν μπορούσαν να συμβαδίσουν. Οι χρήστες επίσης τροποποίησαν το βίντεο για να επιβραδύνουν την αυτόματη ανίχνευση.

Το Facebook έχει βασιστεί σε ένα μείγμα AI και ανθρώπινης εξέτασης για να αξιολογεί και να αφαιρεί περιεχόμενο που παραβιάζει τις πολιτικές του και έχει σε μεγάλο βαθμό δει επιτυχία όταν πρόκειται να αφαιρέσει πορνογραφική και τρομοκρατική προπαγάνδα από τον ιστότοπό του. Αλλά το Facebook ανέφερε στο post ότι η εκπαίδευση της AI να ανιχνεύει τέτοιου είδους βίντεο μαζικών πυροβολισμών είναι πιο δύσκολη από την εκπαίδευση για να ανιχνεύσει γυμνό, γιατί βασίζεται σε ένα τεράστιο περιεχόμενο από το οποίο μαθαίνει.
Την Τρίτη, ένα μέλος του Κογκρέσου ζήτησε από τον CEO Mark Zuckerberg και άλλους ηγέτες της τεχνολογίας να ενημερώσουν τους βουλευτές σχετικά με τον τρόπο εξάπλωσης του βίντεο της Νέας Ζηλανδίας.

«Το συγκεκριμένο βίντεο του δεν ενεργοποίησε τα συστήματα αυτόματης ανίχνευσης», ανέφερε το Facebook. «Για να το επιτύχουμε, θα πρέπει να παρέχουμε στα συστήματά μας μεγάλα ποσά δεδομένων αυτού του συγκεκριμένου είδους περιεχομένου, κάτι που είναι δύσκολο καθώς αυτά τα γεγονότα είναι ευτυχώς σπάνια. Μια άλλη πρόκληση είναι να διακρίνουμε αυτομάτως αυτό το περιεχόμενο από οπτικά παρόμοιο, αβλαβές περιεχόμενο - για παράδειγμα, αν χιλιάδες βίντεο από βιντεοπαιχνίδια με ζωντανή ροή επισημαίνονται από τα συστήματά μας, οι αξιολογητές μας θα μπορούσαν να χάσουν τα σημαντικά βίντεο του πραγματικού κόσμου, όπου θα μπορούσαμε να ειδοποιήσουμε αυτούς που θα χρειάζονταν βοήθεια».

Το Facebook δήλωσε ότι θα λάβει μέτρα για να ενισχύσει την τεχνολογία ανίχνευσης. Η εταιρεία δήλωσε ότι χρησιμοποίησε μια «πειραματική τεχνολογία που βασίζεται στην ηχητική τεχνολογία την οποία χτίζαμε για να εντοπίσουμε τις παραλλαγές του βίντεο». Επίσης, δήλωσε ότι θα διερευνήσει εάν η AI μπορεί να χρησιμοποιηθεί σε βίντεο με ζωντανή ροή.