Ο αλγόριθμος και οι δυσαρέσκειες

Σε νέα αγωγή κατά της Meta, 41 πολιτείες των ΗΠΑ υποστηρίζουν ότι δύο από τα μέσα κοινωνικής δικτύωσης της εταιρείας – το Instagram και το Facebook – δεν είναι απλώς εθιστικά, αλλά βλάπτουν την ευημερία των παιδιών. Η Meta κατηγορείται ότι εμπλέκεται σε «σχέδιο εκμετάλλευσης νεαρών χρηστών για το κέρδος», συμπεριλαμβανομένης της εμφάνισης

επιβλαβούς περιεχομένου που τους κρατά κολλημένους στις οθόνες τους.

Η ανάπτυξη αλγορίθμων για τη μεγιστοποίηση της αφοσίωσης των χρηστών είναι ο τρόπος με τον οποίο η Big Tech μεγιστοποιεί την αξία των μετόχων.

Αν και το Facebook ξεκίνησε ως βασική υπηρεσία που συνέδεε φίλους και γνωστούς στο Διαδίκτυο, ο σχεδιασμός του εξελίχθηκε σταδιακά όχι για να ανταποκρίνεται στις ανάγκες και τις προτιμήσεις των χρηστών, αλλά για να τους κρατά στη συγκεκριμένη πλατφόρμα και μακριά από άλλες. Για την επιδίωξη αυτού του στόχου, η εταιρεία αγνόησε τακτικά τις ρητές προτιμήσεις των καταναλωτών σχετικά με το είδος του περιεχομένου που ήθελαν να δουν οι χρήστες, το απόρρητό τους και την κοινή χρήση δεδομένων.

Τώρα που η πρόοδος της τεχνητής νοημοσύνης έχει ήδη αλλάξει τις αλγοριθμικές συστάσεις, καθιστώντας τις ακόμα πιο εθιστικές, υπάρχει επείγουσα ανάγκη για νέες δομές διακυβέρνησης προσανατολισμένες στο «κοινό καλό» και όχι σε μια στενά συλληφθείσα έννοια της «αξίας των μετόχων» – και συμβιωτικές συνεργασίες μεταξύ επιχειρήσεων, κυβέρνησης και κοινωνίας των πολιτών.

Πρώτον, αντί να βασίζονται μόνο στη νομοθεσία περί ανταγωνισμού και αντιμονοπωλιακής νομοθεσίας, οι υπεύθυνοι χάραξης πολιτικής θα πρέπει να υιοθετήσουν τεχνολογικά εργαλεία για να διασφαλίσουν ότι οι πλατφόρμες δεν μπορούν να κλειδώσουν αθέμιτα σε αυτές τους χρήστες και τους προγραμματιστές.

Δεύτερον, η μεταρρύθμιση της εταιρικής διακυβέρνησης είναι απαραίτητη, καθώς η μεγιστοποίηση της αξίας των μετόχων είναι αυτή που ώθησε τις πλατφόρμες να εκμεταλλευτούν αλγοριθμικά τους χρήστες τους αρχικά.

Τρίτον, θα πρέπει να δοθεί στους χρήστες μεγαλύτερη επιρροή στην αλγοριθμική ιεράρχηση των πληροφοριών που τους παρουσιάζονται.

Τέταρτον, το βιομηχανικό πρότυπο θα πρέπει να δώσει τη θέση του σε πιο ολοκληρωμένες μακροπρόθεσμες αξιολογήσεις επιπτώσεων.

Πέμπτον, η δημόσια τεχνητή νοημοσύνη θα πρέπει να αναπτυχθεί για την αξιολόγηση της ποιότητας των αλγοριθμικών εξόδων, ιδιαίτερα της διαφήμισης.

Η επικείμενη δίκη της Meta δεν μπορεί να αναιρέσει λάθη του παρελθόντος. Αλλά καθώς προετοιμαζόμαστε για την επόμενη γενιά προϊόντων τεχνητής νοημοσύνης, πρέπει να καθιερώσουμε την κατάλληλη αλγοριθμική επίβλεψη. Οι αλγόριθμοι που βασίζονται σε τεχνητή νοημοσύνη θα επηρεάσουν όχι μόνο το τι καταναλώνουμε, αλλά και τον τρόπο παραγωγής και δημιουργίας. Οχι μόνο αυτό που επιλέγουμε, αλλά αυτό που σκεφτόμαστε. Δεν πρέπει να γίνει λάθος.

Η Μαριάνα Μαζουκάτο είναι ιδρυτική διευθύντρια στο UCL Institute for Innovation and Public Purpose. Είναι πρόεδρος στο Council on the Economics of Health for All του Παγκόσμιου Οργανισμού Υγείας Ο Ιλαν Στράους είναι ερευνητής του UCL Institute for Innovation and Public Purpose