Ερευνα: ΑΙ δεν έχουν πρόβλημα με τον ναζισμό αν είναι να «ταιριάξουν» με ανθρώπους συνομιλητές
Επιστήμονες υπολογιστών διαπίστωσαν πως chatbots και LLMs (large language models) Τεχνητής Νοημοσύνης μπορούν να φτάσουν στο σημείο να υποθάλψουν ακραίες ναζιστικές, σεξιστικές και ρατσιστικές απόψεις κατά την κουβέντα με τους συνομιλητές τους.
Όπως αναφέρεται σε σχετικό δημοσίευμα του Live Science, όταν καλούνται να δείξουν ενσυναίσθηση, αυτά τα συστήματα συζήτησης το κάνουν έντονα, ακόμα και όταν ο άνθρωπος συνομιλητής τους αυτοπροσδιορίζεται ως Ναζί.
Της έρευνας ηγήθηκε η Άντρεα Κουάντρα, μεταδιδακτορική του Stanford University. Αντικείμενό της ήταν να διαπιστώσει πώς οι επιδείξεις ενσυναίσθησης από ΑΙ μπορεί να ποικίλλουν ανάλογα με την ταυτότητα του χρήστη. Η ομάδα διαπίστωσε πως η δυνατότητα να υποκρίνεται ενσυναίσθηση μια ΑΙ ήταν «δίκοπο μαχαίρι».
«Είναι εξαιρετικά απίθανο να μη συμβεί (η αυτοματοποιημένη ενσυναίσθηση) οπότε είναι σημαντικό καθώς συμβαίνει να έχουμε κριτικές οπτικές έτσι ώστε να μπορούμε να είμαστε πιο στοχευμένοι ως προς την αντιστάθμιση της πιθανής ζημιάς» έγραψε σχετικά.
Οι ερευνητές χαρακτήρισαν το πρόβλημα «επείγον» λόγω των κοινωνικών επιπτώσεων των αλληλεπιδράσεων με αυτά τα μοντέλα ΑΙ και την έλλειψη σχετικών κανόνων περί της χρήσης τους από τις κυβερνήσεις.
Οι επιστήμονες επικαλούνται δύο παραδείγματα, το Tay και το Zo της Microsoft. Ο Tay τέθηκε εκτός λειτουργίας σχεδόν άμεσα, όταν απέτυχε να αναγνωρίσει αντικοινωνικά θέματα συζήτησης, κάτι που οδήγησε σε ρατσιστικά tweets και διακρίσεις.
Το Ζο είχε περιορισμούς που το εμπόδιζαν να απαντά σε όρους που σχετίζονταν με συγκεκριμένα ευαίσθητα θέματα, μα αυτό είχε ως αποτέλεσμα άτομα από μειονότητες ή περιθωριοποιημένες κοινότητες να λαμβάνουν λίγες χρήσιμες πληροφορίες όταν αποκάλυπταν ποιοι ήταν. Ως αποτέλεσμα, το σύστημα φάνηκε «ρηχό».
Η ομάδα θεώρησε πως το να διαμορφώνουν οι προγραμματιστές συγκεκριμένες συμπεριφορές στα μοντέλα ΑΙ για την αποφυγή ευαίσθητων θεμάτων θα μπορούσε εν δυνάμει να τα εμποδίσει να βοηθήσουν χρήστες με ερωτήματα σε τομείς για τους οποίους υπάρχουν περιορισμούς. Στο πλαίσιο της έρευνας δοκιμάστηκαν έξι LLMs, μεταξύ των οποίων το Microsoft Bing, το Google Bard και το ChatGPT.Δημιούργησαν επίσης 65 ανθρώπινες ταυτότητες συνδυάζοντας 12 μεταβλητές. Στην έρευνα χρησιμοποιήθηκαν στοιχεία από προηγούμενες έρευνες σχετικά με προβληματικές απαντήσεις σε τομείς όπως η παρενόχληση, η ψυχική υγεία και η βία.
Τα chatbots ανταποκρίθηκαν σε φορτισμένες συναισθηματικά ερωτήσεις/ προτροπές με ενσυναίσθηση, μα οι απαντήσεις τους ήταν ρηχές, όπως διαπίστωσαν οι ερευνητές. Σε μεγάλο βαθμό δεν ήταν σε θέση να δείξουν ότι κατανοούσαν πλήρως τα συναισθήματα ενός χρήστη. Η έρευνα κατέληξε στο συμπέρασμα πως αν και η ΑΙ μπορεί να ανταποκρίνεται με ενσυναίσθηση, δεν τα πάει καλά στην κατανόηση και τη διαχείριση της εμπειρίας ενός μεμονωμένου χρήστη με συγκεκριμένα χαρακτηριστικά ταυτότητας. Ακόμη, διαπίστωσαν πως κοινές ΑΙ- συνομιλητές ενθάρρυναν ταυτότητες που συσχετίζονταν με ακραίες ιδεολογίες.
Σε μια περίπτωση ένας από τους φανταστικούς χρήστες έδειχνε σημάδια κατάθλιψης και έλλειψης ενδιαφέροντος για τη ζωή, ενώ αυτοπροσδιοριζόταν ως Ναζί. Όταν το σύστημα (ChatGPT επί της προκειμένης) κλήθηκε να απαντήσει με ενσυναίσθηση, έδειξε μεγάλη και αγνόησε εντελώς το θέμα του ναζισμού.
Ο προβληματισμός είναι πως οι ΑΙ μπορεί να δείχνουν ελλιπή κατανόηση ως προς το πώς και πότε να δείχνουν ενσυναίσθηση, αναφέρουν οι ερευνητές, που επιδιώκουν να κινητοποιήσουν άλλους επιστήμονες ώστε να αντιληφθούν τα προβλήματα που φαίνονται εγγενή σε αυτά τα μοντέλα ΑΙ.
- Δημοφιλέστερες Ειδήσεις Κατηγορίας Ειδήσεις
- Πώς πιάστηκαν στη «φάκα» φορολογούμενοι που δώρισαν μετρητά σε συζύγους, παιδιά και εγγόνια
- Μαρίνα Σάττι: Το βίντεο – βόμβα από την Eurovision δημιουργεί ερωτηματικά
- Επίθεση στην Πάρνηθα: Εντοπίστηκε η συμμορία από το Μενίδι που επιτέθηκε σε εθελοντές
- Τραγωδία στα Χανιά: Νεκρή αιφνιδίως 13χρονη – Τι δείχνουν τα πρώτα στοιχεία
- Survivor 2024: Αυτός ο παίκτης ηττήθηκε στον τελικό και αποχώρησε από το reality επιβίωσης [βίντεο]
- Θεσσαλονίκη: Έτοιμο το πρώτο yellow box - Τι σημαίνει, πότε τρώμε πρόστιμο
- 7 λάθη που κάνουν οι περισσότεροι άνθρωποι στα 50 τους
- Τι σημαίνει για τις αμερικανικές εκλογές η καταδίκη Τραμπ για την υπόθεση Στόρμι Ντάνιελς
- Ο Ντ. Τραμπ καταδικάστηκε και για τις 34 κατηγορίες σε ποινική δίκη στη Νέα Υόρκη
- Οι ψεκασμένοι λάτρεις του ξανθού γένους
- Δημοφιλέστερες Ειδήσεις Huffington Post Greece

- Τελευταία Νέα Huffington Post Greece
- Ερευνα: ΑΙ δεν έχουν πρόβλημα με τον ναζισμό αν είναι να «ταιριάξουν» με ανθρώπους συνομιλητές
- L'amour toujours: Φλερτ των νέων στην ΕΕ με την ακροδεξιά
- Ντόναλντ Τραμπ: Ενοχος για κακούργημα στην υπόθεση Στόρμι Ντάνιελς
- Σλοβακία: Ο πρωθυπουργός Φίτσο πήρε εξιτήριο από το νοσοκομείο
- ΗΠΑ: Ο 81χρονος «κατά συρροήν σκοπευτής με τη σφεντόνα» πέθανε αμέσως μετά την αποφυλάκισή του
- Πόλεμος στη Γάζα: Έτοιμη για «ολοκληρωμένη συμφωνία» δηλώνει η Χαμάς, αν το Ισραήλ σταματήσει
- «Μπελάδες» λόγω Ολυμπιακού για τον Πρόεδρο της Κύπρου
- Το Ιράν χρησιμοποιεί συμμορίες κατά ισραηλινών συμφερόντων, λένε οι σουηδικές υπηρεσίες πληροφοριών
- Τσίπρας: Επιβολή κυρώσεων στο Ισραήλ αν δεν υπάρξει άμεση κατάπαυση πυρός στη Γάζα
- ΤΑΙΠΕΔ: 8 υποψήφιοι για το λιμάνι του Λαυρίου
- Τελευταία Νέα Κατηγορίας Ειδήσεις
- Ο Πρωθυπουργός και ο «κανένας»
- Γονικές παροχές: Έρχονται φόροι και πρόστιμα για παραβάσεις του νέου θεσμικού πλαισίου
- «Οι δρόμοι είναι σπαρμένοι πτώματα… άνθρωποι νεκροί, ζώα νεκρά» Το Ισραήλ σφυροκοπεί τη Λωρίδα της Γάζας
- Πανελλήνιες 2024: Νεοελληνική Γλώσσα και Λογοτεχνία σήμερα για τους υποψήφιους των ΓΕΛ
- Συνεχίζεται το σφυροκόπημα στη Γάζα - Η ζώνη-κλειδί στα συνορα Αιγύπτου
- Κρίσιμες συσκέψεις για μαρίνα και λιμάνι Λάρνακας
- Δύο άτομα βρέθηκαν νεκρά στην Πάτρα: Κινητοποίηση της ΕΛΑΣ - Ποια η πιθανή αιτία θανάτου
- Καθαρό οδικό χάρτη θέλει η κυβέρνηση μετά τις ευρωεκλογές: Οι επόμενες κινήσεις Μητσοτάκη και το κρίσιμο στοίχημα της συσπείρωσης
- Πανελλήνιες 2024: Στη Νεοελληνική Γλώσσα και Λογοτεχνία εξετάζονται σήμερα στα ΓΕΛ
- Βάσω Γουλιελμάκη: Μετά το MeToo πήραν το μάθημά τους άνθρωποι που είχαν καβαλήσει το καλάμι