Έρευνα του Columbia αποκαλύπτει σοβαρά προβλήματα στην αναζήτηση του ChatGPT

Το ChatGPT της OpenAI αντιμετωπίζει σοβαρά προβλήματα ακρίβειας στην αναζήτηση ειδήσεων, σύμφωνα με νέα έρευνα του Πανεπιστημίου Columbia.

Σύμφωνα με πρόσφατη έρευνα του Κέντρου Ψηφιακής Δημοσιογραφίας Tow του Πανεπιστημίου Columbia, η νέα λειτουργία

αναζήτησης του ChatGPT, που παρουσιάστηκε τον Οκτώβριο από την OpenAI, εμφανίζει σημαντικές αδυναμίες στην ακρίβεια και την αξιοπιστία των πηγών ειδησεογραφικού περιεχομένου.

Η έρευνα, που εξέτασε 200 αποσπάσματα από 20 διαφορετικά μέσα ενημέρωσης, αποκάλυψε ότι το ChatGPT συχνά αποδίδει λανθασμένα πηγές ή δημιουργεί ανύπαρκτες. Το πρόβλημα εμφανίζεται ανεξάρτητα από το αν τα μέσα ενημέρωσης έχουν συνάψει επίσημες συμφωνίες αδειοδότησης με την OpenAI ή αν μπλοκάρουν την πρόσβαση των web crawlers της εταιρείας.

Ακόμη και συνεργάτες της OpenAI, όπως η Wall Street Journal, το The Atlantic και οι εκδόσεις Axel Springer και Meredith, δεν εμφανίζουν σταθερή απόδοση στην ακρίβεια των αναφορών. Χαρακτηριστικό παράδειγμα αποτελεί το Politico, που ανήκει στον όμιλο Axel Springer, όπου το ChatGPT συχνά απέδιδε λανθασμένα τις πηγές των δηλώσεων.

Το πρόβλημα, σύμφωνα με την έρευνα, έγκειται στον τρόπο με τον οποίο το ChatGPT επεξεργάζεται τις πληροφορίες. Παρόλο που οι web crawlers μπορεί να λειτουργούν σωστά, το υποκείμενο μοντέλο τεχνητής νοημοσύνης εξακολουθεί να κάνει λάθη και να "ψευδαισθάνεται", ακόμη και με αδειοδοτημένο περιεχόμενο.

Ιδιαίτερα ανησυχητικό είναι το γεγονός ότι όταν ένα μέσο ενημέρωσης μπλοκάρει την πρόσβαση μέσω αρχείων robots.txt, όπως οι New York Times, το ChatGPT αντί να παραδεχτεί την έλλειψη πρόσβασης, καταφεύγει στη δημιουργία φανταστικών πηγών. Η έρευνα διαπίστωσε ότι πάνω από το ένα τρίτο των απαντήσεων εμπίπτουν σε αυτή την κατηγορία.

Οι επιπτώσεις αυτής της κατάστασης είναι σημαντικές τόσο για τη δημοσιογραφία όσο και για την αξιοπιστία των εργαλείων τεχνητής νοημοσύνης. Η OpenAI στοχεύει να καταστήσει το ChatGPT την προτιμώμενη πηγή για γρήγορες και αξιόπιστες απαντήσεις, αλλά η αδυναμία ακριβούς παράθεσης πηγών υπονομεύει την εμπιστοσύνη τόσο στην τεχνητή νοημοσύνη όσο και στη δημοσιογραφία που επιχειρεί να συνοψίσει.

Διαβάστε ολόκληρο το άρθρο