OpenAI: Οι «παραισθήσεις» της Τεχνητής Νοημοσύνης είναι μαθηματικά αναπόφευκτες
Σε μια αποκαλυπτική μελέτη, η OpenAI, δημιουργός του ChatGPT, παραδέχεται ότι οι λεγόμενες «παραισθήσεις» των μεγάλων γλωσσικών μοντέλων, δηλαδή οι ψευδείς αλλά πειστικές απαντήσεις, δεν αποτελούν απλώς ατέλειες μηχανικής, αλλά μαθηματικό αναπόφευκτο.
Ακόμα και με τέλεια δεδομένα εκπαίδευσης, η τεχνολογία δεν μπορεί να αποφύγει το σφάλμα.
Γιατί συμβαίνουν οι παραισθήσειςΗ μελέτη, με επικεφαλής ερευνητές της OpenAI και του Georgia
Ακόμη και τα πιο εξελιγμένα συστήματα της OpenAI εμφάνισαν υψηλά ποσοστά λαθών. Το μοντέλο o1 «παραληρούσε» στο 16% των περιπτώσεων, ενώ τα πιο πρόσφατα o3 και o4-mini έφτασαν στο 33% και 48% αντίστοιχα.
Ο κίνδυνος για την εμπιστοσύνηΗ παραδοχή έχει βαρύτητα, καθώς το ChatGPT είναι το εργαλείο που εκτόξευσε την παγκόσμια υιοθέτηση της γενετικής AI. Όπως σημειώνει ο αναλυτής Νιλ Σαχ, «η τεχνητή νοημοσύνη δεν έχει την ταπεινότητα να παραδεχθεί ότι δεν ξέρει. Προτιμά να απαντά με σιγουριά, ακόμη κι όταν κάνει λάθος».
Επιπλέον, οι μέθοδοι αξιολόγησης της βιομηχανίας ενισχύουν το πρόβλημα: τα συστήματα τιμωρούν τις απαντήσεις «δεν ξέρω» και επιβραβεύουν τις βέβαιες, έστω και λανθασμένες.
Νέες στρατηγικές για επιχειρήσειςΟι ειδικοί προειδοποιούν ότι οι εταιρείες πρέπει να δουν τις παραισθήσεις ως μόνιμο ρίσκο, όχι ως παροδικό εμπόδιο. Προτείνονται:
ισχυρότερη ανθρώπινη επίβλεψη,ειδικά «φίλτρα» για κρίσιμους κλάδους όπως υγεία και χρηματοοικονομικά,νέοι κανόνες αξιολόγησης με βάση τη διαφάνεια και την εκτίμηση αβεβαιότητας.Όπως τόνισε ο Τσάρλι Ντάι της Forrester, «η διακυβέρνηση πρέπει να περάσει από την πρόληψη στην αντιμετώπιση ρίσκου». Αντίστοιχα, ο Σαχ πρότεινε ένα «δείκτη εμπιστοσύνης σε πραγματικό χρόνο» που θα μετρά την αξιοπιστία των απαντήσεων.Το συμπέρασμαΗ έρευνα της OpenAI καταλήγει ότι η πλήρης εξάλειψη των παραισθήσεων δεν είναι δυνατή. Η βιομηχανία πρέπει να προσαρμοστεί, υιοθετώντας μηχανισμούς ελέγχου και ρεαλιστικές προσδοκίες. Με άλλα λόγια, οι επιχειρήσεις δεν μπορούν να περιμένουν από την AI να είναι αλάνθαστη – αλλά μπορούν να μάθουν να διαχειρίζονται τα λάθη της.
Δείτε Επίσης:
Windrunner: Το αεροπλάνο-γίγας που θα χωράει τέσσερα F-35Διαβάστε περισσότερα OpenAI: Οι «παραισθήσεις» της Τεχνητής Νοημοσύνης είναι μαθηματικά αναπόφευκτες
- Δημοφιλέστερες Ειδήσεις Κατηγορίας Ειδήσεις
- Προσοχή στους κοινούς τραπεζικούς λογαριασμούς: Πότε χτυπάει «καμπανάκι» η Εφορία και κινδυνεύεις με έλεγχο
- Τροχαίο ατύχημα για τη Ζωή Κωνσταντοπούλου στο Λαύριο
- Σοκάρουν οι αποκαλύψεις για την αδελφοκτονία στη Θεσσαλονίκη: Το σημείωμα και το τελευταίο τηλεφώνημα πριν το φονικό
- Προειδοποιήσεις Στουρνάρα για την οικονομία και τις τράπεζες
- Τροχαίο για τη Ζωή Κωνσταντοπούλου – Έχασε τον έλεγχο του ΙΧ, έπεσε σε χαντάκι
- Η άβολη χειρονομία της χήρας του Τσάρλι Κερκ στην κηδεία του, που παρέπεμπε σε ροκ συναυλία
- Τραμπ: «Ο Τσάρλι Κερκ δεν μισούσε τους αντιπάλους του, εγώ τους μισώ - Λυπάμαι, Έρικα»
- Θεσσαλονίκη: Νεκρός επιβάτης κρουαζιερόπλοιου – Τον βρήκαν στην καμπίνα
- Ξένος συλλέκτης παρέδωσε στην Ελλάδα 86 αρχαιότητες από την ιδιωτική του συλλογή - Δείτε φωτογραφίες
- Διψήφιο προβάδισμα για τη ΝΔ σε δύο νέες δημοσκοπήσεις - «Όχι» σε κόμμα Τσίπρα λέει το 63%
- Δημοφιλέστερες Ειδήσεις newsbreak
- Απίστευτες καταγγελίες για διαγνωστικά: «Αν πληρώσεις υπάρχουν ραντεβού»
- Φρίκη στου Ρέντη: Αλλοδαπός παρενόχλησε 11χρονο παιδάκι!
- Αναβολή στην δίκη για την δολοφονία της Γαρυφαλλιάς – Είχε ξυλοκοπηθεί από τον σύντροφό της
- OpenAI: Οι «παραισθήσεις» της Τεχνητής Νοημοσύνης είναι μαθηματικά αναπόφευκτες
- Ορατός ο κίνδυνος αποβολής των ομάδων του Ισραήλ από τις Ευρωπαϊκές διοργανώσεις
- Ποιος θα μας σώσει από τους τηλε-διαιτητές;
- «Δε θα σε συγχωρέσω»: Ο Γιώργος Χρανιώτης κατακεραυνώνει τη Γλυκερία για το Ισραήλ
- Windrunner: Το αεροπλάνο-γίγας που θα χωράει τέσσερα F-35
- Βοιωτία: Η ιατροδικαστική θα δώσει απαντήσεις για τον χρόνο θανάτου και ταφής
- Βοιωτία: Ερευνάται εγκληματική ενέργεια – Η 62χρονη έπαιρνε επιπλέον επίδομα!
- Τελευταία Νέα newsbreak
- OpenAI: Οι «παραισθήσεις» της Τεχνητής Νοημοσύνης είναι μαθηματικά αναπόφευκτες
- ΟΠΕΚΕΠΕ: Πρώτη δίκη στη Κρήτη με 104 κατηγορούμενους
- Φρίκη στου Ρέντη: Αλλοδαπός παρενόχλησε 11χρονο παιδάκι!
- Αναβολή στην δίκη για την δολοφονία της Γαρυφαλλιάς – Είχε ξυλοκοπηθεί από τον σύντροφό της
- «Δε θα σε συγχωρέσω»: Ο Γιώργος Χρανιώτης κατακεραυνώνει τη Γλυκερία για το Ισραήλ
- Windrunner: Το αεροπλάνο-γίγας που θα χωράει τέσσερα F-35
- Παγκράτι: Η αθηναϊκή εκδοχή του Μανχάταν – 850€ για μια γκαρσονιέρα
- Ορατός ο κίνδυνος αποβολής των ομάδων του Ισραήλ από τις Ευρωπαϊκές διοργανώσεις
- Πρώην πρόεδρος Μολδαβίας: «Η ΕΕ μετατρέπει την χώρα σε πιόνι κατά της Ρωσίας»
- Βοιωτία: Ερευνάται εγκληματική ενέργεια – Η 62χρονη έπαιρνε επιπλέον επίδομα!
- Τελευταία Νέα Κατηγορίας Ειδήσεις
- Στον επόμενο τόνο, θα επιχειρήσουν να σπιλώσουν (και) τον Πάνο Ρούτσι
- Ανδρουλάκης: Μεθοδεύσεις από τη ΝΔ στην εξεταστική επιτροπή για τον ΟΠΕΚΕΠΕ
- Θεσσαλονίκη: Νεκρός επιβάτης κρουαζιερόπλοιου – Τον βρήκαν στην καμπίνα
- Ο ισραηλινός στρατός ενίσχυσε τις δυνάμεις του σε όλα τα μέτωπα για την Εβραϊκή Πρωτοχρονιά
- ΟΠΕΚΕΠΕ: Ξεκινά η μεγαλύτερη δίκη στην Κρήτη – 105 άτομα στο εδώλιο
- Δημοσκόπηση Palmos Analysis: Η ΝΔ διατηρεί διψήφια διαφορά από το ΠΑΣΟΚ – Αρνητικοί οι πολίτες για ένα νέο κόμμα Τσίπρα
- Θα γίνουν βολές στα Χανιά
- Θεσσαλονίκη: Νεκρός επιβάτης κρουαζιερόπλοιου – Τον βρήκαν στην καμπίνα του
- Απίστευτο κι όμως ελληνικό: Κράτησαν για 12 ώρες 3,5 μηνών μωρό στο ΑΤ Γαλατσίου
- ΠΑΣΟΚ: Παρουσιάζει αύριο την τροπολογία του για το ιδιωτικό χρέος
