Ο ασθενής απέναντι στον αλγόριθμο: ποιος λογοδοτεί;
Μεσάνυχτα. Φανταστείτε έναν άνθρωπο που νιώθει πόνο στο στήθος. Ανοίγει το κινητό και ρωτά ένα chatbot. Η απάντηση έρχεται αμέσως, ευγενική και σίγουρη, και τον καθησυχάζει. Δεν είναι όμως ιατρική επίσκεψη: κανείς δεν τον εξέτασε. Αν η απάντηση είναι λάθος, ποιος αναλαμβάνει την ευθύνη;
Το 1963 ο οικονομολόγος Κένεθ Αροου, μετέπειτα νομπελίστας, εξήγησε γιατί η ιατρική φροντίδα δεν λειτουργεί όπως μια συνηθισμένη αγορά: ο ασθενής δύσκολα μπορεί να κρίνει τι χρειάζεται ή αν η φροντίδα είναι σωστή. Η εμπιστοσύνη στηρίζεται σε θεσμούς και κανόνες: άδεια άσκησης επαγγέλματος, δεοντολογία,
Το 1974 ο καναδός οικονομολόγος Ρόμπερτ Εβανς ανέδειξε την άλλη όψη: ο γιατρός σου λέει τι χρειάζεσαι και συχνά σου το παρέχει κιόλας. Μπορεί, ακόμη και καλόπιστα, να σε οδηγήσει σε περισσότερες εξετάσεις ή θεραπείες από όσες χρειάζεσαι. Αυτό ονομάστηκε προκλητή ζήτηση. Στο επίκεντρο και των δύο αναλύσεων βρίσκεται η σχέση γιατρού και ασθενούς: μια «δυάδα».
Σήμερα στη σχέση αυτή εισέρχεται η τεχνητή νοημοσύνη (ΤΝ). Οταν ο γιατρός συμβουλεύεται ένα σύστημα ΤΝ, ο ασθενής δεν γνωρίζει πάντα αν ακούει την κρίση του γιατρού ή την πρόταση ενός αλγορίθμου, ούτε τι έχει σχεδιαστεί να μεγιστοποιεί το σύστημα. Την αποτελεσματικότερη θεραπεία; Την ταχύτερη διακίνηση ασθενών; Τα έσοδα; Κι όταν ο ασθενής έχει πρόσβαση σε πιο προηγμένο σύστημα από εκείνο που χρησιμοποιεί ο γιατρός, μπορεί να έχει εντοπίσει πληροφορίες που ο γιατρός δεν έχει ακόμη εξετάσει. Αυτό, ωστόσο, δεν αναιρεί ούτε μεταβιβάζει την ευθύνη του γιατρού: η τελική κλινική κρίση και η λογοδοσία για την απόφαση παραμένουν δικές του.
Στην ανάπτυξη και χρήση αυτών των συστημάτων μπορεί να εμπλέκονται εταιρείες τεχνολογίας, νοσοκομεία, ασφαλιστικοί οργανισμοί, φαρμακευτικές και επιστημονικές εταιρείες. Αυτό το δίκτυο γύρω από τον γιατρό και τον ασθενή δεν είναι, βέβαια, καινούργιο. Με την ΤΝ, όμως, οι επιλογές όσων αναπτύσσουν τα συστήματα μπορούν να επηρεάζουν την ίδια την ιατρική συμβουλή, χωρίς να είναι ορατές στον ασθενή.
Ψευδο-δυάδαΚαι όταν ο γιατρός λείπει εντελώς, ο ασθενής μένει μόνος απέναντι σε ένα chatbot. Αυτή τη σχέση την ονομάζω ψευδο-δυάδα: μοιάζει με σχέση δύο προσώπων, αλλά δεν είναι. Η διαλογική μορφή της, ερώτηση και απάντηση, κερδίζει την εμπιστοσύνη μας. Ο γιατρός όμως, με όλες τις ατέλειές του, διαθέτει κρίση, υποχρέωση απέναντί μας, άδεια που μπορεί να χάσει και προσωπική ευθύνη. Το chatbot παίρνει τη θέση του συνομιλητή χωρίς να είναι πρόσωπο. Η ψευδο-δυάδα είναι μια σχέση με έναν μόνο άνθρωπο.
Παλιότερα, με το «Dr Google», ο ίδιος ο χρήστης αναζητούσε απαντήσεις ανάμεσα σε πολλές και συχνά αντικρουόμενες πηγές. Σήμερα το chatbot συνθέτει το ίδιο την απάντησή του, χωρίς όμως οι πηγές του να είναι πάντα ορατές, προσβάσιμες και, κυρίως, αξιόπιστες. Η αναζήτηση πληροφορίας γίνεται προσωπική συνομιλία και η συνομιλία δημιουργεί την ψευδαίσθηση σχέσης.
Δύο κίνδυνοιΟι κίνδυνοι εδώ είναι πολλοί, αλλά δύο ξεχωρίζουν. Ο πρώτος είναι τα λάθη που διατυπώνονται με βεβαιότητα. Ο γιατρός που δεν γνωρίζει οφείλει να το παραδεχθεί, να το ψάξει ή να συμβουλευτεί συναδέλφους, αν και αυτό δεν συμβαίνει πάντα. Η ευχέρεια ενός chatbot να απαντά άμεσα και με βεβαιότητα δεν εγγυάται την ορθότητα: μπορεί να παρουσιάζει επινοημένες πληροφορίες ως γεγονότα.
Ο δεύτερος αφορά τα αθέατα κίνητρα. Μια εταιρεία που αποκομίζει οικονομικά οφέλη από τη συχνότερη χρήση του chatbot της, από τη συλλογή των δεδομένων ή από παραπομπές σε υπηρεσίες επί πληρωμή ενδέχεται να ωθεί τους χρήστες σε περισσότερη ιατρική φροντίδα, χωρίς αυτή να είναι και καλύτερη. Προκλητή ζήτηση σε μαζική κλίμακα.
ΠροστασίαΥπάρχουν όμως και περαιτέρω ζητήματα όπως αυτό των προσωπικών δεδομένων. Παρότι η νομοθεσία προστατεύει τα δεδομένα υγείας, η χρήση ενός chatbot δεν συνεπάγεται αυτομάτως σχέση ιατρικού απορρήτου. Οσα του εμπιστευόμαστε μπορεί να αξιοποιηθούν εμπορικά, βάσει των όρων χρήσης που σπάνια διαβάζουμε προσεκτικά. Και βέβαια η ύπαρξη τέτοιων όρων χρήσης δεν αρκεί από μόνη της για να νομιμοποιήσει την επεξεργασία δεδομένων υγείας, τα οποία απαιτούν ιδιαίτερες εγγυήσεις προστασίας.
Πρόβλημα δημιουργεί και η μετάθεση της ευθύνης: η φράση «το σύστημα το προτείνει» θολώνει τις ευθύνες όλων, από τον γιατρό έως τον ασφαλιστή που απορρίπτει μια θεραπεία βάσει αλγορίθμου. Παράλληλα, η πρόσβαση σε κατάλληλα, ελεγμένα εργαλεία και η δυνατότητα αξιολόγησης των απαντήσεών τους δεν είναι ίδιες για όλους.
ΟργάνωσηΗ ΤΝ, βέβαια, βοηθά ήδη στην ανάγνωση απεικονιστικών εξετάσεων και στην καλύτερη οργάνωση υπηρεσιών, μπορεί να εξηγήσει στον ασθενή μια εξέταση και να επισημάνει στον γιατρό κάτι που του διέφυγε. Για να αξιοποιηθούν όμως τα οφέλη της, χρειάζονται κανόνες και για αυτή τη νέα σχέση.
Η χρήση ενός αλγορίθμου δεν καταργεί τις υποχρεώσεις απέναντι στον ασθενή. Απαιτεί σαφή κατανομή ευθυνών σε όσους τον αναπτύσσουν και τον χρησιμοποιούν. Οι εταιρείες να δηλώνουν δημόσια με ποιες κατηγορίες δεδομένων εκπαιδεύτηκε, τι έχει σχεδιαστεί να μεγιστοποιεί και ποιες εμπορικές συνεργασίες ενδέχεται να επηρεάζουν τις απαντήσεις του. Να φέρουν νομική ευθύνη για τις δικές τους πράξεις και παραλείψεις.
Τα συστήματα με ιατρικό σκοπό χρειάζονται, όπως τα φάρμακα, ανεξάρτητη αξιολόγηση πριν κυκλοφορήσουν και συνεχή παρακολούθηση μετά. Ο ευρωπαϊκός κανονισμός για την ΤΝ είναι βήμα προς τη σωστή κατεύθυνση. Τα chatbot γενικής χρήσης, όμως, δεν υπάγονται αυτομάτως στις αυστηρότερες απαιτήσεις για συστήματα υψηλού κινδύνου επειδή ο χρήστης τα ρωτά για την υγεία του.
Εξι δεκαετίες αργότερα, η ανάλυση του Αροου μας υπενθυμίζει γιατί η εμπιστοσύνη στην ιατρική χρειάζεται θεσμικές εγγυήσεις. Η ΤΝ κάνει αυτή την ανάγκη πιο επιτακτική. Το ζητούμενο είναι να διασφαλίσουμε ότι στον πυρήνα της ιατρικής θα υπάρχει πάντα τουλάχιστον ένας άνθρωπος που λογοδοτεί στον ασθενή.
Ο Ηλίας Μόσιαλος είναι καθηγητής Πολιτικής Υγείας στη London School of Economics
- Δημοφιλέστερες Ειδήσεις Κατηγορίας Ειδήσεις
- Διπλή τραγωδία στην κηδεία του γιου του: Ο πατέρας κατέρρευσε ενώ κουβαλούσε το φέρετρο
- «Ριφιφί»: Τι απέγιναν τα 100 εκατομμύρια δραχμές για τον μικρό Παναγιώτη
- Θεσσαλονίκη: Χειροπέδες σε 22χρονη στο αεροδρόμιο Μακεδονία - Γιατί την συνέλαβαν (ΦΩΤΟ)
- Θρήνος στα social media: Έφυγε το πιο viral σκυλάκι της Ελλάδας – Ο κόσμος αποχαιρετά τη Μιλού
- ΕΛ.Α.Σ. για υπόθεση Μπεκίρη: Έχει πτυχίο; Και πώς εργάζεται εθελοντικά;
- Λάκης Λαζόπουλος για Αργυρό και Κίμπερλι Γκίλφοϊλ: «Αυτές οι κωλοτούμπες δεν μου αρέσουν»
- Ohonos Snacks: Θλίψη για τον θάνατο του Βλαδίμηρου Όχονου
- Λαζόπουλος για Γκιλφόιλ: «Ο Αργυρός φοβήθηκε τι θα πουν - Αυτές οι κωλοτούμπες δεν μου αρέσουν»
- Η Gen Z αλλάζει το σπίτι: Η νέα διακοσμητική αισθητική που γίνεται trend
- ΕΛ.Α.Σ. για Μπεκίρη: «Διευθυντής ή εθελοντής; Έχει πτυχίο; Να απαντήσει ο πρωθυπουργός»
- Δημοφιλέστερες Ειδήσεις Τα Νεα
- Γιώργος Βαρδινογιάννης: Ενας «καπετάνιος» από τα καράβια στο τιμόνι του Παναθηναϊκού
- Τραμπ: Γιατί τα εκατομμύρια της MAGA Inc. έγιναν πηγή εσωκομματικής έντασης
- ΠΑΣΟΚ και ΕΛΑΣ παίζουν τα ρέστα τους
- «Αντίο Μιλουκάκι μου, σταμάτησε η καρδούλα της στην αγκαλιά μου»: Η ανακοίνωση του Tiktoker για το σκυλάκι του που πέθανε
- Ο ασθενής απέναντι στον αλγόριθμο: ποιος λογοδοτεί;
- Τι σημαίνει η κίνηση του Τραμπ να αναστείλει τις κυρώσεις κατά της Ρωσίας – Πώς αντέδρασαν αναλυτές και ΜΜΕ
- Ολυμπιακός: Δεν είναι στο «ταβάνι» τους
- ΕΥΔΑΠ: Χωρίς νερό αρκετές περιοχές στην Αττική – Πού εντοπίζονται τα προβλήματα
- Τέσσερα χρόνια οι «ταύροι» στις αγορές: Υπεραποδίδει το Χρηματιστήριο Αθηνών σε σχέση με τις μεγαλύτερες διεθνείς αγορές
- Startups: Αντίστροφη μέτρηση για τις αιτήσεις στο EnvolveXL – Πότε λήγει η προθεσμία
- Τελευταία Νέα Τα Νεα
- Ο ασθενής απέναντι στον αλγόριθμο: ποιος λογοδοτεί;
- «Φωτιά» το κόστος θέρμανσης: 1.550 ευρώ για πέντε μήνες με πετρέλαιο
- Σαντιάγο Έσε: «Έχουμε βενζίνη στο ντεπόζιτο, παλεύουμε για τη φανέλα του Ολυμπιακού»
- Θανατηφόρο τροχαίο στον ΒΟΑΚ, στο ύψος του Πλατανιά στα Χανιά
- Θανάσης Καρτερός
- Πειραιάς: 15,8 εκατ. ευρώ για δύο ιστορικές αθλητικές εγκαταστάσεις
- Υπουργός ενοικίων
- Ιμανόλ Αλγκουαθίλ: «Όλοι στον Ολυμπιακό έχουν νοοτροπία νικητή»
- Αλιείς: Τελική παράταση για επιδοτήσεις έως 85% στα αλιευτικά σκάφη – Ενισχύσεις από 5.000 έως 500.000 ευρώ
- Ολυμπιακός: Δεν είναι στο «ταβάνι» τους
- Τελευταία Νέα Κατηγορίας Ειδήσεις
- Μουρίνιο για Βινίσιους: «Στη θέση του θα είχα φύγει από τη Ρεάλ Μαδρίτης»
- Θεσσαλονίκη: Επίθεση με κατσαβίδι σε διανομέα – Του άρπαξαν χρήματα και τα κλειδιά της μηχανής
- Θεσσαλονίκη: Συνάντηση Σχοινά με αλιείς στη Νέα Μηχανιώνα
- Βίντεο της ΟΝΝΕΔ για τα 52 χρόνια πορείας της
- Στα άκρα η ένταση στην Αλβανία: Σφοδρές συγκρούσεις ανάμεσα σε αστυνομία και φοιτητές – Πέμπτη ημέρα των διαδηλώσεων
- Τουρκικά ΜΜΕ: «Πόλεμος NAVTEX στη Γαλάζια Πατρίδα» – «Εδώ είναι δικά μου»
- Τα πιο όμορφα ελληνικά χωριά για ένα φθινοπωρινό Σαββατοκύριακο
- Γαλλία: Εισβολή διαδηλωτών στο δημαρχείο της Μασσαλίας - Μαζικές κινητοποιήσεις κατά της ακρίβειας
- Οικονομική ανάσα για 4 ζώδια τον Οκτώβριο
- «Φάρμακο» η άσκηση - Μειώνει τον κίνδυνο χρόνιων νόσων



