Όλο και περισσότεροι άνθρωποι στρέφονται στο ChatGPT για να αναζητήσουν πληροφορίες σχετικά με κάποιο συμπτώματα ή ακόμη κι ένα πρόβλημα υγείας. Από έναν επίμονο πονοκέφαλο κι έναν ανεξήγητο πόνο μέχρι την ερμηνεία αιματολογικών εξετάσεων, οι ασθενείς αναζητούν απαντήσεις για την υγεία τους στο ChatGPT και σε άλλες εφαρμογές τεχνητής νοημοσύνης.
Πράγματι, μέσα σε λίγα δευτερόλεπτα μπορούν να λάβουν μια αναλυτική απάντηση, πιθανές εξηγήσεις για τα συμπτώματά τους, ακόμη και προτάσεις για τις επόμενες κινήσεις τους. Η ευκολία αυτή, ωστόσο, κρύβει σημαντικές παγίδες.
Ο Καθηγητής Παθολογίας- Λοιμωξιολογίας, Μ. Σαμάρκος, μιλάει στο MedicalManage εξηγώντας γιατί η συγκεκριμένη τάση για αυτοδιάγνωση μέσω της τεχνητής νοημοσύνης έχει πλέον γίνει φαινόμενο, αλλά και πόσο επικίνδυνη μπορεί να αποδειχθεί.
“Η τεχνητή νοημοσύνη μπορεί να παρέχει πληροφορίες στον γιατρό (που μπορεί να τις αναζητήσει και να τις αξιολογήσει με το σωστό τρόπο) σχετικά με το πρόβλημα του ασθενή αλλά και να εκτελέσει κάποιες «γραφειοκρατικές» διαδικασίες (π.χ. καταγραφή ιστορικού), ελευθερώνοντας χρόνο για καλύτερη αλληλεπίδραση γιατρού– ασθενούς”.
“Η ζωντανή αλληλεπίδραση γιατρού και ασθενούς όμως αποτελεί μέρος της θεραπευτικής διαδικασίας και σε μερικές περιπτώσεις είναι εξίσου σημαντική με τη φαρμακευτική θεραπεία. Από την άλλη θεωρώ πιθανό, ότι αυτό που θα συμβεί είναι ότι θα ζητηθεί από τους γιατρούς στο χρόνο που θα ελευθερωθεί με τη χρήση τεχνητής νοημοσύνης, όχι να αφιερώσει περισσότερο χρόνο στον ασθενή αλλά να εξετάσει περισσότερους ασθενείς. Συνολικά νομίζω ότι η τεχνητή νοημοσύνη θα διαταράξει τη σχέση γιατρού και ασθενούς, προς το χειρότερο”.
Αυτοδιάγνωση μέσω AI: Πότε η αναζήτηση πληροφοριών γίνεται επικίνδυνη
Η αναζήτηση ιατρικών πληροφοριών δεν είναι από μόνη της προβληματική. Αντίθετα, μπορεί να αποτελέσει χρήσιμο εργαλείο για έναν ασθενή που έχει ήδη διαγνωστεί με κάποια πάθηση και επιθυμεί να κατανοήσει καλύτερα τη θεραπεία του, τη φαρμακευτική αγωγή ή την πιθανή εξέλιξη της νόσου.
Όπως εξηγεί ο γιατρός, σε αυτές τις περιπτώσεις η ενημέρωση μπορεί να βελτιώσει τη συνεργασία μεταξύ ασθενούς και θεράποντος ιατρού. Τα πράγματα αλλάζουν όταν κάποιος επιχειρεί να διαγνώσει μόνος του ένα πρόβλημα υγείας, βασιζόμενος αποκλειστικά στις απαντήσεις ενός chatbot.
Η διάγνωση δεν αποτελεί απλή αντιστοίχιση συμπτωμάτων με πιθανές ασθένειες. Προϋποθέτει αξιολόγηση του ιατρικού ιστορικού, των εργαστηριακών ευρημάτων, της κλινικής εικόνας και πολλών ακόμη παραμέτρων που ο ίδιος ο ασθενής ενδέχεται να μη γνωρίζει ή να μην αντιλαμβάνεται ως σημαντικές. Ένα σύμπτωμα που φαίνεται άσχετο μπορεί, στην πραγματικότητα, να είναι καθοριστικό για τη σωστή διάγνωση.
«Τα μοντέλα τεχνητής νοημοσύνης απαντούν με βάση το ερώτημα που τους βάζουμε. Αν τα δεδομένα που δώσουμε δεν είναι σωστά, η απάντηση θα είναι λάθος», επισημαίνει.
Ένα από τα χαρακτηριστικά της τεχνητής νοημοσύνης είναι ότι μπορεί να δίνει μια λανθασμένη απάντηση με ιδιαίτερα πειστικό τρόπο. Πόσο επικίνδυνο είναι αυτό όταν πρόκειται για ζητήματα υγείας και που μπορεί να οδηγήσει;
Οι ασθενείς που αναζητούν ιατρικές πληροφορίες ή και συμβουλές στο διαδίκτυο κινδυνεύουν επειδή δεν έχουν τις γνώσεις και την εκπαίδευση για να αξιολογήσουν την ορθότητα της συμβουλής. Η κύρια προϋπόθεση για τη χρήση τεχνητής νοημοσύνης είναι να μπορεί κανείς να ελέγξει ο ίδιος την ορθότητα της απάντησης. Οι περισσότεροι ασθενείς, δεν έχουν την εκπαίδευση ώστε να αξιολογήσουν τις απαντήσεις της τεχνητής νοημοσύνης σε θέματα υγείας. Επομένως, το να ακολουθήσουν τις συμβουλές της τεχνητής νοημοσύνης μπορεί να είναι ιδιαίτερα επικίνδυνο καθώς μπορεί να οδηγήσει σε καθυστέρηση στη διάγνωση και θεραπεία.
Γιατί το ChatGPT δεν μπορεί να αντικαταστήσει την κλινική εξέταση
Ένα από τα σημαντικότερα όρια των σημερινών συστημάτων τεχνητής νοημοσύνης είναι ότι εξαρτώνται από τις πληροφορίες που τους παρέχει ο χρήστης.
Ο γιατρός φέρνει ως παράδειγμα έναν ασθενή με πυρετό, ο οποίος παρουσιάζει και καρδιακό φύσημα. Το φύσημα μπορεί να εντοπιστεί κατά την κλινική εξέταση, όμως ο ίδιος ο ασθενής είναι πιθανό να αγνοεί την ύπαρξή του και, επομένως, να μην το αναφέρει στο ChatGPT. Το ίδιο μπορεί να συμβεί με συμπτώματα που ο ασθενής θεωρεί άσχετα με το βασικό του πρόβλημα, ενώ για έναν εκπαιδευμένο γιατρό αποτελούν σημαντικά διαγνωστικά στοιχεία.
Επιπλέον, η γενική εικόνα ενός ανθρώπου δεν μπορεί πάντοτε να αποτυπωθεί σε μια γραπτή περιγραφή. Υπάρχουν περιπτώσεις στις οποίες η συνολική κλινική κατάσταση ενός ασθενούς είναι τόσο επιβαρυμένη, ώστε να απαιτείται εισαγωγή στο νοσοκομείο, ακόμη κι αν τα επιμέρους συμπτώματα δεν αποδίδουν πλήρως τη σοβαρότητα της κατάστασης.
Έχετε αντιμετωπίσει περιστατικό στο οποίο κάποιος καθυστέρησε να ζητήσει ιατρική βοήθεια ή ακολούθησε λανθασμένες συμβουλές επειδή εμπιστεύτηκε μια απάντηση τεχνητής νοημοσύνης;
Προς το παρόν όχι, αλλά έχω δει ασθενείς οι οποίοι έχουν ήδη αναζητήσει πληροφορίες μέσω τεχνητής νοημοσύνης και αναφέρουν τι βρήκαν.
Ποια συμπτώματα απαιτούν άμεση ιατρική βοήθεια κι όχι το ChatGPT
“Ιδιαίτερη προσοχή απαιτείται όταν εμφανίζονται συμπτώματα που ενδέχεται να συνδέονται με οξείες, απειλητικές για τη ζωή καταστάσεις. Ο θωρακικός πόνος, για παράδειγμα, μπορεί να αποτελεί ένδειξη εμφράγματος, ενώ ένα ξαφνικό μούδιασμα στο χέρι μπορεί να σχετίζεται με εξελισσόμενο εγκεφαλικό επεισόδιο. Αντίστοιχα, ο υψηλός πυρετός μπορεί, σε ορισμένες περιπτώσεις, να συνδέεται με σοβαρή λοίμωξη ή σήψη.
Σε τέτοιες καταστάσεις δεν υπάρχει περιθώριο αναμονής για απαντήσεις από εφαρμογές τεχνητής νοημοσύνης. Απαιτείται άμεση ιατρική αξιολόγηση και αντιμετώπιση”.
Ποια είναι η ουσιαστική διαφορά ανάμεσα στην αναζήτηση ιατρικών πληροφοριών στο διαδίκτυο και στη χρήση του ChatGPT για την αξιολόγηση συμπτωμάτων;
Η ιατρική πληροφορία στο διαδίκτυο είναι απλά μια πληροφορία – θα πρέπει ο ίδιος ο ασθενής να αποφασίσει αν με βάση αυτή την πληροφορία θα κάνει μια ενέργεια πχ θα πάρει ένα φάρμακο ή θα κάνει μια εργαστηριακή εξέταση. Αντίθετα τα μοντέλα τεχνητής νοημοσύνης έχουν τη δυνατότητα να προτείνουν αυτά ενέργειες στον ασθενή, τις οποίες αυτός θα ακολουθήσει. Είναι πιθανότερο ο ασθενής να «υπακούσει» στη συμβουλή της τεχνητής νοημοσύνης παρά να πάρει την πρωτοβουλία για μια εξέταση με βάση μια πληροφορία στο διαδίκτυο.
Ποιος θεωρείτε ότι είναι ο μεγαλύτερος κίνδυνος: να ανησυχήσει κάποιος χωρίς λόγο επειδή το ChatGPT τού υποδεικνύει μια σοβαρή ασθένεια ή να καθησυχαστεί λανθασμένα και να καθυστερήσει να επισκεφθεί γιατρό;
Σαφώς το δεύτερο, καθώς η καθυστέρηση μπορεί να οδηγήσει σε επιδείνωση του προβλήματος και όχι καλή ανταπόκριση στη θεραπεία. Π.χ. ένας καρκίνος μπορεί να εξελιχθεί σε μεγαλύτερο στάδιο, επειδή ο ασθενής είχε καθησυχαστεί από την τεχνητή νοημοσύνη και έτσι η πιθανότητα θετικής έκβασης να μειωθεί. Το πρώτο έχει κυρίως ψυχολογικές επιπτώσεις (ανησυχία, άγχος) αλλά μερικές φορές και σωματικές καθώς μπορεί ο ασθενής λαμβάνοντας θεραπεία που δεν χρειάζεται ή κάνοντας εξετάσεις που δεν χρειάζονται να εμφανίσει ανεπιθύμητες ενέργειες ή επιπλοκές.
Αυτοδιάγνωση μέσω Τεχνητής Νοημοσύνης: Προσοχή και στα προσωπικά δεδομένα υγείας
Ένας ακόμη κίνδυνος που συχνά υποτιμάται αφορά την προστασία των προσωπικών δεδομένων. Οι χρήστες μπορεί να μοιράζονται με εφαρμογές τεχνητής νοημοσύνης ιδιαίτερα ευαίσθητες πληροφορίες, όπως ιατρικές εξετάσεις, διαγνώσεις, φαρμακευτικές αγωγές και στοιχεία του ιστορικού τους, χωρίς να γνωρίζουν επαρκώς πώς αποθηκεύονται και χρησιμοποιούνται.
Ο γιατρός προειδοποιεί ότι δεν πληρούν όλες οι εφαρμογές τις απαιτούμενες προϋποθέσεις προστασίας δεδομένων. Ιδιαίτερα για εφαρμογές που έχουν αναπτυχθεί εκτός Ευρώπης, τίθεται το ζήτημα της συμμόρφωσης με τον Γενικό Κανονισμό Προστασίας Δεδομένων (GDPR).
“Πολλές από αυτές τις εφαρμογές μπορεί να μην πληρούν τις προϋποθέσεις προστασίας των προσωπικών και ευαίσθητων δεδομένων. Επομένως η εισαγωγή αυτών των δεδομένων σε τέτοιες εφαρμογές, σημαίνει ότι μπορει να διαρρεύσουν προς διάφορες κατευθύνσεις. Υπάρχουν ήδη εφαρμογές τεχνητής νοημοσύνης οι οποίες έχουν σχεδιαστεί εκτός Ευρώπης και δεν πληρούν τα κριτήρια του Γενικού Κανονισμού Προστασίας Δεδομένων (GDPR) και για το λόγο αυτό δεν είναι πλέον προσβάσιμες εύκολα από τους κατοίκους της Ευρώπης”.
Ποια είναι η διαφορά ανάμεσα στη χρήση ενός γενικού chatbot, όπως το ChatGPT, και ενός εξειδικευμένου συστήματος τεχνητής νοημοσύνης που έχει σχεδιαστεί και αξιολογηθεί ειδικά για ιατρική χρήση;
Τα ειδικά για ιατρική χρήση συστήματα έχουν «εκπαιδευθεί» για το σκοπό αυτό και επομένως έχουν πολύ καλύτερη απόδοση.
Πώς μπορεί η τεχνητή νοημοσύνη να βοηθήσει πραγματικά τους ασθενείς
Παρά τις επιφυλάξεις του, ο γιατρός δεν απορρίπτει συνολικά τη χρήση της τεχνητής νοημοσύνης στην υγεία. Αντίθετα, αναγνωρίζει ότι μπορεί να προσφέρει σημαντική βοήθεια στην ενημέρωση των ασθενών, ιδιαίτερα όταν υπάρχει ήδη ιατρική διάγνωση.
Ένας άνθρωπος που γνωρίζει από ποια πάθηση υποφέρει μπορεί να χρησιμοποιήσει τέτοια εργαλεία για να κατανοήσει καλύτερα τη νόσο του, να ενημερωθεί για τη θεραπεία του και να προετοιμάσει ερωτήσεις για την επόμενη επίσκεψη στον γιατρό.
Η ουσιαστική διαφορά βρίσκεται στο αν η τεχνητή νοημοσύνη χρησιμοποιείται ως συμπληρωματική πηγή πληροφόρησης ή ως εργαλείο λήψης ιατρικών αποφάσεων.
Ο γιατρός επισημαίνει επίσης ότι τα εξειδικευμένα συστήματα τεχνητής νοημοσύνης που έχουν σχεδιαστεί για ιατρική χρήση εμφανίζουν καλύτερη απόδοση από τα γενικά chatbots, καθώς έχουν εκπαιδευτεί ειδικά για τον συγκεκριμένο σκοπό. Αυτό, ωστόσο, δεν αναιρεί την ανάγκη επαγγελματικής ιατρικής αξιολόγησης.
Πιστεύετε ότι στο μέλλον το ChatGPT και παρόμοια εργαλεία θα μπορούσαν να αποτελέσουν ένα αξιόπιστο πρώτο σημείο καθοδήγησης για τους ασθενείς ή η ανθρώπινη ιατρική κρίση θα παραμένει αναντικατάστατη;
Όπως ανέφερα και παραπάνω, τα εργαλεία τεχνητής νοημοσύνης εξαρτώνται από τις πληροφορίες έχουν στη διάθεσή τους. Ο γιατρός εξετάζοντας τον ασθενή συγκεντρώνει πληροφορίες οι οποίες δεν είναι διαθέσιμες στο εργαλείο, καθώς ο ασθενής είτε δεν τις γνωρίζει (πχ ένα καρδιακό φύσημα) ή δεν τις θεωρεί σχετικές με το πρόβλημά του. Επιπλέον, η γενική εικόνα ενός ασθενούς είναι δύσκολο να ποσοτικοποιηθεί. Πολλές φορές ένας ασθενής μπορεί να εισαχθεί στο νοσοκομείο επειδή η γενική του εικόνα είναι κακή. Ακόμα και όταν τα εργαλεία τεχνητής νοημοσύνης μπορούν να συγκεντρώσουν τις πληροφορίες που έχει ένας γιατρός, η ιατρική φροντίδα δε μπορεί να αντικατασταθεί από την τεχνητή νοημοσύνη, καθώς αφορά την αλληλεπίδραση ανάμεσα σε δύο ανθρώπινα όντα με προσωπικότητα.
Οι ιατρικές αποφάσεις δεν βασίζονται μόνο στην αμιγώς ιατρική πληροφορία. Ο χαρακτήρας του ασθενούς, ο τυχόν φόβος του, η ανησυχία του, η προσωπική ή οικογενειακή του κατάσταση πάντοτε (έστω και υποσυνείδητα) επηρεάζουν τις αποφάσεις του γιατρού. Η ιατρική φροντίδα με την έννοια αυτή δεν μπορεί να ΑΝΤΙΚΑΤΑΣΤΑΘΕΊ από την τεχνητή νοημοσύνη, αλλά φοβάμαι ότι αυτό θα ΥΠΟΚΑΤΑΣΤΑΘΕΊ από την τεχνητή νοημοσύνη, και αυτό θα έχει συνέπειες στην ανθρώπινη υγεία.
Αν έπρεπε να δώσετε τρεις βασικές συμβουλές σε κάποιον που χρησιμοποιεί συστηματικά το ChatGPT για να αναζητά πληροφορίες σχετικά με την υγεία του, ποιες θα ήταν;
Α. Να μην αντικαθιστά την επικοινωνία με τον γιατρό με την αναζήτηση πληροφοριών μέσω τεχνητής νοημοσύνης. Μπορεί να αναζητά πληροφορίες αφού δει το γιατρό του.
Β. Να μην ακολουθεί τις συμβουλές της τεχνητής νοημοσύνης, εφόσον δεν μπορεί ο ίδιος να αξιολογήσει την ορθότητά τους.
Γ. Να μην εισάγει προσωπικά του δεδομένα στις εφαρμογές τεχνητής νοημοσύνης.
Eυχαριστούμε θερμά τον Μ. Σαμάρκο, Καθηγητή Παθολογίας- Λοιμωξιολογίας για τη συνέντευξη.
Μ. Σαμάρκος
Καθηγητής Παθολογίας-Λοιμωξιολογίας
Α’ Παθολογική Κλινική, Ιατρική Σχολή,
Εθνικό και Καποδιστριακό Πανεπιστήμιο Αθηνών
Λαϊκό Νοσοκομείο
Τηλ 2132061149, 2132061112
