Η Τεχνητή Νοημοσύνη (AI) ενσωματώνεται με ταχύτητα στη σύγχρονη ιατρική, από την κλινική τεκμηρίωση και τη διαχείριση της καθημερινής εργασίας έως τη διάγνωση και την υποστήριξη κλινικών αποφάσεων.
Οι δυνατότητες είναι σημαντικές. Το ίδιο όμως ισχύει και για τα ερωτήματα που προκύπτουν σχετικά με την ασφάλεια των ασθενών, την ευθύνη, τη διαφάνεια των συστημάτων και, κυρίως, τη διατήρηση του ανθρώπινου ελέγχου.
Το κρίσιμο ζήτημα επομένως δεν είναι εάν η AI έχει θέση στην Ιατρική, αλλά με ποιον τρόπο θα ενσωματωθεί στην κλινική πράξη χωρίς να υποκαταστήσει την ιατρική κρίση και τη σχέση ιατρού-ασθενούς.
Για τον λόγο αυτό, η ενεργή συμμετοχή των ιατρών είναι απαραίτητη τόσο στην επιλογή και χρήση των νέων τεχνολογιών όσο και στη διαμόρφωση των κανόνων που θα διέπουν την εφαρμογή τους.
Η AI μπορεί να μειώσει τον διοικητικό φόρτο των ιατρών
Ένα από τα σημαντικότερα άμεσα οφέλη της Τεχνητής Νοημοσύνης αφορά τη βελτίωση της λειτουργικής αποδοτικότητας.
Χαρακτηριστικό παράδειγμα αποτελούν τα συστήματα ambient listening, τα οποία μπορούν να καταγράφουν στοιχεία της συνομιλίας κατά τη διάρκεια μιας ιατρικής επίσκεψης και να δημιουργούν προτεινόμενες κλινικές σημειώσεις ή άλλες δομημένες πληροφορίες.
Όταν χρησιμοποιούνται σωστά, τέτοια εργαλεία μπορούν να μειώσουν τον χρόνο που απαιτείται για την κλινική τεκμηρίωση και να επιτρέψουν στον ιατρό να παραμένει περισσότερο προσηλωμένος στον ασθενή κατά τη διάρκεια της επίσκεψης.
Η εξοικονόμηση χρόνου αποκτά ιδιαίτερη σημασία σε ένα περιβάλλον όπου ο αυξανόμενος διοικητικός φόρτος αποτελεί έναν από τους παράγοντες που επιβαρύνουν την καθημερινότητα των ιατρών και συνδέονται με την επαγγελματική εξουθένωση.
Παράλληλα, εφαρμογές AI χρησιμοποιούνται ή αναπτύσσονται για λειτουργίες όπως:
- ο προγραμματισμός ραντεβού,
- η οργάνωση των ροών εργασίας,
- η πρόβλεψη μη προσέλευσης ασθενών στα ραντεβού,
- η πρόβλεψη περιόδων αυξημένης προσέλευσης στα επείγοντα,
- η διαχείριση και κατανομή πόρων.
Σε αυτές τις περιπτώσεις, η AI μπορεί να λειτουργήσει κυρίως υποστηρικτικά, αναλαμβάνοντας επαναλαμβανόμενες διαδικασίες και επιτρέποντας στους επαγγελματίες υγείας να επικεντρωθούν περισσότερο σε εργασίες που απαιτούν ανθρώπινη κρίση και αλληλεπίδραση.
Από την υποστήριξη της εργασίας στην κλινική απόφαση
Τα ζητήματα γίνονται πιο σύνθετα όταν η Τεχνητή Νοημοσύνη αρχίζει να συμμετέχει άμεσα στην κλινική αξιολόγηση.
Στην ακτινολογία, για παράδειγμα, συστήματα AI μπορούν να λειτουργούν ως ένα επιπλέον επίπεδο αξιολόγησης των απεικονιστικών εξετάσεων, εντοπίζοντας πρότυπα ή πιθανές παθολογικές αλλοιώσεις που απαιτούν περαιτέρω διερεύνηση.
Αντίστοιχες εφαρμογές αναπτύσσονται και στη δερματολογία, με εργαλεία που υποστηρίζουν την αναγνώριση πιθανών κακοήθων δερματικών βλαβών και άλλων αλλοιώσεων.
Πέρα από τη διάγνωση, συστήματα AI μπορούν να αξιοποιηθούν και για τη συνεχή παρακολούθηση ασθενών, για παράδειγμα μετά από μια χειρουργική επέμβαση, προσφέροντας ένα πρόσθετο επίπεδο επιτήρησης.
Οι εφαρμογές αυτές αναδεικνύουν έναν από τους σημαντικότερους δυνητικούς ρόλους της AI: να ενισχύει τις δυνατότητες του ιατρού και όχι να τις αντικαθιστά.
Το πρόβλημα του «black box»
Ένας από τους σημαντικούς προβληματισμούς αφορά το λεγόμενο black box problem.
Ορισμένα προηγμένα συστήματα AI μπορούν να παράγουν αποτελέσματα ή συστάσεις χωρίς να είναι εύκολο να εξηγηθεί με σαφήνεια πώς ακριβώς κατέληξαν σε αυτά.
Στην Ιατρική, αυτή η έλλειψη διαφάνειας αποκτά ιδιαίτερη σημασία, καθώς οι αποφάσεις μπορεί να έχουν άμεσες συνέπειες για την υγεία ενός ανθρώπου.
Εάν ένα σύστημα προτείνει μια συγκεκριμένη κλινική ενέργεια, ο ιατρός χρειάζεται να μπορεί να αξιολογήσει:
- ποια δεδομένα επηρέασαν τη σύσταση,
- πόσο αξιόπιστο είναι το σύστημα για τον συγκεκριμένο πληθυσμό ασθενών,
- ποιους γνωστούς περιορισμούς διαθέτει,
- εάν μπορεί να έχει παραβλεφθεί σημαντική κλινική πληροφορία,
- πώς πρέπει να αντιμετωπιστεί μια πιθανή διαφωνία μεταξύ του αποτελέσματος του συστήματος και της κλινικής εικόνας.
Το ζήτημα της διαφάνειας συνδέεται και με την ενημέρωση του ασθενούς. Όταν μια απόφαση επηρεάζεται ουσιαστικά από ένα σύστημα AI, ο ιατρός πρέπει να μπορεί να κατανοήσει επαρκώς τη λειτουργία και τους περιορισμούς του ώστε να αξιολογήσει υπεύθυνα τη σύστασή του.
Ο κίνδυνος του automation bias
Η AI δεν χρειάζεται να λαμβάνει αυτόνομα αποφάσεις για να επηρεάσει την ιατρική κρίση.
Το automation bias περιγράφει την τάση να αποδίδεται υπερβολική εμπιστοσύνη στα αποτελέσματα ενός αυτοματοποιημένου συστήματος, χωρίς να πραγματοποιείται η απαιτούμενη ανεξάρτητη αξιολόγηση.
Για παράδειγμα, μια κλινική σημείωση που έχει δημιουργηθεί από AI μπορεί να φαίνεται ολοκληρωμένη και σωστά διατυπωμένη, αλλά να περιλαμβάνει ένα λανθασμένο στοιχείο, μια παράλειψη ή μια εσφαλμένη ερμηνεία.
Εάν ο ιατρός την εγκρίνει χωρίς προσεκτικό έλεγχο, η ανακρίβεια μπορεί να ενσωματωθεί στον ιατρικό φάκελο του ασθενούς.
Το ίδιο ισχύει και για διαγνωστικές προτάσεις ή άλλα συστήματα υποστήριξης κλινικών αποφάσεων.
Όσο πιο αξιόπιστη εμφανίζεται μια τεχνολογία στην καθημερινή χρήση, τόσο μεγαλύτερος μπορεί να γίνει ο κίνδυνος εφησυχασμού. Γι’ αυτό η ανθρώπινη εποπτεία παραμένει απαραίτητη.
Η τεκμηρίωση που παράγεται από AI χρειάζεται έλεγχο από τον ιατρό
Ο ιατρικός φάκελος δεν αποτελεί απλώς μια διοικητική υποχρέωση. Υποστηρίζει τη συνέχεια της φροντίδας, μεταφέρει πληροφορίες μεταξύ επαγγελματιών υγείας και καταγράφει στοιχεία της κλινικής αντιμετώπισης.
Για τον λόγο αυτό, το περιεχόμενο που δημιουργείται από AI πρέπει να αντιμετωπίζεται ως προτεινόμενο κείμενο που απαιτεί επαγγελματική επαλήθευση και όχι ως αυτομάτως αξιόπιστη τελική καταγραφή.
Ο ιατρός χρειάζεται να ελέγχει ότι η τεκμηρίωση ανταποκρίνεται πραγματικά σε όσα συνέβησαν κατά την επίσκεψη πριν αυτή ενσωματωθεί οριστικά στον φάκελο του ασθενούς.
Η εξοικονόμηση χρόνου έχει αξία μόνο εφόσον δεν επιτυγχάνεται εις βάρος της ακρίβειας.
Η κλινική κρίση πρέπει να παραμένει στο επίκεντρο
Η Τεχνητή Νοημοσύνη μπορεί να επεξεργάζεται τεράστιες ποσότητες δεδομένων και να αναγνωρίζει πρότυπα που είναι δύσκολο να εντοπιστούν από τον άνθρωπο.
Η κλινική απόφαση, όμως, δεν βασίζεται αποκλειστικά στην επεξεργασία δεδομένων.
Ο ιατρός συνυπολογίζει παράγοντες όπως:
- τις προτιμήσεις του ασθενούς,
- προηγούμενες θεραπευτικές εμπειρίες,
- συνυπάρχουσες παθήσεις,
- κοινωνικές και προσωπικές συνθήκες,
- την ανοχή του ασθενούς στον κίνδυνο,
- τις προτεραιότητες σχετικά με την ποιότητα ζωής,
- στοιχεία που προκύπτουν από την άμεση κλινική αξιολόγηση.
Η ιατρική κρίση προϋποθέτει τη σύνθεση της επιστημονικής γνώσης με τις ιδιαίτερες συνθήκες του κάθε ασθενούς.
Η AI μπορεί να προσφέρει επιπλέον πληροφορίες σε αυτή τη διαδικασία. Η έξοδος ενός αλγορίθμου, όμως, δεν πρέπει να μετατρέπεται αυτομάτως σε κλινική απόφαση.
Οι ιατροί πρέπει να συμμετέχουν στην επιλογή των συστημάτων AI
Καθώς νοσοκομεία, κλινικές και άλλοι οργανισμοί υγείας υιοθετούν νέες τεχνολογίες, η συμμετοχή των ιατρών στην αξιολόγηση και εφαρμογή τους είναι κρίσιμη.
Οι κλινικοί χρήστες μπορούν να θέσουν ερωτήματα που δεν είναι πάντοτε εμφανή σε μια αποκλειστικά τεχνική αξιολόγηση:
- Αντιμετωπίζει το εργαλείο μια πραγματική κλινική ή λειτουργική ανάγκη;
- Έχει αξιολογηθεί επαρκώς;
- Σε ποιους πληθυσμούς ασθενών έχει αναπτυχθεί και δοκιμαστεί;
- Ποιοι είναι οι γνωστοί περιορισμοί του;
- Πώς ενσωματώνεται στην υπάρχουσα ροή εργασίας;
- Μπορεί ο ιατρός να αμφισβητήσει ή να παρακάμψει μια σύσταση;
- Πώς καταγράφονται και αξιολογούνται τα σφάλματα;
Η εφαρμογή ενός συστήματος AI χωρίς ουσιαστική συμμετοχή των επαγγελματιών που θα το χρησιμοποιήσουν μπορεί να οδηγήσει σε τεχνολογικά προηγμένες λύσεις που δεν ανταποκρίνονται στις πραγματικές ανάγκες της κλινικής πράξης.
Η συμμετοχή των ιατρών είναι απαραίτητη και στη διαμόρφωση των κανόνων
Πολλές από τις αποφάσεις που θα καθορίσουν τον ρόλο της AI στην Ιατρική δεν θα ληφθούν μέσα στο μεμονωμένο ιατρείο ή νοσοκομείο.
Ρυθμιστικές αρχές, φορείς χάραξης πολιτικής, επιστημονικές εταιρείες, ασφαλιστικοί οργανισμοί και εταιρείες τεχνολογίας θα επηρεάσουν τον τρόπο με τον οποίο θα χρησιμοποιούνται αυτά τα συστήματα και τον τρόπο με τον οποίο θα κατανέμεται η ευθύνη.
Η φωνή των ιατρών είναι επομένως σημαντική στη διαμόρφωση των σχετικών πολιτικών.
Ένα βασικό ζητούμενο είναι να διασφαλιστεί ότι η AI θα χρησιμοποιείται για να υποστηρίζει την ιατρική τεχνογνωσία και όχι για να την παρακάμπτει ή να την αντικαθιστά.
Οι επαγγελματικοί και επιστημονικοί φορείς μπορούν να αποτελέσουν σημαντικό δίαυλο ώστε οι πραγματικές ανάγκες της κλινικής πράξης να λαμβάνονται υπόψη στις αποφάσεις για τη χρήση της AI.
Χρειάζονται σαφή όρια στην ιατρική ευθύνη
Η χρήση της AI δημιουργεί και νέα ερωτήματα σχετικά με την ευθύνη.
Τι συμβαίνει εάν ένας ιατρός ακολουθήσει μια λανθασμένη πρόταση ενός συστήματος; Τι γίνεται εάν το σφάλμα προέρχεται από τον σχεδιασμό ενός αλγορίθμου και δεν ήταν εμφανές στον χρήστη; Ποιο επίπεδο ανεξάρτητης επαλήθευσης μπορεί εύλογα να απαιτείται από τον ιατρό;
Όσο περισσότερο τα συστήματα AI πλησιάζουν στη λήψη κλινικών αποφάσεων, τόσο σημαντικότερα γίνονται αυτά τα ερωτήματα.
Απαιτούνται σαφή πλαίσια που θα καθορίζουν τις ευθύνες των ιατρών, των οργανισμών υγείας, των κατασκευαστών και των υπόλοιπων εμπλεκόμενων μερών.
Η AI δημιουργεί και νέες απειλές για την επαγγελματική ταυτότητα
Οι κίνδυνοι δεν περιορίζονται στις κλινικές αποφάσεις.
Η παραγωγική AI επιτρέπει τη δημιουργία ιδιαίτερα πειστικών ψεύτικων εικόνων, ηχητικών αρχείων και βίντεο. Αυτό δημιουργεί έναν νέο κίνδυνο για την ταυτότητα και τη φήμη των επαγγελματιών υγείας.
Ένα παραποιημένο βίντεο θα μπορούσε, για παράδειγμα, να εμφανίζει έναν ιατρό να προωθεί ένα προϊόν, μια θεραπεία ή έναν ισχυρισμό που ποτέ δεν υποστήριξε.
Η προστασία από τέτοιου είδους deepfakes απαιτεί τόσο τεχνικές δικλίδες ασφαλείας όσο και κατάλληλα θεσμικά και νομικά πλαίσια.
Οι επαγγελματικοί φορείς μπορούν να ενισχύσουν τη φωνή των ιατρών
Ένας μεμονωμένος ιατρός έχει περιορισμένη δυνατότητα να επηρεάσει το ευρύτερο κανονιστικό πλαίσιο για την AI.
Η συλλογική εκπροσώπηση μέσω ιατρικών συλλόγων, επιστημονικών εταιρειών και άλλων επαγγελματικών φορέων μπορεί να ενισχύσει σημαντικά αυτή τη δυνατότητα.
Οι φορείς αυτοί μπορούν να συμβάλουν:
- στην αξιολόγηση νέων πολιτικών και κανονισμών,
- στην ανάδειξη των προβληματισμών της ιατρικής κοινότητας,
- στη διαμόρφωση επαγγελματικών κατευθυντήριων γραμμών,
- στην εκπαίδευση των ιατρών,
- στην προώθηση κατάλληλων δικλίδων ασφαλείας,
- στη συζήτηση γύρω από την ευθύνη και τη ρύθμιση της AI.
Η συμμετοχή αυτή αποκτά ακόμη μεγαλύτερη αξία όταν η τεχνολογική εξέλιξη είναι ταχύτερη από την προσαρμογή του κανονιστικού πλαισίου.
Οι ιατροί χρειάζονται και βασική γνώση της AI
Η αποτελεσματική ανθρώπινη εποπτεία δεν εξασφαλίζεται απλώς επειδή ένας ιατρός βρίσκεται στο τελικό στάδιο της διαδικασίας.
Για να μπορεί να αξιολογεί κριτικά ένα εργαλείο, χρειάζεται να κατανοεί τις βασικές δυνατότητες και τους περιορισμούς του.
Αυτό δεν σημαίνει ότι οι ιατροί πρέπει να γίνουν προγραμματιστές ή ειδικοί στην επιστήμη δεδομένων. Χρειάζεται όμως σταδιακά να εξοικειωθούν με έννοιες όπως:
- αλγοριθμική μεροληψία,
- ποιότητα των δεδομένων,
- αξιολόγηση και επικύρωση ενός συστήματος,
- automation bias,
- διαφάνεια,
- περιορισμοί των μοντέλων,
- προστασία προσωπικών δεδομένων και ασφάλεια,
- ανθρώπινη εποπτεία.
Καθώς η AI αποκτά μεγαλύτερη παρουσία στην κλινική πράξη, η σχετική εξοικείωση θα αποτελεί ολοένα σημαντικότερο μέρος της επαγγελματικής ανάπτυξης των ιατρών.
Η AI ως συμπλήρωμα και όχι ως υποκατάστατο του ιατρού
Η Τεχνητή Νοημοσύνη διαθέτει σημαντικές δυνατότητες για τη μείωση του διοικητικού φόρτου, την υποστήριξη της διάγνωσης, τη βελτίωση των ροών εργασίας και την παροχή πρόσθετων πληροφοριών στους επαγγελματίες υγείας.
Η πραγματική της αξία, όμως, εξαρτάται από τον τρόπο με τον οποίο θα εφαρμοστεί.
Η συζήτηση δεν χρειάζεται να αντιμετωπίζει την τεχνολογία και τον ιατρό ως ανταγωνιστικές δυνάμεις. Το ζητούμενο είναι να αξιοποιηθούν οι δυνατότητες της AI διατηρώντας παράλληλα την κλινική κρίση, την ανθρώπινη εποπτεία, την ευθύνη και τη σχέση ιατρού-ασθενούς στο επίκεντρο.
Οι ίδιοι οι ιατροί έχουν κρίσιμο ρόλο στη διαμόρφωση αυτής της ισορροπίας. Παραμένοντας ενημερωμένοι, ελέγχοντας κριτικά τα αποτελέσματα των συστημάτων, συμμετέχοντας στην αξιολόγηση των νέων τεχνολογιών και έχοντας ενεργή παρουσία στον σχετικό θεσμικό διάλογο, μπορούν να συμβάλουν ώστε η AI να λειτουργήσει ως συμπλήρωμα της ιατρικής τεχνογνωσίας και όχι ως υποκατάστατό της.
