To μυαλό καθοδηγεί τη μηχανή
Δεν φοβόμαστε την τεχνητή νοημοσύνη – ούτε την λατρεύουμε. Αυτό που νιώθουμε για την άνοδο των ευφυών συστημάτων στην ιατρική είναι κάτι πιο ήσυχο: μια μετρημένη εμπιστοσύνη, μια μετρημένη ελπίδα.
Αναγνωρίζουμε το τεράστιο δυναμικό της, αλλά επίσης επιμένουμε ακράδαντα στην πεποίθηση ότι το βαθύτερο έργο της ιατρικής δεν συμβαίνει μέσω του αυτοματισμού, αλλά μέσω της ανθρώπινης σύνδεσης. Υπάρχει μια ήσυχη δύναμη που ζει ανάμεσα στο σύμπτωμα και την ιστορία, ανάμεσα στους αριθμούς και την απόχρωση. Είναι εκεί, σε αυτούς τους σιωπηλούς χώρους, που η ιατρική αναπνέει. Και αυτό είναι κάτι που καμία μηχανή δεν μπορεί να αντικαταστήσει πλήρως.
Πολλοί κλινικοί γιατροί σήμερα έχουν παρατηρήσει την αυξανόμενη ενσωμάτωση ψηφιακών εργαλείων στο καθημερινό έργο τους. Οι ευφυείς πλατφόρμες δημιουργούν πλέον πρότυπα σημειώσεων, προσφέρουν διαφορικές προτάσεις και επισημαίνουν ασθενείς υψηλού κινδύνου. Ανταποκρίνονται γρήγορα και αποκαλύπτουν μοτίβα με εκπληκτική ακρίβεια. Ωστόσο, η χρησιμότητά τους εξαρτάται εξ ολοκλήρου από την ποιότητα της εισήγησης – από την προτροπή, την ερώτηση, το πλαίσιο…
Τα συστήματα δεν είναι άλλο από.. ανθρώπινες εντολές
Αυτά τα συστήματα δεν γνωρίζουν τι έχει σημασία εκτός αν τα διδάξουμε. Υπό αυτή την έννοια, η προτροπή γίνεται μια μορφή κλινικής επικοινωνίας. Όπως ακριβώς και το ιστορικό ενός ασθενούς, αποκαλύπτει όχι μόνο τι ρωτάτε, αλλά και πόσο προσεκτικά και σκόπιμα έχετε μάθει να ακούτε.
Μερικές φορές, ακόμη και εσείς σταματάτε όταν μια πρόταση φαίνεται αλγοριθμικά σωστή – αλλά διαισθητικά λανθασμένη.
Κάποια πράγματα το ΑΙ δε θα μπορέσει ποτέ να κάνει.. και εδώ μπαίνει ο γιατρός
Ωστόσο, υπάρχουν περιορισμοί που κανένα μοντέλο δεν μπορεί να ξεπεράσει. Μια μηχανή δεν μπορεί να αναγνωρίσει το τρέμουλο στη φωνή ενός ασθενούς. Δεν μπορεί να διακρίνει ότι η σιωπή μιας κόρης μπορεί να φέρει περισσότερο φόβο από ό,τι θα μπορούσαν ποτέ οι λέξεις. Δεν αισθάνεται το ηθικό βάρος της επιλογής, πότε να μιλήσει και πότε απλώς να παραμείνει παρών. Τα υπολογιστικά συστήματα είναι εκπαιδευμένα να ανιχνεύουν μοτίβα. Οι γιατροί, αντίθετα, είναι εκπαιδευμένοι να διακρίνουν το παράδοξο. Και η σύγχρονη ιατρική απαιτεί και τα δύο.
Το ΑΙ θα αλλάξει την ιατρική
Υποστηρίζουμε τη χρήση ευφυών συστημάτων στην υγειονομική περίθαλψη – όχι επειδή πιστεύουμε ότι είναι τέλεια, αλλά επειδή αναγνωρίζουμε ότι είναι ελλιπή. Και τα ελλιπή πράγματα πρέπει να διαμορφώνονται. Πολύ συχνά, οι τεχνολογίες που εισέρχονται στους κλινικούς σας χώρους σχεδιάζονται μακριά από την πραγματικότητα της φροντίδας των ασθενών. Τα προγνωστικά μοντέλα και τα εργαλεία υποστήριξης αποφάσεων εισάγονται χωρίς επαρκή συμμετοχή κλινικών στην ανάπτυξη, την επικύρωση ή την εφαρμογή τους.
Το αποτέλεσμα είναι ένα σύστημα που προορίζεται να βοηθήσει τους γιατρούς, αλλά κατασκευάζεται με ελάχιστη συμβολή από εκείνους που γνωρίζουν τα διακυβεύματα της επιτυχίας ή της αποτυχίας του.
Και όταν τα διακυβεύματα είναι υψηλά, ο αποκλεισμός δεν είναι ασήμαντος, είναι επικίνδυνος. Έχουμε δει κλινικά εργαλεία να αποτυγχάνουν ακριβώς επειδή δημιουργήθηκαν χωρίς να κατανοούν την πολυπλοκότητα των παρουσιάσεων των ασθενών ή τις λεπτότητες της κλινικής συλλογιστικής. Οι καλοπροαίρετοι αλγόριθμοι μπορούν να προκαλέσουν κακό όταν δεν λαμβάνουν υπόψη τη σοφία των ειδικών.
Οι γιατροί δεν πρέπει να είναι παθητικοί χρήστες αυτών των εργαλείων. Πρέπει να συμμετέχουν ενεργά στην υποδομή που τα ορίζει – να συμμετέχουν στο σχεδιασμό των μοντέλων, στη διαχείριση δεδομένων, στη βελτίωση προϊόντων και στην ηθική εποπτεία.
Όταν οι κλινικοί γιατροί συμμετέχουν στη διαδικασία ανάπτυξης, αποκομίζεται κάτι περισσότερο από την εμπειρία. Έχετε κρίση, πλαίσιο και μια βαθιά επίγνωση του τι διακυβεύεται όταν τα συστήματα αποτυγχάνουν. Οι αξίες που ενσωματώνονται σε αυτά τα εργαλεία θα αντικατοπτρίζουν πάντα τις προτεραιότητες εκείνων που τα κατασκευάζουν. Εάν οι κλινικοί γιατροί απουσιάζουν από αυτή τη διαμόρφωση, τότε απουσιάζουν και οι πολυπλοκότητες της φροντίδας.
Γιατί το feedback πραγματικών γιατρών στο AI είναι απαραίτητο
Η ποικιλομορφία σε αυτή τη διαδικασία διαμόρφωσης δεν είναι προαιρετική – είναι θεμελιώδης. Οι κλινικοί γιατροί που εκπροσωπούνται από πολύγλωσσες κοινότητες και από περιβάλλοντα με υπο-πηγές, προσφέρουν προοπτικές που συχνά λείπουν τόσο από τα σύνολα δεδομένων όσο και από τους χώρους σχεδιασμού.
Η συμπερίληψή τους διασφαλίζει ότι τα συστήματα που δημιουργούμε δεν αντικατοπτρίζουν απλώς την πλειοψηφία, αλλά ενσωματώνουν όλο το φάσμα της ανθρώπινης εμπειρίας. Όταν συμμετέχετε, αναβαθμονομείτε. Υπενθυμίζετε στο σύστημα ότι δεν μιλάει κάθε ασθενής την ίδια γλώσσα, ότι δεν ακολουθεί κάθε περίπτωση το πρωτόκολλο και ότι δεν ταιριάζει κάθε ανθρώπινη ιστορία σε ένα κλινικό πλαίσιο.
Αυτά τα εργαλεία ακούν – αλλά στις φωνές που έχουν διδαχθεί να ακούν, και σε εκείνες που είναι αρκετά θαρραλέες για να μιλήσουν με πρόθεση.
Και έτσι, πιστεύουμε στις δυνατότητες των ευφυών συστημάτων. Πιστεύουμε στην ικανότητά τους να μας υποστηρίζουν, να μειώνουν τα βάρη, να οξύνουν την γνώση. Αλλά πιστεύουμε πιο βαθιά στην κλινική σοφία, στην ηθική φαντασία και στις ήσυχες αποφάσεις που λαμβάνουν άνθρωποι που καταλαβαίνουν ότι η ιατρική δεν είναι απλώς μια επιστήμη ακρίβειας – είναι μια πράξη παρουσίας.
Αφήστε τη μηχανή να σας βοηθήσει.
Αφήστε όμως το μυαλό να παραμείνει δικό σας.
Η φωνή σας είναι απαραίτητη τώρα, πριν οι αλγόριθμοι αποφασίσουν χωρίς εσάς!
