Αρχική Ειδήσεις Είμαι άνθρωπος γιατρός με ανθρώπινη νοημοσύνη. Αλλά σίγουρα μου αρέσει ο σημειωτής...

Είμαι άνθρωπος γιατρός με ανθρώπινη νοημοσύνη. Αλλά σίγουρα μου αρέσει ο σημειωτής AI μου

5
0

Είμαι άνθρωπος γιατρός με ανθρώπινη νοημοσύνη. Αλλά σίγουρα μου αρέσει ο σημειωτής AI μου

Sunny Rebecca Choi για NPR

Η Δρ Mara Gordon, μια οικογενειακή γιατρός στο Camden, NJ, απαντά σε ερωτήσεις υγείας των αναγνωστών κάθε μήνα. Στείλτε την ερώτησή σας στο: thrive@npr.org.

Ερώτηση: Ο γιατρός μου άρχισε να καταγράφει τις επισκέψεις μας στο γραφείο με έναν γραφέα τεχνητής νοημοσύνης. Λέει ότι βοηθάει να γράψω σημειώσεις στον ιατρικό μου φάκελο. Είπα ναι όταν με ρώτησε αν ένιωθα άνετα με αυτό, αλλά εκ των υστέρων νιώθω λίγο φρικάρη. Πρέπει να ανησυχώ μήπως η τεχνητή νοημοσύνη ακούει τις ιδιωτικές ιατρικές μου συνομιλίες;

Απάντηση: ÂΟι γραφείς της τεχνητής νοημοσύνης είναι η οργή στην ιατρική αυτή τη στιγμή. Γιατροί τα χρησιμοποιούν να κρατάς σημειώσεις παντού από το ιατρείο του γυναικολόγου μέχρι τα επείγοντα.

Ομολογώ ότι υπήρξα πρόθυμος υιοθέτης στο δικό μου ιατρείο πρωτοβάθμιας περίθαλψης. Χρησιμοποιώ μια εφαρμογή στο τηλέφωνό μου που καταγράφει τη συνομιλία μου με έναν ασθενή και στη συνέχεια χρησιμοποιεί τεχνητή νοημοσύνη για να γράψει μια προκαταρκτική περίληψη για τον ιατρικό φάκελο.

NPR_AI_SPOT_1.png

Sunny Rebecca Choi για NPR

Το μου εξοικονομεί χρόνο. Αλλά το πιο σημαντικό, μου αρέσει να το χρησιμοποιώ γιατί με βοηθάει να εστιάσω περισσότερο στον ασθενή μου. Όταν χρησιμοποιώ τον γραφέα τεχνητής νοημοσύνης, δεν χρειάζεται να μιλάω και να κρατάω σημειώσεις ταυτόχρονα – Μπορώ πραγματικά να έχω οπτική επαφή με τον ασθενή μου αντί να κοιτάζω επίμονα την οθόνη του υπολογιστή.

Αλλά καταλαβαίνω απόλυτα γιατί οι άνθρωποι αισθάνονται άβολα με την τεχνολογία. Συμμερίζομαι τις ανησυχίες των ασθενών μου σχετικά με το απόρρητο και πώς οι γραφείς τεχνητής νοημοσύνης μπορεί να επηρεάσουν τη σχέση γιατρού-ασθενούς.

Ανησυχώ επίσης ότι τα εταιρικά συστήματα υγείας θα ασκήσουν πίεση στους γιατρούς να χρησιμοποιήσουν κάθε χρόνο που εξοικονομούμε με έναν γραφέα τεχνητής νοημοσύνης για να στριμώξουν ακόμη και περισσότερο ασθενείς.

Και όπως πολλοί άνθρωποι, ανησυχώ ότι η τεχνητή νοημοσύνη μπορεί μια μέρα να με αφήσει χωρίς δουλειά!

Εδώ είναι τι πρέπει να ξέρετε.

Πώς λειτουργούν οι γραφείς AI

Όταν χρησιμοποιώ έναν γραφέα τεχνητής νοημοσύνης κατά τη διάρκεια μιας επίσκεψης πρωτοβάθμιας φροντίδας, ρωτάω πρώτα τον ασθενή εάν αισθάνεται άνετα να χρησιμοποιεί την υπηρεσία. Εάν ο ασθενής πει ναι, ξεκινώ την εγγραφή χρησιμοποιώντας μια εφαρμογή στο smartphone μου. Συνήθως το βάζω κάτω στο γραφείο στην αίθουσα εξετάσεων.

Ο γραφέας χρησιμοποιεί μια τεχνολογία που ονομάζεται «αυτόματη αναγνώριση ομιλίας» η οποία καταγράφει τη συνομιλία μας και διακρίνει αυτόματα τη φωνή του γιατρού και του ασθενούς. (Μερικές φορές, όταν ο ασθενής έχει ένα μέλος της οικογένειάς του να τον συνοδεύει, η εφαρμογή πρέπει να κάνει διάκριση μεταξύ τριών ¨ ή περισσότερων! ¨ φωνών.)

Όταν τελειώσει η επίσκεψη, η ηχογράφηση στη συνέχεια μεταγράφεται. Ένα μεγάλο γλωσσικό μοντέλο – το είδος της τεχνολογίας AI που τροφοδοτεί το ChatGPT, αλλά ειδικά προσανατολισμένο προς την ιατρική – μετατρέπει το ακατέργαστο αντίγραφο σε ιατρική σημείωση. Αυτές οι σημειώσεις ακολουθούν μια τυπική μορφή που είναι συγκεκριμένη για την ειδικότητα και το είδος της επίσκεψης. Αντικατοπτρίζουν όσα είπε ο ασθενής στον γιατρό, τα ευρήματα της φυσικής εξέτασης και την ιατρική λήψη αποφάσεων του γιατρού.

Πώς είναι το λογισμικό;Â

NPR_AI_SPOT_2.png

Sunny Rebecca Choi για NPR

Υπάρχουν πολλοί γραφείς τεχνητής νοημοσύνης στην αγορά, που κυμαίνονται από προϊόντα ενσωματωμένα στον ηλεκτρονικό ιατρικό φάκελο έως δωρεάν εφαρμογές που μπορεί να κατεβάσει ένας γιατρός στο τηλέφωνό του. Οι περισσότεροι γραφείς χρησιμοποιούν τις δυνατότητες εγγραφής ενός smartphone για να «ακούν» τη συνομιλία, αν και υπάρχουν μερικοί που χρησιμοποιούν επιτραπέζιο υπολογιστή ή ξεχωριστή συσκευή εγγραφής.

Χρησιμοποιώ το προσωπικό μου smartphone για αυτόν τον σκοπό, όπως και πολλοί γιατροί που γνωρίζω. Κατέβασα το λογισμικό AI script ως εφαρμογή στο τηλέφωνό μου. Αυτό προκαλεί περιστασιακό λόξυγγα. Για παράδειγμα, έχω λάβει ping ειδοποιήσεων από την ομαδική συνομιλία της λέσχης βιβλίων μου κατά την εγγραφή μιας επίσκεψης ασθενούς – κάτι που με έκανε να φροντίζω να βάζω το τηλέφωνο σε λειτουργία «μην ενοχλείτε» κάθε φορά που το χρησιμοποιώ για φροντίδα ασθενών.

Τι γίνεται με το απόρρητο;

Παρόλο που χρησιμοποιώ το προσωπικό μου τηλέφωνο για να γράφω επισκέψεις ασθενών, οι συνομιλίες μας δεν αποθηκεύονται στη συσκευή μου. Αποστέλλονται απευθείας σε ένα cloud συμβατό με HIPAAόπου τα δεδομένα στη συνέχεια μεταγράφονται στην κλινική σημείωση που δημιουργείται από AI. Στη συνέχεια, τα περισσότερα συστήματα γραφής διαγράφουν την ηχογράφηση και τη σημείωση μετά από ένα καθορισμένο χρονικό διάστημα.

Η συμμόρφωση με το HIPAA είναι ένα σημαντικό χαρακτηριστικό όλων των υπηρεσιών γραφής AI. Σημαίνει ότι το πρόγραμμα υπολογιστή σχεδιάστηκε σύμφωνα με τον νόμο περί φορητότητας και λογοδοσίας ασφάλισης υγείας, έναν ομοσπονδιακό νόμο που έχει σχεδιαστεί για την προστασία της ιδιωτικής ζωής των ασθενών.

Η εταιρεία λογισμικού είναι υπεύθυνη για την προστασία των δεδομένων σε κάθε βήμα της διαδικασίας, από την καταγραφή έως τη δημιουργία σημειώσεων. Οι εταιρείες τεχνητής νοημοσύνης κρυπτογραφούν τα δεδομένα, ελέγχουν ποιος έχει πρόσβαση σε αυτά και διαθέτουν συστήματα προστασίας από «παραβιάσεις δεδομένων». Σημαίνει επίσης ότι αυτές οι εταιρείες είναι υπεύθυνες εάν τα δεδομένα διαρρεύσουν.

Οι γραφείς AI μπορεί να κάνουν λάθη

Πρόσφατα είδα έναν ασθενή που είχε μεταστατικό καρκίνο. Παρά τις πολλές συζητήσεις για τη διάγνωσή του με εμένα, τον ογκολόγο του και τον χειρουργό του, δεν πίστευε ότι είχε καρκίνο. Είχα μάλιστα -με την άδειά του- τηλεφώνησα στη σύζυγό του για να της πω τι συνέβαινε. Ακόμα δεν το δεχόταν.

Αυτό το είδος δύσκολης κλινικής κατάστασης εμφανίζεται κατά καιρούς, και ο γραφέας AI το έκανε δεν να το πάρεις σωστά. Αντί να αντικατοπτρίζει τις αποχρώσεις της συζήτησής μας, το σημείωμα που έβγαλε ο γραφέας απλώς έλεγε ότι ο ασθενής είχε διαγνωστεί λάθος.

Συχνά αντιλαμβάνομαι άλλα σφάλματα που κάνει το λογισμικό, όπως λάθος το φύλο ή την ηλικία ενός ασθενούς. Ανησυχητικά, αυτοί οι γραφείς είναι επίσης γνωστοί για το ότι μπερδεύουν τις δηλώσεις «κάνω» με το «δεν το κάνω». Στην ιατρική, αυτό μπορεί να είναι κρίσιμο: Η διαφορά μεταξύ του «έχω πόνο στο στήθος» και του «δεν έχω πόνο στο στήθος» μπορεί να είναι θέμα ζωής και θανάτου.

Για να κατανοήσω καλύτερα πώς οι γραφείς τεχνητής νοημοσύνης μπορούν να συμβάλλουν σε σφάλματα στον ιατρικό φάκελο, μίλησα με Δρ Αϊλίν Κιμεπίκουρος καθηγητής εσωτερικής ιατρικής στο Πανεπιστήμιο της Καλιφόρνια στο Σαν Ντιέγκο. Η Kim ειδικεύεται στην κλινική πληροφορική και σκέφτεται πολύ πώς η τεχνητή νοημοσύνη μπορεί να διαμορφώσει το μέλλον της ιατρικής.

“Έχετε έναν γιατρό που είναι υπερφορτωμένος, βλέπει πάρα πολλούς ασθενείς”, είπε. “Έχουν αυτό το εργαλείο τεχνητής νοημοσύνης που τους προσφέρεται και φαίνεται σαν μια εξαιρετική λύση, αλλά δεν έχουν χρόνο να αναθεωρήσουν επαρκώς τα πάντα. Μπαίνει στο γράφημα. Έπειτα έχετε ένα άλλο εργαλείο τεχνητής νοημοσύνης που διαβάζει όλες αυτές τις σημειώσεις. Αλλά κάνουν λάθος. Και μετά απλώς διαδίδει σφάλματα σε όλο το γράφημα.”

Στην εργασία μου που φροντίζω ασθενείς, συναντώ συνεχώς λανθασμένες πληροφορίες στον ηλεκτρονικό φάκελο υγείας. Είναι δύσκολο να γνωρίζουμε πόσο σχετίζεται με την τεχνητή νοημοσύνη και πόσο προκαλείται από ανθρώπινο λάθος. Αλλά νομίζω ότι ο Δρ Κιμ έχει δίκιο να ανησυχεί ότι οι γραφείς τεχνητής νοημοσύνης μπορεί να επιδεινώσουν το πρόβλημα.

NPR_AI_SPORT_3.png

Sunny Rebecca Choi για NPR

Ποιος ευθύνεται για λάθη;

Ως γιατρός που φροντίζει τον ασθενή μου, είμαι τελικά αυτός που είναι υπεύθυνος για το περιεχόμενο της σημείωσης που δημιουργείται από την τεχνητή νοημοσύνη, επομένως τα διαβάζω πάντα προσεκτικά προτού κάνω κλικ στο “υπογραφή” και τα προσθέσω στον ιατρικό φάκελο. Τα περισσότερα λογισμικά τεχνητής νοημοσύνης αναγκάζουν τους γιατρούς να υπογράφουν μια συμφωνία χρήστη δηλώνοντας ότι οι γιατροί είναι υπεύθυνοι για όλα όσα γράφουν στον ιατρικό φάκελο, ακόμα κι αν ένας γραφέας τους βοηθά με αυτό.

Όταν οι σημειώσεις που δημιουργούνται από την τεχνητή νοημοσύνη είναι πραγματικά ακριβείς, σχεδόν πάντα καταλήγω να τις επεξεργάζομαι για να κάνω πιο σαφή τη λήψη κλινικών αποφάσεών μου. Χαίρομαι που τα ρομπότ με βοηθούν στα διοικητικά μου καθήκοντα, αλλά εξακολουθώ να υπερηφανεύομαι που είμαι άνθρωπος γιατρός με ανθρώπινη νοημοσύνη!

Ανησυχίες για την ισότητα της υγείας

Πολλοί γραφείς τεχνητής νοημοσύνης μπορούν να χρησιμοποιηθούν μόνο με αγγλόφωνους ασθενείς. Οι υποστηρικτές της ισότητας στον τομέα της υγείας λένε ότι φοβούνται ότι αυτό σημαίνει άνιση πρόσβαση στην τεχνολογία, η οποία θα μπορούσε να διευρύνει περαιτέρω τις ανισότητες στον τομέα της υγείας.

Για παράδειγμα, ο γραφέας μου επιτρέπει να κοιτάζω περισσότερο τον ασθενή μου και λιγότερο τον υπολογιστή μου, κάτι που μπορεί να κάνει έναν ασθενή να αισθάνεται πιο άνετα όταν αποκαλύπτει μια στιγματιστική ανησυχία για την υγεία. Ή μπορεί να ισχύει και το αντίθετο: Ένας ασθενής που φοβάται ότι μια εταιρεία τεχνητής νοημοσύνης «ακούει» τη συνομιλία μας μπορεί να φοβάται να μοιραστεί ευαίσθητες πληροφορίες, κάτι που με τη σειρά του θα μπορούσε να επηρεάσει την ποιότητα της ιατρικής του φροντίδας.

Χρησιμοποιούνται ποτέ οι ηχογραφήσεις για κάτι άλλο εκτός από τη γραφή;Â

Ως χαρακτηριστικό ασφαλείας, οι περισσότερες εταιρείες τεχνητής νοημοσύνης διαγράφουν τις ηχογραφημένες συνομιλίες μέσα σε ένα καθορισμένο χρονικό διάστημα. Αυτό γίνεται για την προστασία της ιδιωτικής ζωής των ασθενών και επίσης για την προστασία των γιατρών από μηνύσεις. Υπάρχει ευρέως διαδεδομένη ανησυχία στην υγειονομική περίθαλψη ότι οι μεταγραφές θα μπορούσαν να χρησιμοποιηθούν σε αγωγές για ιατρικές αμέλειες.

Αλλά ορισμένοι ερευνητές αποκαλούν τις ηχογραφήσεις “ψηφιακό χρυσό” που θα μπορούσαν να χρησιμοποιηθούν για την αξιολόγηση της ποιότητας των ιατρικών σημειώσεων που δημιουργούνται από την τεχνητή νοημοσύνη ή ακόμη και για τη μελέτη ευρύτερων ερωτημάτων σχετικά με την επικοινωνία ιατρού-ασθενούς.

Για παράδειγμα, θα ήθελα πολύ να μάθω πώς οι άλλοι γιατροί χειρίζονται δύσκολες συζητήσεις με ασθενείς που φοβούνται τα εμβόλια. Υπάρχουν θεωρητικές βέλτιστες πρακτικές, αλλά η ανάλυση εκατοντάδων χιλιάδων μεταγραφών επισκέψεων ιατρείου θα μπορούσε να βοηθήσει τους γιατρούς να μάθουν τι πραγματικά λειτουργεί καλύτερα στην πραγματική ζωή.

Προς το παρόν, οι καταγραφές των τακτικών ραντεβού με γιατρούς – εκτός εάν έχετε εγγραφεί σε μια ερευνητική μελέτη – δεν χρησιμοποιούνται για ερευνητικούς σκοπούς.

Μπορώ να εξαιρεθώ;Â

Οι περισσότεροι από τους ασθενείς μου συμφωνούν εύκολα όταν ρωτάω αν είναι εντάξει να χρησιμοποιήσω το λογισμικό τεχνητής νοημοσύνης, αλλά περιστασιακά οι ασθενείς μου έχουν ανησυχίες. Ανησυχούν ότι τα δεδομένα δεν είναι πραγματικά ασφαλή ή ότι θα μπορούσαν να χρησιμοποιηθούν για την ταυτοποίησή τους στο μέλλον.

Εάν ένας ασθενής δεν θέλει να χρησιμοποιήσει τον γραφέα AI, δεν υπάρχει πρόβλημα. Απλώς κρατάω σημειώσεις στον υπολογιστή ενώ μιλάνε – αυτό έκανα για χρόνια πριν γίνουν διαθέσιμοι οι γραφείς τεχνητής νοημοσύνης.

Η εξαίρεση από την τεχνητή νοημοσύνη στην ιατρική γενικότερα μπορεί να αποδειχθεί δύσκολη.

«Είναι παντού», είπε ο Kim, ο ειδικός κλινικών πληροφοριών. “Θα ήταν αδύνατο να διαχωριστεί. Το χρησιμοποιούμε σε όλο το σύστημα υγειονομικής περίθαλψης.”

Το λογισμικό που βασίζεται στη μηχανική μάθηση χρησιμοποιείται για τιμολόγηση, για λήψη κλινικών αποφάσεων και για επικοινωνία μεταξύ του ιατρείου και των ασθενών.

Η τεχνητή νοημοσύνη χρησιμοποιείται συχνά σε υπολογιστές κινδύνου, όπως κλινικά εργαλεία που εκτιμούν τον κίνδυνο ενός ασθενούς για, για παράδειγμα, καρδιακή νόσο με βάση μεταβλητές όπως τα επίπεδα χοληστερόλης και η αρτηριακή πίεση. Η τεχνητή νοημοσύνη είναι επίσης κοινή σε συστήματα «έγκαιρης προειδοποίησης» που ειδοποιούν τους κλινικούς γιατρούς οι ασθενείς τους μπορεί να είναι ευάλωτοι σε καταστάσεις υψηλού κινδύνου όπως η σήψη, με βάση ζωτικά σημεία και εργαστηριακές τιμές.

Η Kim λέει ότι είναι βασικά αδύνατο για τους ασθενείς να εξαιρεθούν εντελώς από τη συμμετοχή της τεχνητής νοημοσύνης στην ιατρική τους περίθαλψη, “εκτός εάν είστε τόσο υγιείς που δεν σας πλησιάζουν ποτέ υπολογιστές κινδύνου”, είπε.

Θα αντικαταστήσει το AI τον γιατρό μου;Â

Ρώτησα την Κιμ «μια γιατρό πρωτοβάθμιας περίθαλψης σαν εμένα» αν πίστευε ότι η τεχνητή νοημοσύνη θα μας αντικαθιστούσε τα επόμενα χρόνια. Εάν ο γραφέας τεχνητής νοημοσύνης μπορούσε να μάθει να κάνει τις ίδιες ερωτήσεις και εγώ, θα μπορούσε να δημιουργήσει ένα σχέδιο θεραπείας τόσο καλό — ή καλύτερο — όπως αυτό που προτείνω;

Ο Kim σκέφτηκε ότι η τεχνητή νοημοσύνη μπορεί να αλλάξει τον τρόπο με τον οποίο οι ασθενείς βιώνουν την πρωτοβάθμια περίθαλψη. (Ενδεχομένως προς το καλύτερο, είπε, εάν οι γραφείς τεχνητής νοημοσύνης επιτρέπουν στους γιατρούς να εστιάζουν περισσότερο στους ασθενείς τους και λιγότερο στον υπολογιστή!)

Αλλά τελικά, πιστεύει ότι η ανθρώπινη νοημοσύνη είναι κρίσιμη για την ιατρική.

«Φαίνεται πολύ καλό γιατί είναι πολύ καλό στο να ακούγεται σαν εμάς και είναι πολύ καλό στο να παριστάνεις ότι είμαστε εμείς», είπε. “Αλλά εξακολουθεί να προσποιείται με έναν τρόπο. Δεν υπάρχει πραγματικός εγκέφαλος.”

συμφωνώ. Νομίζω ότι η τεχνολογία τεχνητής νοημοσύνης έχει τη δυνατότητα να κάνει καλό και κακό στην υγειονομική περίθαλψη. Αλλά ο πυρήνας της ιατρικής είναι η σχέση που έχω με τους ασθενείς μου. Κανένα ρομπότ δεν μπορεί να το αντικαταστήσει.

Η Δρ Mara Gordon είναι οικογενειακή γιατρός στο Camden, NJ. Βρείτε το ενημερωτικό της δελτίο Ο φίλος σας γιατρός στο Substack.ΕΝΑ