Οι θεραπευτές χρησιμοποιούν τεχνητή νοημοσύνη για να κρατούν σημειώσεις. Είναι χρήσιμο εργαλείο ή παραβίαση εμπιστοσύνης;

Για δύο χρόνια, η Μόλι Κουίν εμπιστευόταν στη θεραπεύτρια της πράγματα που δεν είχε πει σε κανέναν άλλον.

Έτσι, όταν ο θεραπευτής της ανέφερε ότι δοκίμασε ένα εργαλείο τεχνητής νοημοσύνης για να κρατήσει σημειώσεις, η Κουίν δεν αρνήθηκε αμέσως. Ο 31χρονος βιβλιοθηκάριος από το Fayetteville, Ark., ζήτησε να το ερευνήσει πρώτα.

Ήθελε να καταλάβει πού θα πήγαιναν τα λόγια της – αν θα έμεναν τοπικά ή θα επεξεργάζονταν κάπου στο σύννεφο.

Επαναλαμβάνει τη συνεδρία στο κεφάλι της

Η συνεδρία κινήθηκε εκείνη την ημέρα, αλλά στα μισά της διαδρομής, ο Κουίν παρατήρησε ότι κάτι ήταν διαφορετικό.

«Δεν κρατούσε σημειώσεις όπως συνήθως», λέει ο Κουίν. “Το iPad μόλις στηρίχθηκε.”

Τότε ήταν που ο Κουίν συνειδητοποίησε ότι η συνεδρία ηχογραφούνταν.

Η Κουίν λέει ότι πάγωσε για λίγο. Αλλά μετά συνέχισε να μιλάει.

Μόλις βγήκε από το γραφείο του θεραπευτή της, το βάρος του έπεσε.

«Όσο περισσότερο το σκεφτόμουν, τόσο περισσότερο άρχισα να αρρωσταίνω όλο και περισσότερο στο στομάχι μου», λέει. “Αυτό το άτομο που υποτίθεται ότι μπορώ να εμπιστευτώ με κάποια πολύ ιδιωτικά και πολύ έντονα συναισθήματα είχε απλώς αγνόησε τελείως κάτι με το οποίο είπα ότι δεν ένιωθα άνετα. Ένιωσα εντελώς παραβιασμένος.”

Οδήγησε στο σπίτι επαναλαμβάνοντας τη συνεδρία στο κεφάλι της, χωρίς να ξέρει τι να κάνει στη συνέχεια.

Νέα εργαλεία από νέες εταιρείες

Σε όλες τις ΗΠΑ, ένας αυξανόμενος αριθμός θεραπευτών πειραματίζεται με εργαλεία τεχνητής νοημοσύνης που καταγράφουν συνεδρίες, δημιουργούν μεταγραφές και συντάσσουν αυτόματα κλινικές σημειώσεις. Οι εταιρείες λογισμικού λένε ότι αυτά τα εργαλεία μπορούν να εξοικονομήσουν ώρες διοικητικής εργασίας κάθε εβδομάδα.

Μια εταιρεία, η Berries, εμπορεύεται την πλατφόρμα της ως έναν τρόπο για να ελαφρύνει τη γραφειοκρατία, ώστε οι θεραπευτές να μπορούν να επικεντρωθούν περισσότερο στους πελάτες τους και να έχουν καλύτερη ισορροπία μεταξύ επαγγελματικής και προσωπικής ζωής στην προσωπική τους ζωή.

«Το Berries έχει σχεδιαστεί για να μειώνει τον διοικητικό φόρτο χωρίς να παρεμβαίνει στην ίδια τη θεραπευτική εμπειρία», δήλωσε στο NPR ο Ταλ Σαλμάν, συν-διευθύνων σύμβουλος της εταιρείας. “Υποστηρίζει τους κλινικούς γιατρούς να είναι πιο παρόντες με τους πελάτες τους.”

Όταν ενεργοποιηθεί, το σύστημα καταγράφει τη συνομιλία, τη μεταγράφει και δημιουργεί ένα προσχέδιο κλινικής σημείωσης προς εξέταση από τον θεραπευτή. Οι θεραπευτές μπορούν να επεξεργαστούν, να αναθεωρήσουν ή να απορρίψουν το προσχέδιο. Μπορούν επίσης να το αποθηκεύσουν σε ιατρικό φάκελο.

Κανόνες απορρήτου

Ο Salman λέει ότι ο ήχος επεξεργάζεται σε πραγματικό χρόνο και διαγράφεται αμέσως, και ότι οι μεταγραφές αποθηκεύονται σε διακομιστές στις Ηνωμένες Πολιτείες που είναι συμβατοί με το HIPAA, τον ομοσπονδιακό νόμο που περιορίζει την αποδέσμευση ιατρικών πληροφοριών. Προσθέτει ότι η εταιρεία δεν χρησιμοποιεί περιεχόμενο θεραπείας για να εκπαιδεύσει τα μοντέλα της AI.

“Το περιεχόμενο της θεραπευτικής συνεδρίας παραμένει ιδιωτικό και δεν επαναπροορίζεται για εκπαίδευση”, λέει ο Salman. «Ο κλινικός ιατρός παραμένει πλήρως υπεύθυνος για τη φροντίδα των ασθενών και την τελική τεκμηρίωση».

Άλλες εταιρείες που προσφέρουν παρόμοιες υπηρεσίες σε θεραπευτές ψυχικής υγείας είναι η SimplePractice και η Blueprint. Οι εταιρείες γενικά χρεώνουν αμοιβές από 19 έως 99 $ ανά μήνα, απευθύνοντας έκκληση σε μεμονωμένους επαγγελματίες που συχνά κατακλύζονται από διοικητικά καθήκοντα.

Η έρευνα δείχνει ότι οι ασθενείς μπορεί να είναι ανοιχτοί σε εργαλεία τεχνητής νοημοσύνης στη θεραπεία, αλλά αυτή η άνεση είναι περιορισμένη. Μια εθνική έρευνα από το YouGov διαπίστωσε ότι οι Αμερικανοί εξακολουθούν να διστάζουν να χρησιμοποιήσουν την τεχνητή νοημοσύνη για φροντίδα ψυχικής υγείας. Μόνο το 11% περίπου δηλώνει ότι θα ήταν ανοιχτό στη χρήση του και μόλις το 8% δηλώνει ότι το εμπιστεύεται. Σχεδόν οι μισοί από τους ερωτηθέντες δήλωσαν ότι είναι απρόθυμοι να χρησιμοποιήσουν την τεχνολογία. Πολλοί επισημαίνουν την έλλειψη ανθρώπινης κατανόησης ως κύρια ανησυχία, μαζί με φόβους για ανακριβείς συμβουλές και προστασία της ιδιωτικής ζωής.

Αυτές οι ανησυχίες εκτείνονται πέρα ​​από την ίδια τη θεραπεία.

Μια ξεχωριστή έρευνα από τον οργανισμό έρευνας υγείας KFF διαπίστωσε ότι περίπου το 77% των Αμερικανών ανησυχούν για το πώς θα αποθηκευτούν και θα χρησιμοποιηθούν οι πληροφορίες για την υγεία τους από συστήματα τεχνητής νοημοσύνης.

Οι ερευνητές λένε ότι το χάσμα μεταξύ περιέργειας και εμπιστοσύνης γίνεται ακόμη πιο έντονο στη φροντίδα ψυχικής υγείας, όπου οι συζητήσεις είναι βαθιά προσωπικές. Και σημειώνουν ότι ακόμη και όταν οι ασθενείς είναι πρόθυμοι να δοκιμάσουν την τεχνολογία, πολλοί εξακολουθούν να προτιμούν τη διαβεβαίωση ενός ανθρώπινου θεραπευτή.

Η Kellie Owens, επίκουρη καθηγήτρια ιατρικής δεοντολογίας στο NYU Grossman School of Medicine, λέει ότι οι προστασίες απορρήτου όπως η συμμόρφωση με το HIPAA δεν εξαλείφουν την πιθανότητα παραβιάσεων.

“Ανεξάρτητα από το τι μέτρα προστασίας διαθέτουμε, αυτό δεν σημαίνει ότι τα δεδομένα δεν μπορούν να παραβιαστούν”, λέει ο Owens. “Υπάρχουν πολλά συστήματα που είναι πλήρως συμβατά με το HIPAA που εξακολουθούν να αντιμετωπίζουν σημαντικές παραβιάσεις δεδομένων.”

Λέει ότι οι κίνδυνοι είναι ιδιαίτερα ευαίσθητοι στη θεραπεία, όπου οι ασθενείς μοιράζονται βαθιά προσωπικές πληροφορίες.

Συναίνεση με νόημα;

Πέρα από τους τεχνικούς κινδύνους, λέει ο Owens, τα έντυπα γραπτής συγκατάθεσης από μόνα τους μπορεί να μην είναι αρκετά.

«Έχουμε ένα ευρύ φάσμα ερευνών που δείχνει ότι ένα έντυπο συναίνεσης από μόνο του δεν σημαίνει ότι ένα άτομο κάνει μια τεκμηριωμένη επιλογή», ​​λέει. «Οι άνθρωποι μετακινούνται μέσα από αυτά, δεν τα διαβάζουν ή αισθάνονται πίεση να συμφωνήσουν».

Ο Όουενς λέει ότι οι ηχογραφήσεις πρέπει πάντα να συζητούνται απευθείας.

“Κάθε φορά που ηχογραφείτε μια συνομιλία, αυτό θα πρέπει να απαιτεί μια προφορική συνομιλία ότι μια ηχογράφηση πραγματοποιείται”, λέει.

Λέει ότι η εμπιστοσύνη και η ψυχολογική ασφάλεια είναι θεμελιώδεις για την αποτελεσματική θεραπεία ψυχικής υγείας.

«Εάν οι ασθενείς αισθάνονται ότι η ιδιωτική ζωή έχει τεθεί σε κίνδυνο, αυτό μπορεί να κάνει πραγματική ζημιά στη θεραπευτική σχέση», λέει ο Owens.

Για τη Molly Quinn, αυτοί οι κίνδυνοι δεν είναι αφηρημένοι.

Τα συστήματα υγειονομικής περίθαλψης και οι μεγάλες εταιρείες έχουν αντιμετωπίσει επανειλημμένες παραβιάσεις δεδομένων τα τελευταία χρόνια και ο Quinn ανησυχεί ότι η προσθήκη ενός άλλου επιπέδου τεχνολογίας αυξάνει την πιθανότητα να αποκαλυφθούν μια μέρα βαθιά προσωπικές συνομιλίες.

«Θα δούμε παραβιάσεις», λέει. “Ίσως όχι αύριο, ίσως όχι την επόμενη εβδομάδα. Αλλά σε λίγα χρόνια; Νομίζω ότι θα τους δούμε. Και δεν θέλω η θεραπευτική μου συνεδρία να είναι μέρος αυτού.”

Ένας ακροατής AI, μια διαφορετική εμπειρία

Για ορισμένους θεραπευτές, η ανησυχία δεν αφορά μόνο την ασφάλεια στον κυβερνοχώρο.

Η Marisa Cohen, θεραπεύτρια ζευγαριών και σεξ στη Νέα Υόρκη, λέει ότι η εισαγωγή της τεχνητής νοημοσύνης στη θεραπεία αλλάζει την εμπειρία, ακόμα κι αν η τεχνολογία ξεθωριάζει στο παρασκήνιο.

«Ακόμη και η παρουσία της τεχνητής νοημοσύνης αλλάζει τη θεραπευτική εμπειρία», λέει ο Cohen. “Οι πελάτες γνωρίζουν ή αισθάνονται ότι κάτι άλλο τους ακούει. Αυτή η επίγνωση μπορεί να αλλάξει διακριτικά την αποκάλυψή τους.”

Η θεραπεία, λέει, βασίζεται στην αντίληψη της απόλυτης ιδιωτικότητας.

“Όταν εισάγετε κάτι που αποθηκεύεται ηλεκτρονικά, εγείρει επιπλέον ερωτήματα σχετικά με την εμπιστοσύνη και την ασφάλεια”, λέει ο Cohen. «Είναι ουσιαστικά τρίτο μέρος».

Ο Κοέν ανησυχεί επίσης για την ακρίβεια.

“Εάν εισαχθούν σφάλματα και ένας κλινικός ιατρός δεν ελέγχει σχολαστικά τις σημειώσεις, αυτό το σφάλμα αποτελεί πλέον μέρος του αρχείου”, λέει. «Εάν αυτές οι σημειώσεις κληθούν ποτέ, αυτό γίνεται μέρος της ιστορίας κάποιου».

Ένα όφελος για ορισμένους θεραπευτές

Ορισμένοι κλινικοί γιατροί καλωσορίζουν την τεχνολογία.

Η Kym Tolson, η οποία ονομάζει τον εαυτό της στο διαδίκτυο ως «The Traveling Therapist», ασκεί το επάγγελμα εδώ και 30 χρόνια και τώρα διευθύνει μια πλήρως απομακρυσμένη επιχείρηση, βλέποντας πελάτες στη Βιρτζίνια ενώ ταξιδεύει με πλήρες ωράριο. Χρησιμοποιεί ένα σύστημα καταγραφής και τεκμηρίωσης AI για να διαχειριστεί αυτό που περιγράφει ως βαρύ διοικητικό φορτίο.

«Οι περισσότεροι κλινικοί γιατροί ξοδεύουν περίπου 10 ώρες την εβδομάδα σε διοικητικά καθήκοντα, και πέντε έως επτά από αυτές είναι τεκμηρίωση», λέει ο Tolson. “Με το σύστημα AI, ξοδεύω περίπου δύο λεπτά ανά πελάτη, όπου μου έπαιρνε 15 με 20.”

Για τους θεραπευτές που μεταφέρουν 20 έως 30 πελάτες, λέει, αυτή η διαφορά είναι σημαντική.

«Μου έδωσε πίσω τη ζωή μου», λέει ο Tolson. “Δεν έχω σημειώσεις να με ακολουθούν και να με στοιχειώνουν. Αφού δω τον πελάτη μου, εξετάζω το σημείωμα, το υπογράφω και τελείωσα.”

Η Tolson λέει ότι η ευελιξία της επέτρεψε να διατηρήσει μια πιο υγιή ισορροπία μεταξύ επαγγελματικής και προσωπικής ζωής και να αφιερώνει περισσότερο χρόνο εστιασμένη στους πελάτες και όχι στη γραφειοκρατία. Λέει ότι πολλοί πελάτες ανταποκρίνονται θετικά στον τρόπο ζωής της μέσω κινητού τηλεφώνου, ρωτώντας συχνά από πού εργάζεται κατά τη διάρκεια των συνεδριών.

Έρευνα σε άλλα μέρη της υγειονομικής περίθαλψης δείχνει ότι η εξοικονόμηση χρόνου μπορεί να είναι σημαντική. Σε μια μεγάλη ανάλυση των γραφέων τεχνητής νοημοσύνης στο The Permanente Medical Group, οι κλινικοί γιατροί εξοικονόμησαν το ισοδύναμο σχεδόν 16.000 ωρών χρόνου τεκμηρίωσης σε ένα χρόνο – περίπου 1.800 εργάσιμες ημέρες – και ανέφεραν βελτιωμένη ικανοποίηση και αλληλεπιδράσεις με τους ασθενείς. Η μελέτη επικεντρώθηκε σε ιατρούς και όχι σε θεραπευτές, αλλά υπογραμμίζει τον διοικητικό φόρτο που στοχεύουν να αντιμετωπίσουν αυτά τα εργαλεία.

Η Tolson λέει ότι συζητά τη διαδικασία ηχογράφησης λεπτομερώς με τους πελάτες εκ των προτέρων και ξεκαθαρίζει ότι η συμμετοχή είναι προαιρετική. Εξετάζει επίσης κάθε σημείωμα που δημιουργείται από AI προτού γίνει μέρος του ιατρικού φακέλου.

«Υπάρχουν στιγμές που θα έχει παραισθήσεις», λέει. “Ο κλινικός ιατρός πρέπει να είναι πολύ προσεκτικός. Πρέπει να κάνετε διπλό και τριπλό έλεγχο.”

Αν και αναγνωρίζει ότι κανένα ψηφιακό σύστημα δεν είναι εντελώς ακίνδυνο, η Tolson λέει ότι αισθάνεται εξίσου άνετα χρησιμοποιώντας το εργαλείο όπως και χρησιμοποιώντας ηλεκτρονικά αρχεία υγείας.

Ξεκινώντας από την αρχή με διαφορετικό κλινικό

Για τη Molly Quinn, η συζήτηση σχετικά με τη λήψη σημειώσεων με τεχνητή νοημοσύνη θα ξεκινά πάντα από εκείνη τη συνεδρία του Νοεμβρίου, εκείνη όπου συνειδητοποίησε ότι ηχογραφούνταν χωρίς τη συγκατάθεσή της.

Στη συνέχεια, ακύρωσε το επόμενο ραντεβού της.

Ο θεραπευτής της είπε ότι θα μπορούσαν να σταματήσουν να χρησιμοποιούν το εργαλείο. Αλλά μέχρι τότε, λέει ο Κουίν, κάτι ένιωθε ότι έσπασε στη σχέση.

«Η εμπιστοσύνη είχε χαθεί», λέει.

Τις εβδομάδες που ακολούθησαν, άρχισε να ψάχνει για κάποιον νέο. Μέχρι τον Ιανουάριο, είχε βρει άλλον θεραπευτή και από την αρχή ξεκαθάρισε ότι δεν ήθελε να χρησιμοποιείται τεχνητή νοημοσύνη στις συνεδρίες της.

Η εμπειρία δεν την απομάκρυνε από την ίδια τη θεραπεία, αλλά παραμένει σταθερή ως προς τα όριά της.

«Αυτό είναι κάτι που είναι μια ιδιωτική συνομιλία», λέει ο Κουίν. «Οι εταιρείες τεχνολογίας δεν πρέπει να είναι στην αίθουσα».