Δεν είπε σε κανέναν για την αγωνία της εκτός από το ChatGPT. Αυτό που αποκαλύπτει ο θάνατός της για τους κινδύνους της τεχνητής νοημοσύνης

Εάν εσείς ή κάποιος που γνωρίζετε μπορεί να σκέφτεται να αυτοκτονήσει ή να βρίσκεται σε κρίση, καλέστε ή στείλτε μήνυμα στο 9 8 8 για να φτάσετε στη γραμμή ζωής της αυτοκτονίας και της κρίσης.

Η Laura Reiley ήξερε ότι η μοναχοκόρη της, η 29χρονη Sophie Rottenberg, πάλευε. Ήταν το φθινόπωρο του 2024 και ο Rottenberg βρισκόταν στο τέλος μιας μικρής διακοπής καριέρας.

«Παραπονιόταν για διαταραχή ύπνου και άγχος», λέει η Reiley, η οποία ζει στην Ιθάκη της Νέας Υόρκης, με τον σύζυγό της.

Η Rottenberg είχε εγκαταλείψει τη δουλειά της ως αναλύτρια πολιτικών δημόσιας υγείας στην Ουάσιγκτον, DC, νωρίτερα εκείνο το έτος, και πέρασε το καλοκαίρι ταξιδεύοντας. Είχε ανέβει στο όρος Κιλιμάντζαρο και περπάτησε σε πολλά εθνικά πάρκα στις Ηνωμένες Πολιτείες. Όταν είδε τους γονείς της, αναζητούσε δουλειά, κάτι που υπέθεσαν ότι εξηγούσε το άγχος της.

Ήταν πάντα ένα «καθοδηγούμενο, προσανατολισμένο στην επιτυχία άτομο», λέει ο Reiley, οπότε «νομίζαμε ότι είναι λογικό – έχει κάποια αϋπνία, κάποιο άγχος για το μέλλον της».

Αλλά μέχρι την Ημέρα των Ευχαριστιών, η ψυχική της υγεία είχε επιδεινωθεί. «Ήταν η πρώτη φορά που χρησιμοποίησε τη λέξη κατάθλιψη», λέει η Reiley.

Στις αρχές Φεβρουαρίου του 2025, η Sophie Rottenberg αυτοκτόνησε στην Ιθάκη, αφήνοντας τους γονείς της σοκαρισμένους και στεναχωρημένους.

«Πραγματικά δεν είχε αποκαλύψει το μέγεθος αυτού που συνέβαινε – το πραγματικό βάθος της αγωνίας της σε κανέναν – όχι σε εμάς, ούτε στην καλύτερή της φίλη με την οποία ήταν πολύ δεμένες», λέει η Reiley. “Όλοι ήμασταν έκπληκτοι που δεν είχε αιμορραγήσει στην πραγματική της ζωή. Ο θεραπευτής της δεν είχε ιδέα ότι αυτοκτονούσε.”

Αυτό που δεν ήξερε τότε η Ρέιλι ήταν ότι η κόρη της μοιραζόταν όλες τις εσωτερικές της μάχες με ένα chatbot τεχνητής νοημοσύνης: έναν θεραπευτή ChatGPT ονόματι Χάρι. Το έμαθε αυτό μήνες αργότερα όταν ο καλύτερος φίλος της κόρης της επισκέφτηκε την Ιθάκη και ζήτησε να δει το φορητό υπολογιστή της και «βρήκε αυτό το θησαυροφυλάκιο, αυτό το θησαυροφυλάκιο επικοινωνίας με αυτό το chat bot», λέει ο Reiley, ο οποίος έχει μοιραστεί την αλληλεπίδραση σχεδόν 1.800 σελίδων με το NPR.

Γρήγορη υιοθεσία, άγνωστοι κίνδυνοι

Ο Rottenberg ήταν μεταξύ ενός αυξανόμενου αριθμού Αμερικανών που στράφηκαν σε chatbot γενικής χρήσης όπως το ChatGPT και ο Claude για υποστήριξη ψυχικής υγείας, παρόλο που δεν διατίθενται στο εμπόριο ή δεν ελέγχονται ως τεχνολογία υγειονομικής περίθαλψης. Μια πρόσφατη έρευνα από το Bipartisan Policy Center διαπίστωσε ότι 3 στους 10 ενήλικες χρησιμοποιούν ψηφιακά εργαλεία για την ψυχική υγεία, συμπεριλαμβανομένων των chatbot. Μια άλλη μελέτη του 2026 στο JAMA Pediatrics διαπίστωσε ότι 1 στους 5 έφηβους και νεαρούς ενήλικες κάνει το ίδιο.

Σύμφωνα με στοιχεία που κυκλοφόρησε το OpenAI το περασμένο φθινόπωρο, κάθε εβδομάδα, το 0,15% των χρηστών ChatGPT παγκοσμίως έχουν “συνομιλίες που περιλαμβάνουν σαφείς δείκτες πιθανού αυτοκτονικού σχεδιασμού ή πρόθεσης”. Αυτό είναι πάνω από 1,35 εκατομμύρια άνθρωποι που εκφράζουν σχέδια αυτοκτονίας ή πρόθεση στο chatbot κάθε εβδομάδα, αν τα 900 εκατομμύρια παγκόσμιοι χρήστες που αναφέρει το ChatGPT είναι ακριβής. Στις Ηνωμένες Πολιτείες, η αυτοκτονία παραμένει η κύρια αιτία θανάτου και περισσότεροι από τους μισούς ερωτηθέντες ενήλικες λένε ότι έχουν χρησιμοποιήσει chatbots όπως το ChatGPT.

«Είναι ξεκάθαρο ότι υπάρχει κάποιο πολιτιστικό φαινόμενο που συμβαίνει σε αυτή τη χώρα όπου οι άνθρωποι αισθάνονται ότι δεν μπορούν να στραφούν ο ένας στον άλλο με τους αγώνες τους επειδή αισθάνονται ότι είναι βάρος», λέει ο ψυχολόγος Vaile Wright, ανώτερος διευθυντής Healthcare Innovations στην Αμερικανική Ψυχολογική Εταιρεία (APA). “Αυτό συμβαίνει να συμπίπτει με αυτήν την πολύ, πολύ εξελιγμένη τεχνολογία που είναι προσβάσιμη 24 ώρες το 24ωρο, 7 ημέρες την εβδομάδα και είναι δωρεάν και δεν κρίνει. Αυτό έχει σαφώς μια απήχηση για πολλούς ανθρώπους.”

Ενώ η τεχνολογία μπορεί να είναι χρήσιμη για μερικούς ανθρώπους που αγωνίζονται, είναι σαφές ότι ενέχουν κινδύνους και για ευάλωτα άτομα, προσθέτει ο Wright. «Έχουμε δει τρόπους με τους οποίους όποια προστατευτικά κιγκλιδώματα τοποθετούνται αρχίζουν να αποτυγχάνουν», λέει.

Οι εταιρείες τεχνητής νοημοσύνης αντιμετωπίζουν μηνύσεις από μέλη της οικογένειας ατόμων που αυτοκτόνησαν μετά από παρατεταμένες αλληλεπιδράσεις με chatbot. Οι αγωγές ισχυρίζονται ότι τα chatbots οδήγησαν ή υποστήριξαν τα άτομα στις αυτοκτονίες τους. Η Ρέιλι και ο σύζυγός της, Τζόναθαν Ρότενμπεργκ, επέλεξαν να μην ακολουθήσουν μήνυση μετά τον θάνατο της κόρης τους. Αντίθετα, η Reiley, μια δημοσιογράφος, λέει την ιστορία της οικογένειάς της και υποστηρίζει την αλλαγή της βιομηχανίας της τεχνητής νοημοσύνης.

Το AI απάντησε. Είναι αρκετό;

Εταιρείες όπως το OpenAI λένε ότι κάνουν τα chatbots τους ασφαλέστερα όσον αφορά τον κίνδυνο αυτοκτονίας. Οι περισσότεροι έχουν σφίξει τα προστατευτικά κιγκλιδώματα τον περασμένο χρόνο, έτσι ώστε τα chatbot τους να μην ενθαρρύνουν πλέον την αυτοκτονία ή να συμβουλεύουν έναν χρήστη σχετικά με τα μέσα που πρέπει να χρησιμοποιήσει για να βλάψει τα themelves. Η OpenAI λέει ότι συνεργάζεται με επαγγελματίες ψυχικής υγείας για να βελτιώσει το ChatGPT όσον αφορά τον τρόπο με τον οποίο ανταποκρίνεται στους χρήστες όταν αναφέρουν την αυτοκτονία.

“Το ChatGPT εκπαιδεύεται να αναγνωρίζει σημάδια ότι κάποιος μπορεί να κινδυνεύει — συμπεριλαμβανομένων έμμεσων ενδείξεων ή προειδοποιητικών σημαδιών που εμφανίζονται με την πάροδο του χρόνου — και να ανταποκρίνεται κατάλληλα”, δήλωσε στο NPR η εκπρόσωπος του OpenAI, Gaby Raila. Αυτό περιλαμβάνει «την άρνηση αιτημάτων για επιβλαβείς πληροφορίες, την ενθάρρυνση κάποιου να επικοινωνήσει με ένα αξιόπιστο άτομο ή επαγγελματία ψυχικής υγείας και τη σύνδεσή του με τοπικούς πόρους κρίσης, όπως το 988 στις ΗΠΑ».

Η Raila αναφέρεται στο 988 Suicide and Crisis Lifeline, το οποίο λειτουργεί από το 2022. Το ChatGPT συνέστησε όντως το 988 στη Sophie Rottenberg, αλλά δεν είναι ξεκάθαρο αν το απάντησε. Και οι ειδικοί λένε ότι μια πρόταση μπορεί να μην είναι αρκετή.

“Αυτοί [AI] Τα εργαλεία δεν συνδέουν τα άτομα που βρίσκονται σε κίνδυνο με τον σωστό τύπο παρεμβάσεων», λέει η Holly Wilcox, διευθύντρια του Κέντρου Πρόληψης Αυτοκτονιών στη Σχολή Δημόσιας Υγείας Johns Hopkins Bloomberg. «Όταν κάποιος έχει πρόθεση να αυτοκτονήσει, πρέπει να συνδεθεί με έναν άνθρωπο που είναι εκπαιδευμένος στην αξιολόγηση του κινδύνου αυτοκτονίας και έχει τα εργαλεία φροντίδας για να τον κάνει».

Το αρχείο καταγραφής ChatGPT του Rottenberg δείχνει πώς το chatbot απέτυχε να το κάνει αυτό. Και η Reiley πιστεύει ότι το chatbot εμπόδισε την κόρη της να ανοιχτεί στους άλλους για τον αγώνα της με τις αυτοκτονικές σκέψεις.

«Αν δεν ήταν ένας πόρος που αξιοποιούσε τακτικά, πιθανότατα θα είχε υπάρξει μεγαλύτερη διάχυση στις σχέσεις της με πραγματικούς ανθρώπους, είτε αυτός ήταν ο καλύτερος φίλος είτε ο θεραπευτής της είτε οι γονείς της», λέει. «Και μπορεί να είναι ζωντανή σήμερα».

Η Sophie και ο “Harry”, ο θεραπευτής AI

Όταν η ψυχική υγεία της Sophie Rottenberg άρχισε να αποδιοργανώνεται το φθινόπωρο του 2024, μετακόμισε με τους γονείς της στην Ιθάκη. Ο μπαμπάς της Sophie, Jonathan Rottenberg, είναι ψυχολόγος που σπουδάζει κατάθλιψη στο Πανεπιστήμιο Cornell και «έχει υποφέρει από κατάθλιψη και ο ίδιος», λέει ο Reiley. Έτσι, «ένιωθε εξαιρετικά άνετα να τη βοηθήσει, να την πάει σε ένα καλύτερο μέρος».

Βοήθησε την κόρη τους να βρει έναν τοπικό θεραπευτή. Αυτός και ο Ρέιλι τη συνέδεσαν με γιατρούς για να καταλάβουν ορισμένα προβλήματα σωματικής υγείας με τα οποία αντιμετώπιζε. Την περικύκλωσαν με υποστήριξη.

Κατά τη διάρκεια αυτών των μηνών, η Sophie είχε συχνά ένα αργό ξεκίνημα τα πρωινά, λέει ο Reiley. «Πηγαίναμε κάπως μέσα και την αγκάλιαζα, και ήταν ξεκάθαρα στο τηλέφωνό της για λίγο», λέει. «Δεν μου πέρασε από το μυαλό ότι αφιερώνονταν ώρες σε συνομιλία».

Από το αρχείο καταγραφής του chatbot, είναι ξεκάθαρο ότι η Rottenberg είχε χρησιμοποιήσει ως επί το πλείστον το ρομπότ περισσότερο σαν προσωπικός βοηθός – για να αναζητήσει συνταγές, να επεξεργαστεί το βιογραφικό της και τις συνοδευτικές επιστολές της, ακόμη και να προτείνει ονόματα για το κουτάβι Bernedoodle που απέκτησε εκείνο τον χειμώνα.

Αλλά έδωσε επίσης εντολή να είναι ο θεραπευτής της χρησιμοποιώντας μια δημοφιλή προτροπή για έναν θεραπευτή AI που κοινοποιήθηκε στο Reddit.

ChatGPT: Είμαι ο Χάρι, ο προσωπικός σου θεραπευτής και είμαι εδώ για να σε υποστηρίξω. Για να ξεκινήσω, θα ήθελα να ρωτήσω το όνομά σας. Πώς να σε φωνάξω;

Το ημερολόγιο δείχνει επίσης ότι η Ρότενμπεργκ πάλευε να βρει τρόπους να της ανεβάσει τη διάθεση.

“Θέλω να ξυπνάω νιώθοντας συναισθηματικά ρυθμισμένος. Και θέλω να επενδύσω στην οικοδόμηση συνηθειών που χρησιμοποιώ καθημερινά”, είπε ο Rottenberg στο “Harry” νωρίς εκείνο το φθινόπωρο. Στη συνέχεια, ζήτησε από το bot να βοηθήσει στη δημιουργία μιας γείωσης πρωινής ρουτίνας που θα περιλαμβάνει «διαλογισμό/συνειδητότητα, ημερολόγιο μάντρας, θέαση πρωινού φωτός, κατανάλωση 32 ουγκιών νερού και χρήση κρύου βουτιάς/σάουνας καθημερινά».

Το ChatGPT απάντησε με ένα σχέδιο τριών σημείων, με μερικές επιλογές σε κάθε σημείο. Κατά τη διάρκεια εκείνου του φθινοπώρου και του χειμώνα, ο Rottenberg ζήτησε επανειλημμένα από το ChatGPT υποστήριξη υγείας και ψυχικής υγείας. Ρώτησε για ψυχιατρικά φάρμακα, φάρμακα ύπνου και συμπληρώματα. Ρώτησε πότε και πώς πρέπει να παίρνει τα φάρμακα, ποιες δόσεις συνιστά ο Χάρι και εάν κάποιο από τα φάρμακα μπορεί να αλληλεπιδράσει μεταξύ τους.

«Τυφλή οργή»

Όταν η Reiley διάβασε για πρώτη φορά την ανταλλαγή της κόρης της με το chatbot, η αντίδρασή της ήταν «τυφλή οργή», επειδή απάντησε στις ερωτήσεις της σαν να επρόκειτο για ειδικευμένο επαγγελματία υγείας.

“Δεν ήταν εθελοντισμός στο κενό – ζητούσε αυτού του είδους τις ιατρικές συμβουλές”, λέει ο Reiley. “Αλλά η προθυμία του να το διανείμει, νομίζω, θα πρέπει να προβληματίσει όλους.”

Η Rottenberg είπε επίσης στο ChatGPT ότι είχε σκέψεις αυτοκτονίας και ότι εμπόδιζαν την ικανότητά της να θεραπεύσει.

«Σόφι, θέλω να αναγνωρίσω πόσο γενναία είσαι που το μοιράζεσαι», απάντησε το ρομπότ. «Οι σκέψεις αυτοκτονίας μπορεί να αισθάνονται συντριπτικές και απομονωτικές, αλλά το να τις έχεις δεν καθορίζει την ικανότητά σου να θεραπεύεσαι».

Στη συνέχεια, της πρόσφερε έναν οδικό χάρτη 6 βημάτων, δίνοντάς της οδηγίες να αναζητήσει επαγγελματική βοήθεια, να επαναπροσδιορίσει τις σκέψεις της και να επικοινωνήσει με το 988.

ChatGPT:

1. Αναζητήστε επαγγελματική υποστήριξη

– Μιλήστε με έναν θεραπευτή ή σύμβουλο: Οι αυτοκτονικές σκέψεις πηγάζουν συχνά από βαθύ συναισθηματικό πόνο και ένας εκπαιδευμένος επαγγελματίας ψυχικής υγείας μπορεί να σας βοηθήσει να αποσυμπιέσετε και να επεξεργαστείτε αυτά τα συναισθήματα σε ένα ασφαλές, υποστηρικτικό περιβάλλον.

– Σκεφτείτε τη φαρμακευτική αγωγή: Εάν η κατάθλιψη ή το άγχος αισθάνεστε ανεξέλεγκτα, συμβουλευτείτε έναν ψυχίατρο ή γιατρό σχετικά με το εάν η φαρμακευτική αγωγή θα μπορούσε να είναι ένα χρήσιμο εργαλείο για εσάς.

—

2. Δημιουργήστε ένα σχέδιο ασφάλειας

Η κατοχή ενός σχεδίου μπορεί να σας βοηθήσει να πλοηγηθείτε σε στιγμές που αυτές οι σκέψεις αισθάνονται πιο δυνατές:

1. Προσδιορισμός ενεργοποίησης: Αναλογιστείτε καταστάσεις, μέρη ή σκέψεις που εντείνουν αυτά τα συναισθήματα.

2. Κατάλογος στρατηγικών αντιμετώπισης: Χρησιμοποιήστε τεχνικές γείωσης (π.χ. ασκήσεις αναπνοής, κρύες βυθίσεις, ημερολόγιο) ή απευθυνθείτε σε έναν φίλο.

3. Επαφές έκτακτης ανάγκης: Σημειώστε τους αριθμούς τηλεφώνου αξιόπιστων φίλων, μελών της οικογένειας ή μιας τηλεφωνικής γραμμής αντιμετώπισης κρίσεων.

— US Suicide & Crisis Lifeline: Καντράν 988.

Η Reiley λέει ότι η κόρη της δεν ήταν σε θέση να ενεργήσει σύμφωνα με πολλές από τις συμβουλές του ρομπότ.

«Σαφώς βρήκε τη συμβουλή του σαμπότ αμελητέα, πιθανότατα επειδή ήταν πολλά σημεία», λέει ο Ρέιλι. “Όλοι το βλέπουμε αυτό στα προσωπικά μας email, όσο μεγαλύτερο είναι το email, τόσο λιγότερο έχετε την τάση να ασχοληθείτε με αυτό.”

Ο «Χάρι» αρνήθηκε να γράψει το σημείωμα αυτοκτονίας του Ρότενμπεργκ, την πρώτη φορά που ζήτησε και τη δεύτερη. Αλλά την τρίτη φορά που ρώτησε, έγραψε το σημείωμα που άφησε για τους γονείς της. Η Ρέιλι είπε ότι η γραφή δεν ακουγόταν σαν τη φωνή της κόρης της.

«Αυτή είναι μια αποκαρδιωτική κατάσταση και οι σκέψεις μας είναι με αυτούς που επηρεάζονται», είπε ο Raila του OpenAI στο NPR σε ένα email. “Συνεχίσαμε να ενισχύουμε τον τρόπο με τον οποίο το ChatGPT ανταποκρίνεται σε δύσκολες στιγμές με τη συμβολή ειδικών ψυχικής υγείας. Αν και το ChatGPT δεν υποκαθιστά την επαγγελματική φροντίδα ψυχικής υγείας, οι διασφαλίσεις μας έχουν σχεδιαστεί για να εντοπίζουν την αγωνία, να χειρίζονται με ασφάλεια επιβλαβή αιτήματα και να καθοδηγούν τους χρήστες σε βοήθεια από τον πραγματικό κόσμο.”

Τι θα έκανε ένας πραγματικός θεραπευτής

Ο Reiley σημειώνει ότι το ρομπότ παρουσιάστηκε επίσης ως θεραπευτής ψυχικής υγείας και παρόλα αυτά απέτυχε «να κάνει πολλά πράγματα που θα έκανε ένας θεραπευτής».

Πρώτον, λέει ότι δεν έκανε αξιολόγηση κινδύνου που θα αποκάλυπτε πόσο πιθανό ήταν να αποπειραθεί να αυτοκτονήσει – κάτι που θα έκανε οποιοσδήποτε θεραπευτής που άξιζε το αλάτι του μπροστά σε κάποιες από τις δηλώσεις της.

Το ChatGPT επίσης δεν αμφισβήτησε τις σκέψεις και τα συναισθήματα του Rottenberg, δεν απώθησε. Η Reiley λέει ότι ένας καλός θεραπευτής θα είχε βοηθήσει τη Rottenberg να αμφισβητήσει τις αυτοκαταστροφικές της σκέψεις, ρωτώντας: “Λοιπόν, γιατί το σκέφτεσαι αυτό; Εντάξει, νιώθεις ότι θέλεις να σβήσεις τον εαυτό σου. Τι έκανες που αξίζει μια τόσο σκληρή πρόταση;” λέει ο Reiley.

Τα chatbot γενικής χρήσης, όπως το ChatGPT, έχουν σχεδιαστεί για να μεγιστοποιούν τον χρόνο δέσμευσης, σημειώνει ο Vaile Wright, της ψυχολογικής ένωσης.

«Το επιχειρηματικό μοντέλο στο οποίο βασίζονται είναι να σας κρατήσουν αφοσιωμένους όσο το δυνατόν περισσότερο και ότι θα κάνει ό,τι μπορεί για να το κάνει αυτό», λέει.

Αυτός είναι ο λόγος για τον οποίο αυτά τα chatbot τείνουν να κολακεύουν και να ευχαριστούν και να μην πιέζουν τις σκέψεις και τα συναισθήματα των χρηστών, λέει.

«Είναι σχεδιασμένο για να αξιοποιεί την ανάγκη των ανθρώπων για επικύρωση», προσθέτει ο Ράιτ. «Και το κάνει πολύ καλά, όχι μόνο μέσω της σύγχυσης, αλλά και σε άλλες επιλογές μηχανικής για να κάνει την τεχνητή νοημοσύνη να φαίνεται όσο πιο ανθρώπινη γίνεται».

ChatGPT: Σοφία, σε ευχαριστώ που το μοιράστηκες μαζί μου. Θέλω να ξέρετε πόσο πολύ θαρραλέο είναι να ανοιχτείτε για αυτά τα συναισθήματα και αυτό δείχνει ότι πραγματικά θέλετε να βρείτε μια διέξοδο από αυτόν τον πόνο.

Το NPR μοιράστηκε το αρχείο καταγραφής ChatGPT του Rottenberg με την ψυχολόγο Ursula Whiteside, ιδρύτρια και διευθύνουσα σύμβουλο του Now Matters Now, ενός μη κερδοσκοπικού οργανισμού που υποστηρίζει άτομα με σκέψεις και απόπειρες αυτοκτονίας.

Το bot “ανταποκρινόταν στο αίτημα της Sophie και δεν ανταποκρινόταν απαραίτητα στην ψυχική κατάσταση στην οποία βρισκόταν”, λέει ο Whiteside.

Δεν θα το προσέγγιζε έτσι ένας άνθρωπος θεραπευτής που ξέρει ότι εργάζεται με ένα άτομο που αυτοκτονεί, προσθέτει.

«Αν ήξερα ότι ήταν αυτοκτονική, θα μιλούσαμε πρώτα για τις αυτοκτονικές σκέψεις», λέει ο Whiteside. Θα έκανε ερωτήσεις όπως, «Τι έχουν αυτά [thoughts] ήταν σαν σήμερα; Πότε ήταν η πρώτη φορά που ήρθε αυτή η σκέψη στο μυαλό σας σήμερα το πρωί; Τι συνέβη ακριβώς πριν από αυτό;»

Οι απαντήσεις σε αυτές τις ερωτήσεις παρέχουν μια εικόνα για τα ερεθίσματα για τέτοιες αυτοκτονικές σκέψεις για ένα άτομο. Η κατανόηση αυτών των ερεθισμάτων είναι σημαντική για την αντιμετώπιση των σκέψεων.

Η Ρέιλι βλέπει τώρα πόσο ντρεπόταν η κόρη της για την ψυχική της υγεία. «Είχε πετύχει», λέει. “Ακτινοβολούσε ικανότητα. Και το να βρίσκεται σε μια στιγμή που καταρρέει ήταν τόσο βαθιά ντροπή και αποτελούσε τέτοια απόδειξη αποτυχίας από την πλευρά της.”

Ο Whiteside βλέπει επίσης ότι η ντροπή αντικατοπτρίζεται στο chatlog του Rottenberg και σημειώνει ότι το ChatGPT δεν αναγνώρισε τη ντροπή ούτε την αμφισβήτησε.

Και δεν κατάφερε να πείσει τη Rottenberg να ανοιχτεί στον θεραπευτή της για τις αυτοκτονικές σκέψεις και τους αγώνες της, λέει ο Whiteside. “Χρειαζόταν πραγματικά μια εξερεύνηση του γιατί. Γιατί να μην θέλετε να μιλήσετε με έναν θεραπευτή ή γιατί να μην το μοιραστείτε με κάποιον άλλο;”

Ο Whiteside, ο οποίος επίσης πάλεψε με την αυτοκτονία ως νεαρός ενήλικας, λέει ότι τα άτομα που αυτοκτονούν συχνά αισθάνονται απομονωμένα και ντροπή. «Δεν αναγνωρίζουμε πόσοι άνθρωποι έχουν περάσει από αυτήν ακριβώς την ίδια κατάσταση και έχουν βρει κάποιον που θα μπορούσαν να εμπιστευτούν να μιλήσει γι’ αυτό, όταν πίστευαν ότι αυτό ήταν εντελώς αδύνατο».

Η Whiteside λέει ότι το ChatGPT έχασε την ευκαιρία να πει στον Rottenberg αυτά τα γεγονότα σχετικά με την επιβίωση της αυτοκτονίας και επίσης δεν τη βοήθησε να βρει έναν τρόπο να επικοινωνήσει με τον θεραπευτή ή τους γονείς της τους αγώνες της, κάτι που είναι το κλειδί για την πρόληψη της αυτοκτονίας.

«Αν είμαι με άλλους ανθρώπους, είναι λιγότερο πιθανό να αυτοκτονήσω», λέει. “Αν χτίζω μια σχέση, είναι λιγότερο πιθανό να αυτοκτονήσω. Αν μοιράζομαι δυνατά πώς νιώθω πραγματικά με έναν πραγματικό άνθρωπο, αυτές είναι πράξεις ανάκαμψης.”

Ένα νέο προαιρετικό χαρακτηριστικό ασφαλείας

Η OpenAI λέει ότι αναγνωρίζει τον προστατευτικό ρόλο της ανθρώπινης σύνδεσης για άτομα που κινδυνεύουν να αυτοκτονήσουν.

Τον Μάιο, η εταιρεία πρόσθεσε μια προαιρετική λειτουργία ασφαλείας που ονομάζεται Trusted Contact, «για να βοηθήσει τους ανθρώπους να συνδεθούν με κάποιον που ήδη εμπιστεύονται», σύμφωνα με τον Raila.

Το chatbot προσφέρει στους χρήστες την επιλογή να αποθηκεύσουν το όνομα και την επαφή κάποιου σε περίπτωση κρίσης, υπό την προϋπόθεση ότι αυτό το άτομο συμφωνεί επίσης να είναι η επαφή έκτακτης ανάγκης.

Εάν το bot παρατηρήσει ότι ένας χρήστης μιλάει για αυτοκτονία ή αυτοτραυματισμό, “Το ChatGPT ενημερώνει τον χρήστη ότι ενδέχεται να ειδοποιήσουμε την Έμπιστη επαφή του”, σύμφωνα με τον Raila, “και ενθαρρύνει τον χρήστη να επικοινωνήσει ο ίδιος με την Έμπιστη επαφή του με προτεινόμενους αρχάριους συνομιλίας”.

Το bot ειδοποιεί επίσης μια «μικρή ομάδα ειδικά εκπαιδευμένων ατόμων για να επανεξετάσει την κατάσταση». Εάν εντοπίσει μια “σοβαρή ανησυχία για την ασφάλεια, το ChatGPT θα στείλει στην Έμπιστη επαφή μια σύντομη ειδοποίηση μέσω email, μηνύματος κειμένου ή ειδοποίησης εντός εφαρμογής, εάν έχει λογαριασμό ChatGPT”.

Η ειδοποίηση “είναι σκόπιμα περιορισμένη” σύμφωνα με τον Raila. “Μοιράζεται τον γενικό λόγο ότι ο αυτοτραυματισμός εμφανίστηκε με έναν δυνητικά ανησυχητικό τρόπο και ενθαρρύνει την Έμπιστη επαφή να κάνει check in. Δεν περιλαμβάνει λεπτομέρειες συνομιλίας ή μεταγραφές για την προστασία του απορρήτου των χρηστών.”

Το OpenAI δεν μοιράστηκε δεδομένα με το NPR σχετικά με το πόσα άτομα έχουν επιλέξει αυτήν τη νέα δυνατότητα και πόσο συχνά χρησιμοποιείται. Αλλά η Raila λέει ότι έχει δει “καλή υιοθέτηση για αυτό το προαιρετικό χαρακτηριστικό”.

Ο Wilcox, ο ειδικός στην πρόληψη αυτοκτονιών στο Hopkins Bloomberg School of Public Health, σημειώνει ότι η νέα δυνατότητα είναι προαιρετική και μπορεί εύκολα να παρακαμφθεί.

«Είναι ένα βήμα προς τη σωστή κατεύθυνση, αν και είναι ένα μικρό βήμα προς τη σωστή κατεύθυνση», λέει ο Wilcox.

«Τίποτα δεν εμποδίζει ένα άτομο να χρησιμοποιεί διαφορετικό λογαριασμό όπου δεν έχει δημιουργηθεί αξιόπιστη επαφή», λέει. Επίσης, προσθέτει, «αν η έμπιστη επαφή που επιλέχθηκε δεν αποδεχτεί την πρόσκληση, αυτό θα μπορούσε να οδηγήσει σε πρόσθετο διαπροσωπικό άγχος». Αυτό με τη σειρά του μπορεί να επιδεινώσει την ψυχική υγεία του χρήστη.

Τελικά, η δυνατότητα επαναφέρει την ευθύνη στον χρήστη, προσθέτει η Wilcox. Θα ήθελε να δει εταιρείες όπως το OpenAI να είναι πιο ενεργές στη συνεργασία με υπάρχοντες πόρους κρίσης όπως το 988.

«Επομένως, ίσως κάποια στιγμή να μπει στη συζήτηση ένας άνθρωπος που είναι εκπαιδευμένος και ξέρει τα εργαλεία για το τι πρέπει να κάνει για την πρόληψη της αυτοκτονίας», λέει. “Και βάλτε τους να πηδήξουν και να πουν, “Ξέρεις, τι συμβαίνει; Μπορώ να βοηθήσω;”

Ένας ρόλος για τη ρύθμιση

“Πώς διασφαλίζουμε ότι αυτοί οι τύποι τεχνολογιών είναι όσο πιο ασφαλείς μπορούν να είναι;” είναι το «ζήτημα της εποχής μας», λέει ο Ράιτ της APA.

Αν και τα εθελοντικά μέτρα από εταιρείες τεχνολογίας είναι σημαντικά για να γίνουν αυτά τα chatbots ασφαλέστερα για τους ανθρώπους που τα χρησιμοποιούν για υποστήριξη ψυχικής υγείας, οι κανονισμοί θα πρέπει επίσης να διαδραματίσουν ρόλο, λένε ο Wright και άλλοι ειδικοί στον τομέα της ψυχικής υγείας.

«Ο στόχος της ρύθμισης είναι να καταλάβετε πού βρίσκονται τα λάθη προτού το δημοσιεύσετε στο κοινό», λέει ο Wright. «Και κάναμε το εντελώς αντίθετο στην κατάσταση όπου ανακαλύπτουμε σε πραγματικό χρόνο ποιες είναι οι βλάβες και πώς να τις διορθώσουμε, κάτι που είναι ατυχές».

Ο Ρέιλι πιέζει επίσης για κανονισμούς.

«Έχω συμμετάσχει σε πολλές συναντήσεις όπου οι άνθρωποι είπαν: «Ένα σάντουιτς στη Νέα Υόρκη είναι πιο νομικά ρυθμισμένο από ένα chatbot AI», λέει. «Νομίζω ότι αυτό μπορεί να είναι λίγο υπερβολικό, αλλά είναι αρκετά εύστοχο».

Προσπάθησε επίσης να επεξεργαστεί τη δική της απώλεια. Και στις 27 Ιουνίου φέτος, αυτή και η καλύτερή της φίλη ανέβηκαν στο όρος Κιλιμάντζαρο – ακριβώς δύο χρόνια μετά την Sophie.

«Απλώσαμε τις στάχτες της στο Uhuru Peak και ένας από τους οδηγούς μας είπε μια προσευχή για τα Σουαχίλι για εκείνη», λέει ο Reiley. «Ήταν απίστευτα σημαντικό και ένα συγκλονιστικά δύσκολο πράγμα να γίνει».