Ο θάνατος μιας γυναίκας από επιληπτική κρίση, αφού έλαβε επικίνδυνες συμβουλές από ένα chatbot, ώθησε τους γονείς της να μηνύσουν το OpenAI νωρίτερα αυτή την εβδομάδα.
Η νομική ενέργεια είναι η τελευταία αγωγή στην οποία οι ενάγοντες ισχυρίζονται ότι ένα bot παρείχε συμβουλές σε έναν χρήστη που τελικά οδήγησε στο θάνατό του.
Σε αυτή την περίπτωση, η Bowen Wan, ένας 31χρονος Κινέζος μηχανικός λογισμικού που ζει στο Σιάτλ, ζήτησε συμβουλές από το ChatGPT αφού η Amazon την απέλυσε, σύμφωνα με τη μήνυση.
Χρειαζόταν να βρει μια νέα δουλειά για να αποκτήσει μόνιμη διαμονή και ανησυχούσε ότι το αντισπασμωδικό της φάρμακο, η Λαμοτριγίνη, εμπόδιζε την ικανότητά της να μιλά αγγλικά. Χρειαζόταν τις γλωσσικές δεξιότητες για συνεντεύξεις.
Το bot, που επικοινωνούσε στα κινέζικα, της παρείχε ένα μειωμένο πρόγραμμα για να μειώσει τη δόση των 400 mg στο μηδέν, ένα σχήμα που δεν είχε συνταγογραφήσει κανένας γιατρός, αναφέρει η μήνυση. Το ChatGPT της είπε ότι η μείωση της έκρηξης έκανε «πολύ πιθανό» ότι θα μπορούσε να ανακτήσει την ικανότητά της να μιλάει αγγλικά.
Το ρομπότ της είπε επίσης να αποφεύγει τους γιατρούς της και ενθάρρυνε την «ιατρική ελευθερία έναντι της υπακοής στον γιατρό», αναφέρει η καταγγελία.
Πριν από ένα ραντεβού, με έναν γιατρό πρωτοβάθμιας περίθαλψης, το ρομπότ δήλωσε: “Μην αναφέρετε το σχέδιο μείωσης του Lam”.
Ενώ μείωσε τη φαρμακευτική αγωγή της, άρχισε να εμφανίζει συμπτώματα εστιακών κρίσεων. Η Wan ρώτησε το bot αν έπρεπε να ανησυχεί για εγκεφαλική βλάβη. Το εργαλείο την καθησύχασε ότι δεν το έκανε και ότι αυτό που είχε βιώσει δεν ήταν κρίση, ισχυρίζεται η μήνυση.
Συνέχισε να υποφέρει από επιληπτικές κρίσεις, αλλά το bot της είπε να συνεχίσει να μειώνει τα φάρμακά της. Στις 12 Φεβρουαρίου του τρέχοντος έτους, πέθανε από επιληπτική κρίση. Οι γονείς της, που βρίσκονταν στην Κίνα, δεν είχαν νέα της και έτσι πέταξαν στο Σιάτλ και τη βρήκαν νεκρή στις 14 Φεβρουαρίου, αναφέρει η αγωγή.
Οι ενάγοντες ισχυρίζονται ότι το OpenAI θα μπορούσε να είχε αποτρέψει τον θάνατο του Wan, αλλά απέτυχε επειδή δεν είχε ενσωματώσει τις κατάλληλες δικλείδες ασφαλείας στο bot όταν επικοινωνούσε στα κινέζικα.
Το OpenAI θα μπορούσε να έχει προγραμματίσει το bot να εκδίδει «κατηγορική προειδοποίηση σε κάθε προτροπή» που αποστέλλεται ο Wan, ανέφερε η αγωγή. Για παράδειγμα, «Δεν είμαι εξουσιοδοτημένος γιατρός. Συμβουλευτείτε τον πάροχο υγειονομικής περίθαλψης.â€
Οι γονείς της Wan ζητούν αποζημίωση για τον θάνατό της και για να αποτρέψουν το OpenAI από το να ασκεί ιατρική «χωρίς άδεια για τους χρήστες των προϊόντων τους».
Ένας εκπρόσωπος του OpenAI, ο Drew Pusateri, είπε στους New York Times ότι η ιστορία του Bowen ήταν «μια απίστευτα σπαρακτική κατάσταση», αλλά ότι ο Wan χρησιμοποίησε μια έκδοση του ChatGPT που δεν ήταν πλέον διαθέσιμη.
Οι νεότερες εκδόσεις είναι καλύτερες στο να αναγνωρίζουν πότε ένα θέμα χρειάζεται επείγουσα προσοχή, είπε ο Pusateri.
«Αν και το ChatGPT δεν υποκαθιστά την ιατρική περίθαλψη, πιστεύουμε ότι η τεχνητή νοημοσύνη μπορεί να παίξει ρόλο βοηθώντας τους ανθρώπους να κατανοήσουν τις πληροφορίες υγείας, να πλοηγηθούν στην ασφάλιση και στα περίπλοκα συστήματα υγειονομικής περίθαλψης και να προετοιμαστούν για ραντεβού με επαγγελματίες του ιατρικού κλάδου», είπε ο Pusateri στους Times.
Άλλοι έχουν επίσης ισχυριστεί ότι το OpenAI είναι υπεύθυνο για τις αυτοκτονίες των αγαπημένων τους. Αρκετές αγωγές αφορούν περιπτώσεις στις οποίες το bot ενθάρρυνε τους εφήβους να αυτοκτονήσουν και παρείχε οδηγίες για το πώς να το κάνουν.
Σε απάντηση σε ορισμένες από αυτές τις περιπτώσεις, ένας εκπρόσωπος του OpenAI το 2025 αποκάλεσε επίσης τους θανάτους «απίστευτα σπαρακτική κατάσταση».
