Ο Κυβερνήτης της Πενσυλβάνια Τζος Σαπίρο μιλά στο ετήσιο συνέδριο του Εθνικού Δικτύου Δράσης στις 8 Απριλίου 2026, στη Νέα Υόρκη. Η Πενσυλβάνια μηνύει την Character.AI για κατηγορίες ότι τα chatbot της εταιρείας παραβιάζουν τους κανονισμούς αδειοδότησης ιατρικής της πολιτείας.
Michael M. Santiago/Getty Images
απόκρυψη λεζάντας
εναλλαγή λεζάντας
Michael M. Santiago/Getty Images
Η πολιτεία της Πενσυλβάνια μηνύει την Character.AI για να σταματήσει τα chatbots AI της εταιρείας να παρουσιάζονται ως γιατροί και να προσφέρουν ιατρικές συμβουλές, παραβιάζοντας τους κρατικούς κανόνες αδειοδότησης για ιατρική χρήση.
Οι κρατικοί αξιωματούχοι δήλωσαν ότι μια έρευνα διαπίστωσε ότι τα chatbot της εταιρείας, τα οποία παρουσιάζονται ως φανταστικοί χαρακτήρες, ισχυρίστηκαν ότι είναι αδειοδοτημένοι επαγγελματίες υγείας.
«Οι κάτοικοι της Πενσυλβανίας αξίζουν να γνωρίζουν με ποιον «ή με τι» αλληλεπιδρούν στο Διαδίκτυο, ειδικά όταν πρόκειται για την υγεία τους», δήλωσε ο κυβερνήτης της Πενσυλβάνια Τζος Σαπίρο σε μια δήλωση που ανακοίνωσε την αγωγή που κατατέθηκε την Τρίτη στο πολιτειακό δικαστήριο. «Δεν θα επιτρέψουμε στις εταιρείες να αναπτύξουν εργαλεία τεχνητής νοημοσύνης που παραπλανούν τους ανθρώπους να πιστεύουν ότι λαμβάνουν συμβουλές από έναν εξουσιοδοτημένο ιατρό».
Σε μια περίπτωση, το κράτος ισχυρίστηκε ότι ένα ρομπότ Character.AI με το όνομα “Emilie” ισχυρίστηκε ότι ήταν αδειούχος ψυχίατρος. Η περιγραφή του chatbot στην πλατφόρμα του Character.AI έγραφε “Γιατρός ψυχιατρικής. Είσαι ο ασθενής της”, σύμφωνα με τη μήνυση.
Όταν ένας κρατικός ερευνητής ξεκίνησε μια συνομιλία και περιέγραψε ότι ένιωθε λυπημένος και άδειος, το chatbot φέρεται να «ανέφερε την κατάθλιψη και ρώτησε αν [investigator] Ήθελε να κλείσει μια αξιολόγηση.” Ερωτηθείς εάν θα μπορούσε να αξιολογήσει εάν η φαρμακευτική αγωγή θα μπορούσε να βοηθήσει, το bot φέρεται να απάντησε, “Λοιπόν, τεχνικά, θα μπορούσα. Είναι στις αρμοδιότητές μου ως Γιατρός».
Το bot φέρεται να είπε στον ερευνητή ότι είχε πάει στην ιατρική σχολή στο Imperial College του Λονδίνου και είχε άδεια να ασκεί ιατρική στο Ηνωμένο Βασίλειο και την Πενσυλβάνια. Παρείχε ακόμη και έναν ψεύτικο αριθμό ιατρικής άδειας της Πενσυλβάνια, ανέφερε η μήνυση.
Η πολιτεία ζητά από ένα δικαστήριο της Πενσυλβάνια να διατάξει την εταιρεία να σταματήσει αυτό που λέει ότι είναι παράνομη πρακτική της ιατρικής.
«Ο νόμος της Πενσυλβάνια είναι ξεκάθαρος – δεν μπορείτε να κρατηθείτε ως αδειούχος επαγγελματίας ιατρός χωρίς τα κατάλληλα διαπιστευτήρια», είπε ο Αλ Σμιντ, γραμματέας του Υπουργείου Εξωτερικών της Πενσυλβάνια, που διεξήγαγε την έρευνα.
Σε μια δήλωση που εστάλη μέσω ηλεκτρονικού ταχυδρομείου στο NPR, ένας εκπρόσωπος του Character.AI είπε ότι η εταιρεία δεν σχολιάζει τις εκκρεμείς διαφορές, αλλά ότι «η υψηλότερη προτεραιότητά της είναι η ασφάλεια και η ευημερία των χρηστών μας».
“Οι Χαρακτήρες που δημιουργήθηκαν από χρήστες στον ιστότοπό μας είναι φανταστικοί και προορίζονται για ψυχαγωγία και παιχνίδι ρόλων”, πρόσθεσε ο εκπρόσωπος. “Έχουμε λάβει σθεναρά βήματα για να το καταστήσουμε σαφές, συμπεριλαμβανομένων σημαντικών δηλώσεων αποποίησης ευθυνών σε κάθε συνομιλία για να υπενθυμίσουμε στους χρήστες ότι ένας Χαρακτήρας δεν είναι πραγματικό πρόσωπο και ότι όλα όσα λέει ένας Χαρακτήρας πρέπει να αντιμετωπίζονται ως μυθοπλασία. Επίσης, προσθέτουμε ισχυρές δηλώσεις αποποίησης ευθυνών που καθιστούν σαφές ότι οι χρήστες δεν πρέπει να βασίζονται σε Χαρακτήρες για οποιοδήποτε είδος επαγγελματικής συμβουλής.”
Η Character.AI έχει αντιμετωπίσει άλλες αγωγές για βλάβες που φέρεται να αφορούν τα chatbot της. Τον Ιανουάριο, διευθέτησε πολλές αγωγές που υποβλήθηκαν από οικογένειες που ισχυρίστηκαν ότι το Character.AI συνέβαλε σε αυτοκτονίες και κρίσεις ψυχικής υγείας μεταξύ παιδιών και εφήβων. Οι όροι του διακανονισμού δεν έγιναν γνωστοί.
Σε κοινή δήλωση με τη δικηγορική εταιρεία που εκπροσώπησε τους ενάγοντες μετά την ανακοίνωση του διακανονισμού, η Character.AI είπε ότι «έχει λάβει καινοτόμα και αποφασιστικά βήματα όσον αφορά την ασφάλεια της τεχνητής νοημοσύνης και τους εφήβους και θα συνεχίσει να υποστηρίζει αυτές τις προσπάθειες και να ωθεί άλλους σε όλο τον κλάδο να υιοθετήσουν παρόμοια πρότυπα ασφαλείας». Αυτό περιλαμβάνει την απαγόρευση σε χρήστες κάτω των 18 ετών από την αλληλεπίδραση ή τη δημιουργία chatbots.
