Η μήνυση, που κατατέθηκε στο δικαστήριο της πολιτείας της Φλόριντα τη Δευτέρα, κατηγορεί το OpenAI και τον Διευθύνοντα Σύμβουλό του, Sam Altman, ότι δεν προειδοποίησαν τους χρήστες ότι το ChatGPT θα μπορούσε να είναι επικίνδυνο και αντ ‘αυτού το διαφημίζουν ως ασφαλές και αξιόπιστο, ακόμη και για παιδιά.
Justin Sullivan/Getty Images
απόκρυψη λεζάντας
εναλλαγή λεζάντας
Justin Sullivan/Getty Images
Η Φλόριντα κατηγορεί την OpenAI και τον διευθύνοντα σύμβουλό της Sam Altman ότι βάζουν το κέρδος πάνω από την ασφάλεια, στην πρώτη αγωγή που άσκησε μια πολιτεία κατά του κατασκευαστή ChatGPT για τις υποτιθέμενες αδυναμίες του chatbot.
Η μήνυση, που κατατέθηκε στο δικαστήριο της πολιτείας της Φλόριντα τη Δευτέρα, ισχυρίζεται ότι η εταιρεία και ο Altman απέτυχαν να προειδοποιήσουν τους χρήστες ότι το ChatGPT θα μπορούσε να είναι επικίνδυνο και αντ’ αυτού το διέθεσαν ως ασφαλές και αξιόπιστο, συμπεριλαμβανομένων των παιδιών. Είναι το πιο πρόσφατο άλμα σε μια αυξανόμενη προσπάθεια σε ολόκληρη τη χώρα να λογοδοτήσουν οι εταιρείες τεχνητής νοημοσύνης όταν βλάβες ακολουθούν τις αλληλεπιδράσεις των χρηστών με τα chatbot.
Η μήνυση κατηγορεί το OpenAI ότι βοήθησε και υποκίνησε τους πυροβολητές, συμπεριλαμβανομένου ενός πυροβολητή στο κρατικό πανεπιστήμιο της Φλόριντα, ο οποίος φέρεται να χρησιμοποίησε το ChatGPT για να σχεδιάσει την επίθεσή του, ενθαρρύνοντας ευάλωτα άτομα να αυτοκτονήσουν και εθίζοντας τα παιδιά «σε ένα εργαλείο που προσποιείται ότι η ανθρώπινη συμπόνια συλλέγει τα δεδομένα τους χωρίς γονική επίβλεψη».
“Αυτή η λιτανεία των ζημιών καθοδηγείται από την ακόρεστη προσπάθεια των κατηγορουμένων να κερδίσουν τον αγώνα εξοπλισμών AI και να συγκεντρώσουν μεγάλες περιουσίες, παρά το γεγονός ότι γνωρίζουν τον κίνδυνο του ChatGPT”, ανέφερε η καταγγελία. «Η άνοδος του OpenAI αποδίδεται σε έναν ιστό εξαπάτησης και εκμετάλλευσης χρηστών (συμπεριλαμβανομένων των Floridian), αξιοποιώντας τα δεδομένα και την ασφάλειά τους για την ενίσχυση της αγοραίας αξίας του OpenAI με απαράδεκτο κόστος».
Η Φλόριντα επιδιώκει επίσης να θεωρήσει τον Άλτμαν προσωπικά υπεύθυνο.
«Ο Σαμ Άλτμαν και το ChatGPT επέλεξαν τον αγώνα τεχνητής νοημοσύνης αντί για την ασφάλεια και την ασφάλεια των παιδιών μας», δήλωσε ο Γενικός Εισαγγελέας της Φλόριντα Τζέιμς Οθμάιερ σε συνέντευξη Τύπου τη Δευτέρα. Πρόσθεσε ότι πιστεύει ότι ο Altman και η εταιρεία θα μπορούσαν να είναι υπόχρεοι “δυνητικά έως και δισεκατομμύρια δολάρια” σε κυρώσεις.
«Η απώλεια ενός παιδιού είναι η πιο καταστροφική τραγωδία που μπορεί να συμβεί σε μια οικογένεια και ξέρουμε ότι δεν υπάρχουν λόγια για να αντιμετωπίσουμε τον πόνο μιας τέτοιας απώλειας», δήλωσε η εκπρόσωπος του OpenAI, Kayla Wood, σε δήλωση που εστάλη μέσω email στο NPR.
«Η τεχνητή νοημοσύνη είναι μια νέα και ισχυρή τεχνολογία και πιστεύουμε ότι οι ανήλικοι χρειάζονται σημαντική προστασία, γι’ αυτό έχουμε θέσει σε εφαρμογή κορυφαίες προστασίες και πολιτικές του κλάδου», συνεχίζει η δήλωση. «Συγκεκριμένα, ενσωματώσαμε την ασφάλεια για ανηλίκους απευθείας στα προϊόντα μας, συμπεριλαμβανομένης μιας πιο προστατευτικής εμπειρίας ειδικά για ανηλίκους, ενός εργαλείου πρόβλεψης ηλικίας, των προεπιλεγμένων χρηστών των οποίων δεν είμαστε σίγουροι για την πιο προστατευτική εμπειρία μας και δίνοντας στους γονείς εργαλεία για να παρακολουθούν τη χρήση AI από τα παιδιά τους».
Η μήνυση ισχυρίζεται ότι οι διασφαλίσεις του OpenAI, συμπεριλαμβανομένων των γονικών ελέγχων του, είναι ανεπαρκείς και ότι η εταιρεία έχει δημιουργήσει «μια επικίνδυνη δημόσια ενόχληση».
Η πρώτη σελίδα της αγωγής ξεκινά με ένα στιγμιότυπο οθόνης από τον ιστότοπο του OpenAI που λέει ότι το ChatGPT «χτίστηκε με γνώμονα την ασφάλεια». Η εικόνα ακολουθείται από μια υποσημείωση που γράφει: «Όχι έτσι».
Το γραφείο του Uthmeier διεξάγει χωριστά μια ποινική έρευνα για το OpenAI σχετικά με την υποτιθέμενη διαβούλευση του σκοπευτή FSU με το ChatGPT πριν από την επίθεση του Απριλίου 2025.
Περισσότερες από 20 αγωγές έχουν κατατεθεί κατά του OpenAI για βλάβες που φέρονται να προέρχονται από τη χρήση του ChatGPT, συμπεριλαμβανομένων των οικογενειών θυμάτων που σκοτώθηκαν και τραυματίστηκαν σε μαζικό πυροβολισμό σε σχολείο στο Tumbler Ridge του Καναδά, τον Φεβρουάριο, της οικογένειας ενός θύματος που σκοτώθηκε στον πυροβολισμό FSU και των οικογενειών επτά ατόμων, συμπεριλαμβανομένου ενός εφήβου, που υπέφερε από αυτοσυζήτηση.
Ο Άλτμαν ζήτησε συγγνώμη από την κοινότητα του Tumbler Ridge τον Απρίλιο και η OpenAI είπε ως απάντηση σε αυτές τις αγωγές ότι έχει πολιτική «μηδενικής ανοχής» για τη χρήση των εργαλείων της για να βοηθήσει στη διάπραξη βίας.
Αφού ο Uthmeier ανακοίνωσε την έρευνά του για τον πυροβολισμό του FSU, ένας εκπρόσωπος του OpenAI είπε ότι το chatbot «παρείχε πραγματικές απαντήσεις σε ερωτήσεις με πληροφορίες που θα μπορούσαν να βρεθούν ευρέως σε δημόσιες πηγές στο διαδίκτυο και δεν ενθάρρυνε ή προωθούσε παράνομη ή επιβλαβή δραστηριότητα». Η δήλωση συνέχισε: «Εργαζόμαστε συνεχώς για να ενισχύσουμε τις διασφαλίσεις μας για τον εντοπισμό επιβλαβών προθέσεων, τον περιορισμό της κακής χρήσης και την κατάλληλη ανταπόκριση όταν προκύπτουν κίνδυνοι για την ασφάλεια».
Το OpenAI χαρακτήρισε τις αγωγές για αυτοκτονίες και αυταπάτες «μια απίστευτα αποκαρδιωτική κατάσταση» και είπε ότι συνεργάζεται με ειδικούς ψυχικής υγείας για να βελτιώσει τον τρόπο με τον οποίο το ChatGPT ανταποκρίνεται σε σημάδια ψυχικής ή συναισθηματικής δυσφορίας.
Άλλες εταιρείες τεχνητής νοημοσύνης υπόκεινται επίσης σε νομικό έλεγχο σχετικά με το πώς τα chatbots τους φέρεται να έχουν προκαλέσει βλάβη.
Σε απάντηση σε μια παράνομη μήνυση θανάτου για την αυτοκτονία ενός άνδρα από τη Φλόριντα που συνδέθηκε με το chatbot Gemini της Google, η εταιρεία είπε: “Το Gemini έχει σχεδιαστεί για να μην ενθαρρύνει τη βία στον πραγματικό κόσμο ή να προτείνει αυτοτραυματισμό. Τα μοντέλα μας γενικά έχουν καλή απόδοση σε αυτούς τους τύπους προκλητικών συνομιλιών και αφιερώνουμε σημαντικούς πόρους σε αυτό, αλλά δυστυχώς δεν είναι τέλεια.” Πρόσθεσε ότι ο Δίδυμος είχε «παραπέμψει το άτομο σε μια τηλεφωνική γραμμή κρίσης πολλές φορές».
Τον Ιανουάριο, το Character.AI διευθέτησε πολλαπλές αγωγές που υποβλήθηκαν από οικογένειες που ισχυρίστηκαν ότι τα συνοδευτικά chatbot του συνέβαλαν σε αυτοκτονίες και κρίσεις ψυχικής υγείας μεταξύ παιδιών και εφήβων. Η εταιρεία είπε ότι «έχει λάβει καινοτόμα και αποφασιστικά βήματα όσον αφορά την ασφάλεια της τεχνητής νοημοσύνης και των εφήβων και θα συνεχίσει να υπερασπίζεται αυτές τις προσπάθειες και να ωθεί άλλους σε όλο τον κλάδο να υιοθετήσουν παρόμοια πρότυπα ασφαλείας». Αυτό περιλαμβάνει την απαγόρευση σε χρήστες κάτω των 18 ετών από την αλληλεπίδραση ή τη δημιουργία chatbots.
Τον περασμένο μήνα, η πολιτεία της Πενσυλβάνια μήνυσε την Character.AI, ισχυριζόμενη ότι τα chatbot της παρουσιάστηκαν ως γιατροί και πρόσφεραν ιατρικές συμβουλές, παραβιάζοντας τους κρατικούς κανόνες αδειοδότησης για ιατρική χρήση. Ένας εκπρόσωπος του Character.AI είπε στο NPR εκείνη την εποχή ότι η εταιρεία δεν σχολιάζει τις εκκρεμείς διαφορές, αλλά ότι «η υψηλότερη προτεραιότητά της είναι η ασφάλεια και η ευημερία των χρηστών μας».
