Ένας βουλευτής του Εργατικού Κόμματος κινήθηκε νομικά εναντίον της εταιρείας xAI του Έλον Μασκ αφού είπε ότι το εργαλείο Grok βοήθησε έναν χρήστη να παράγει ψεύτικες σεξουαλικές φωτογραφίες της, μέρος ενός κύματος τέτοιων εικόνων που πλημμύρισαν την πλατφόρμα κοινωνικής δικτύωσης X νωρίτερα φέτος.
Η Jess Asato, η βουλευτής του Lowestoft, δήλωσε τον Ιανουάριο ότι το να βλέπει τον εαυτό της να απεικονίζεται από το εργαλείο AI να φοράει μπικίνι χωρίς τη συγκατάθεσή της ήταν «παραβίαση».
Σε μια αξίωση που υποβλήθηκε στο ανώτατο δικαστήριο του Λονδίνου, ο Asato είπε ότι η xAI – τώρα θυγατρική της SpaceX, στην οποία ανήκει επίσης η X – παραβίασε τους νόμους που σχετίζονται με την προστασία δεδομένων και την κατάχρηση προσωπικών πληροφοριών αφήνοντας τους χρήστες του ιστότοπου να ζητούν από τον Grok να δημιουργήσει τέτοιες εικόνες, σύμφωνα με τους Financial Times.
Ο Asato είπε στην εφημερίδα ότι εκτός από τη δημιουργία εικόνων της με μπικίνι, ο Grok δημιούργησε επίσης ένα βίντεο «που την δείχνει να χλωροφορμώνεται και να προετοιμάζεται για σεξουαλική επίθεση».
Η νομική της υπόθεση ακολουθεί παρόμοια μήνυση που κατατέθηκε στην πολιτεία της Νέας Υόρκης από την Ashley St Clair, μητέρα ενός από τα παιδιά του Musk. Υποστήριξε ότι δημιουργήθηκαν επίσης σαφείς εικόνες της από τον Grok, συμπεριλαμβανομένης μιας εικόνας στην οποία ήταν ανήλικη.
Η προσπάθεια του Asato να μηνύσει το xAI θα μπορούσε να γίνει δοκιμαστική περίπτωση για το πόσο τέτοια εργαλεία και οι δημιουργοί τους μπορούν να θεωρηθούν υπεύθυνοι για το τι παράγουν οι χρήστες με αυτά. Είπε στους FT ότι οι εικόνες της δημιουργήθηκαν αφού καταδίκασε τη δημιουργία τέτοιων μη συναινετικών σεξουαλικών εικόνων.
Είπε: «Ελπίζω ότι αυτό θα εξισορροπήσει τα δικαιώματα των ατόμων έναντι των πολύ μεγάλων τεχνολογικών εταιρειών που θα έπρεπε να έχουν θεσπίσει διασφαλίσεις πριν βλάψουν γυναίκες και παιδιά».
Ο Ravi Naik, ο δικηγόρος που εκπροσωπεί τον Asato, είπε στην εφημερίδα: «Στην καρδιά της αυτή η υπόθεση αφορά μια ενιαία αρχή: ότι οι προγραμματιστές πρέπει να λογοδοτούν για τον τρόπο που σχεδιάζουν και αναπτύσσουν τα εργαλεία τους.
«Η περίπτωσή μας είναι ότι «μια εικόνα που είναι δική σας, έχει σχεδιαστεί για να σας μοιάζει και [whose] πολύ σκοπός είναι να σε υποβιβάσει ή να σε εκπροσωπήσουν σε διαφορετικές συνθήκες, πρέπει να είναι μια εικόνα σου. xAI πείτε αλλιώς.â€
Η κυβέρνηση του Ηνωμένου Βασιλείου απείλησε με δράση κατά του X τον Ιανουάριο, μετά τη χρήση του Grok για την παραγωγή τεράστιων ποσοτήτων σεξουαλικών εικόνων με βάση πραγματικές γυναίκες – και σε ορισμένες περιπτώσεις, παιδιά. Η ρυθμιστική αρχή των μέσων ενημέρωσης, Ofcom, ξεκίνησε έρευνα.
Η εταιρεία του Μασκ είπε αρχικά ότι θα αλλάξει το σύστημα ώστε να επιτρέπει μόνο στους πελάτες που πληρώνουν στο X να παράγουν τέτοιες εικόνες, κάτι που καταδίκασε ο Keir Starmer ως «φρικτό». Μέρες αργότερα, ο Χ είπε ότι είχε σταματήσει εντελώς τον Γκροκ να επεξεργάζεται φωτογραφίες πραγματικών ανθρώπων για να τους δείχνει με αποκαλυπτικά ρούχα.
Η Ντάουνινγκ Στριτ, τα κυβερνητικά τμήματα και πολλοί βουλευτές παρέμειναν στο Χ παρά τις εκκλήσεις να εγκαταλείψουν την εφαρμογή λόγω των εικόνων που δημιουργήθηκαν από τον Γκροκ, καθώς και του αγκαλιασμού του Μασκ σε ακροδεξιούς λόγους στο Ηνωμένο Βασίλειο και προβλέψεων για πολιτική βία.
Ο Γκροκ ήταν μεταξύ των πλατφορμών τεχνητής νοημοσύνης που κατηγόρησαν ψευδώς δύο αστυνομικούς του Χάμσαϊρ ότι συμμετείχαν στη σύλληψη του Χένρι Νόβακ. Η Κρίστι Χιλ, η οποία υπηρέτησε ως αστυνομικός για 12 χρόνια, είπε ότι αναγκάστηκε να διαφύγει σε ασφαλή τοποθεσία. Πολλές αναρτήσεις στο X έχουν ζητήσει από τον Hill και έναν άνδρα αξιωματικό, που επίσης λανθασμένα ταυτοποιήθηκαν, να εντοπιστούν και να συλληφθούν ή σε ορισμένες περιπτώσεις να αντιμετωπίσουν τη βία.
