Οι δύο φωτογραφίες ξεκίνησαν ως τυπικές εφηβικές selfies: κοιτάζοντας στον καθρέφτη, πλήρως ντυμένος. Αλλά μόλις οι διαδικτυακοί θηρευτές είχαν καταλάβει αυτές τις φωτογραφίες και τις έτρεξαν μέσω ενός εργαλείου απεικόνισης AI, είχαν γίνει η βάση για ακραία βίντεο πορνογραφίας.
Αυτά τα παραδείγματα προέρχονται από την υπηρεσία “Αναφορά κατάργησης”, η οποία επιτρέπει στα παιδιά που έχουν διανεμηθεί ασαφείς φωτογραφίες τους χωρίς τη συγκατάθεσή τους να επισημάνουν την εικόνα εμπιστευτικά και να την αποκλείσουν ή να την αφαιρέσουν από τα μέσα κοινωνικής δικτύωσης. Λόγω των καινοτομιών στην τεχνητή νοημοσύνη και της ευρείας διαθεσιμότητας μοντέλων τεχνητής νοημοσύνης και εφαρμογών γυμνισμού, ορισμένα άτομα κάτω των 18 ετών γίνονται θύματα χωρίς καν να έρχονται σε επαφή με εγκληματίες.
Αυτά τα δύο θύματα δείχνουν γιατί η Εθνική Υπηρεσία Εγκλήματος (NCA) του Ηνωμένου Βασιλείου και το Internet Watch Foundation (IWF), ένας φύλακας για την ασφάλεια των παιδιών, έχουν εκδώσει οδηγίες που λένε στους γονείς να εξετάσουν τον περιορισμό της ορατότητας των οικογενειακών εικόνων, για παράδειγμα, κάνοντας το προφίλ σας στα μέσα κοινωνικής δικτύωσης ιδιωτικό και απλώς κοινοποιώντας φωτογραφίες των παιδιών σας σε ομάδες «στενών φίλων».
Και οι δύο οργανισμοί λένε ότι δεν λένε στους γονείς τι να κάνουν, αλλά θέλουν να γνωρίζουν το πρόβλημα και τι μέτρα να κάνουν. Τα δεδομένα δείχνουν ότι η τεχνητή νοημοσύνη είναι μια αυξανόμενη πηγή υλικού σεξουαλικής κακοποίησης παιδιών. Η ποσότητα υλικού σεξουαλικής κακοποίησης παιδιών που δημιουργείται από την τεχνητή νοημοσύνη [CSAM] που βρέθηκε στο διαδίκτυο αυξήθηκε κατά 14% πέρυσι, σύμφωνα με την IWF, η οποία εντόπισε 8.029 εικόνες και βίντεο ρεαλιστικών CSAM που δημιουργήθηκαν από AI το 2025.
Ο Νταν Σέξτον, ο επικεφαλής τεχνολογίας της IWF, λέει ότι αισθάνεται «πολύ άβολα» που λέει στους γονείς να μην βάζουν φωτογραφίες των παιδιών τους σε δημόσια προβολή, αλλά πιστεύει ότι δεν έχει άλλη επιλογή. Δεν υπάρχει αρκετή προστασία έναντι αυτής της τεχνολογίας, λέει.
Η κυβέρνηση του Ηνωμένου Βασιλείου επιβάλλει περιορισμούς, όπως το να καθιστά παράνομη την κατοχή, τη δημιουργία ή τη διανομή εργαλείων τεχνητής νοημοσύνης που έχουν σχεδιαστεί για τη δημιουργία υλικού σεξουαλικής κακοποίησης παιδιών. Δίνει επίσης σε εταιρείες τεχνολογίας και σε οργανισμούς προστασίας παιδιών τη δυνατότητα να ελέγξουν εάν τα εργαλεία τεχνητής νοημοσύνης μπορούν να παράγουν εικόνες κακοποίησης παιδιών.
Ο Sexton αναγνωρίζει ότι η μακροπρόθεσμη λύση δεν μπορεί να είναι ο αποκλεισμός των φωτογραφιών από τους δημόσιους λογαριασμούς των μέσων κοινωνικής δικτύωσης. Θέλει νομοθεσία για τα μοντέλα τεχνητής νοημοσύνης που απαιτεί από αυτά να είναι «ασφαλή από το σχεδιασμό», μια αρχή που διατυπώνεται από τους ακτιβιστές για την ασφάλεια στο διαδίκτυο που θέλουν οι πλατφόρμες κοινωνικών μέσων να δημιουργούνται υπεύθυνα με βασικό στόχο την ευημερία των χρηστών. «Οι άνθρωποι χρησιμοποιούν τον όρο ασφάλεια από σχεδιασμό, αλλά δεν το βλέπω εδώ», λέει.
Ένας κυβερνητικός εκπρόσωπος είπε ότι η νομοθεσία του Ηνωμένου Βασιλείου είναι «σαφής» σχετικά με την παρανομία της δημιουργίας, κατοχής ή διανομής CSAM, συμπεριλαμβανομένου περιεχομένου που δημιουργείται από AI, και ότι τέτοιο υλικό πρέπει να αφαιρείται προληπτικά από τις τεχνολογικές πλατφόρμες βάσει του Νόμου για την Ασφάλεια στο Διαδίκτυο.
Ο εκπρόσωπος πρόσθεσε: «Δεν θα διστάσουμε να προχωρήσουμε περαιτέρω για να κρατήσουμε τα παιδιά ασφαλή».
Ο Sexton λέει ότι οι παιδόφιλοι χρησιμοποιούν μια ποικιλία εργαλείων τεχνητής νοημοσύνης σε συνδυασμό για να δημιουργήσουν εικόνες και βίντεο, συμπεριλαμβανομένων μοντέλων τεχνητής νοημοσύνης «ανοιχτής πηγής» που μπορούν να ληφθούν ελεύθερα και να προσαρμοστούν από τους χρήστες.
Η IWF λέει ότι ήδη αποδεικνύεται αδύνατο να γίνει διάκριση μεταξύ πραγματικών φωτογραφιών σεξουαλικής κακοποίησης παιδιών και υλικού που δημιουργείται από AI. Τέτοιο περιεχόμενο είναι επίσης παράνομο στο Ηνωμένο Βασίλειο, αλλά σημαίνει ότι οι αρχές μπορούν να δυσκολευτούν να διακρίνουν μεταξύ των θυμάτων που βρίσκονται σε πραγματικό κίνδυνο και των deepfakes. Τα βίντεο τεχνητής νοημοσύνης μπορούν ακόμα να διακριθούν από την πραγματικότητα από τους αναλυτές της IWF, λέει ο Sexton, αλλά γενικά ο μόνος τρόπος για να είμαστε σίγουροι είναι να δούμε εάν οι παιδόφιλοι παίρνουν τα εύσημα για συγκεκριμένες εικόνες στο σκοτεινό ιστό.
«Ο μόνος τρόπος που γνωρίζουμε είναι όταν βλέπουμε τους δημιουργούς να επισημαίνουν τι έχουν δημιουργήσει», λέει, προσθέτοντας ότι το να μπορούμε να διακρίνουμε την τεχνητή νοημοσύνη από την πραγματικότητα μπορεί να είναι ένας συνεχής αγώνας.
“Είναι ένα πρόβλημα που πρέπει να λυθεί. Αλλά δεν ξέρω αν μπορεί να λυθεί στο επίπεδο ακρίβειας που χρειαζόμαστε επειδή η τεχνολογία αλλάζει συνεχώς», λέει.
Η Lorna Sinclair, υπεύθυνη εκπαίδευσης σεξουαλικής κακοποίησης παιδιών στο NCA, λέει ότι η νέα καθοδήγηση της υπηρεσίας στοχεύει στην επισήμανση ενός κινδύνου που πολλοί γονείς και φροντιστές δεν γνωρίζουν ότι υπάρχει. Οι παραβάτες επαναλαμβάνουν ένα πολύ γνωστό χαρακτηριστικό του να πηδούν πρώτα στις τεχνολογικές αλλαγές.
«Ακόμα μαθαίνουμε για την τεχνητή νοημοσύνη ως κοινωνία και πώς χρησιμοποιείται στην καθημερινή ζωή», λέει. “Μαθαίνουμε για τα οφέλη αλλά και για το πώς μπορεί να γίνει κατάχρηση αυτής της τεχνολογίας. Η πραγματικότητα είναι ότι οι παραβάτες θα είναι πάντα πρώιμοι υιοθέτες των τεχνολογικών προόδων.â€
