Tero Vesalainen/Getty Images
Πόσο φίλτρο είναι το υπερβολικό φίλτρο για παιδιά και εφήβους που δημοσιεύουν selfies στα μέσα κοινωνικής δικτύωσης;
Αυτό είναι το ερώτημα με το οποίο αντιμετωπίζουν οι γενικοί εισαγγελείς σε όλη τη χώρα μετά από έναν ορόσημο διακανονισμό με τη Meta αυτό το καλοκαίρι. Ως μέρος της συμφωνίας, ο γίγαντας των μέσων κοινωνικής δικτύωσης συμφώνησε να μπλοκάρει ορισμένα ψηφιακά φίλτρα ομορφιάς για ανηλίκους – συγκεκριμένα αυτά που μιμούνται ακραίες μεταμορφώσεις, όπως αισθητικές επεμβάσεις ή βαρύ μακιγιάζ.
Τώρα, το βάρος πέφτει στους κρατικούς αξιωματούχους να πουν στον Μέτα πού να τραβήξει τη γραμμή. Αλλά ο καθορισμός του πού τελειώνει η ακίνδυνη διασκέδαση και πού αρχίζει η επιβλαβής χειραγώγηση δεν είναι καθόλου απλός.
Επίδραση στην εικόνα σώματος των νέων
Για τους εφήβους που περιηγούνται στο ψηφιακό τοπίο, η πίεση της διαδικτυακής τελειότητας είναι καθημερινή πραγματικότητα. Μεγάλο μέρος αυτής της πίεσης οφείλεται σε διαδικτυακές τάσεις ομορφιάς όπως το “πρόσωπο στο Instagram”. Δημιουργήθηκε το 2019 από Ο Νεοϋορκέζος συγγραφέας Jia Tolentino, η φράση αναφέρεται σε ένα βλέμμα που χαρακτηρίζεται από μια μικρή μύτη με κουμπιά, ψηλά ζυγωματικά και φουσκωμένα χείλη. Αν και παραδοσιακά επιτυγχάνεται μόνο στην πραγματική ζωή μέσω πλαστικής χειρουργικής ή ακραίου μακιγιάζ, μπορεί να εφαρμοστεί άμεσα στο διαδίκτυο χρησιμοποιώντας φίλτρα ομορφιάς.
Η Μία Λέρνερ, 17χρονη τελειόφοιτη λυκείου στην Καλιφόρνια και ακτιβίστρια για την εικόνα του σώματος των νέων, γνωρίζει τον φόρο που μπορούν να έχουν αυτά τα ψηφιακά εργαλεία. Είπε στο NPR ότι ο πειραματισμός με φίλτρα ομορφιάς συνέβαλε στη διατροφική της διαταραχή και την άφησε να παλεύει με την αυτοεικόνα της.
«Έχω προσπαθήσει ακόμη και να φτιάξω τη μύτη μου με AI», είπε ο Lerner. «Το πρόσωπό μου φαίνεται πολύ καλύτερο, νομίζω, μέσα [the] φωτογραφία που χειρίστηκα με αυτά τα φίλτρα ομορφιάς. Αλλά εξακολουθώ να ζω με αυτή τη μύτη που βλέπω στον καθρέφτη».
Ο Lerner χαιρετίζει την πτυχή του οικισμού Meta που στοχεύει στον περιορισμό των φίλτρων ομορφιάς για ανηλίκους. «Είναι ένα πολύ σημαντικό βήμα προς τη σωστή κατεύθυνση», είπε ο Lerner.
Το πρόβλημα με την «λεπτή» επεξεργασία
Ωστόσο, η συμφωνία που επιτεύχθηκε τον Αύγουστο μεταξύ της Meta και 47 πολιτειών των ΗΠΑ – συν την Ουάσιγκτον και τρεις περιοχές – δεν θεσπίζει γενική απαγόρευση όλων των ψηφιακών εφέ.
Τα φίλτρα που μεταμορφώνουν τους χρήστες σε παιχνιδιάρικους χαρακτήρες, όπως ξωτικά ή κουτάβια, θα παραμείνουν διαθέσιμα για τους νέους. Αλλά το ίδιο θα κάνουν και τα φίλτρα που προσφέρουν διακριτικά εφέ ομορφιάς – όπως εξομάλυνση του τόνου του δέρματος ή προσθήκη ελαφριάς λάμψης στα μάτια.
Είναι αυτή η κατηγορία σχετικά δευτερεύουσας επεξεργασίας που απασχολεί ιδιαίτερα τον Lerner.
«Όταν βλέπω κάτι που έχει δημιουργηθεί τόσο προφανώς από την τεχνητή νοημοσύνη, είναι πολύ εύκολο για μένα να πω λογικά: “Λοιπόν, προφανώς έχει χειραγωγηθεί, οπότε δεν μπορώ να συγκριθώ με αυτό”, είπε ο Lerner. “Αλλά όταν βλέπω αυτά τα βίντεο με άτομα που έχουν υποστεί ελαφρά επεξεργασία, είναι πολύ πιο εύκολο για μένα να ακολουθήσω αυτόν τον δρόμο σύγκρισης.”
Τεχνικά προστατευτικά κιγκλιδώματα έναντι κινούμενων στόχων
Η Meta έχει εφαρμόσει στο παρελθόν μέτρα για τη διαχείριση των φίλτρων ομορφιάς, τα οποία τροφοδοτούνται όλο και περισσότερο από την τεχνητή νοημοσύνη.
Ο τεχνολογικός γίγαντας έχει ήδη απαγορεύσει τα φίλτρα που προωθούν ρητά την αισθητική χειρουργική, όπως αυτά που επικαλύπτουν τις γραμμές σήμανσης πριν από την επέμβαση στο δέρμα. Έχει επίσης κλείσει την πλατφόρμα της για τρίτους δημιουργούς αυτών των εργαλείων, έχει εισαγάγει υποχρεωτικές ετικέτες για περιεχόμενο που δημιουργείται από AI και έχει αναπτύξει αυτοματοποιημένα συστήματα ανίχνευσης τεχνητής νοημοσύνης. Παρά αυτά τα συστήματα, τα επιβλαβή αισθητικά φίλτρα και τα χαρακτηριστικά που κρατούν τα παιδιά παγιδευμένα σε έναν ατελείωτο κύκλο κύλισης, κλικ και παραμονής στο Διαδίκτυο γλίστρησαν επίμονα από αυτά τα προστατευτικά κιγκλιδώματα, όπως έγραψε ένας ομοσπονδιακός δικαστής σε μια συνοπτική απόφαση που αρνήθηκε την υπεράσπιση του Meta αυτό το καλοκαίρι.
Η Meta δεν είναι η μόνη εταιρεία τεχνολογίας που παλεύει με την πρόσβαση των εφήβων σε φίλτρα ομορφιάς. Το TikTok περιορίζει επίσης τους χρήστες κάτω των 18 ετών από τη χρήση τους. Το Snapchat δεν περιορίζει την πρόσβαση των εφήβων στα φίλτρα. Καμία εταιρεία δεν απάντησε στο αίτημα της NPR για σχόλιο. Το YouTube είπε στο NPR ότι δεν έχει φίλτρα. Ωστόσο, τίποτα δεν εμποδίζει τους χρήστες να δημοσιεύουν εικόνες ή βίντεο που έχουν δημιουργηθεί με φίλτρα τρίτων στην πλατφόρμα – ή στο TikTok και το Instagram, για αυτό το θέμα.
Εν τω μεταξύ, οι γενικοί εισαγγελείς της πολιτείας φτάνουν στο τέλος της δίμηνης προθεσμίας που έθεσαν οι ίδιοι για να παράσχουν στη Meta καθοδήγηση με τη μορφή επιστολής σχετικά με το τι αποτελεί απαγορευμένο φίλτρο – και τι όχι.
Εξελισσόμενα πρότυπα ομορφιάς
Αντιμετωπίζουν έναν κινούμενο στόχο, καθώς τα ψηφιακά πρότυπα ομορφιάς εξελίσσονται γρήγορα.
«Εάν οι πολιτείες θέλουν να ορίσουν τι είναι φίλτρο ομορφιάς, θα πρέπει να ορίσουν τι είναι ομορφιά», είπε η Florencia Solari, μια δημιουργική τεχνολόγος που έχει περάσει χρόνια αναπτύσσοντας εμπειρίες τεχνητής νοημοσύνης και επαυξημένης πραγματικότητας για παγκόσμιες μάρκες.
Ο Solari σημείωσε ότι οι κύκλοι τάσεων κινούνται γρήγορα. Το «Instagram face» πέφτει ήδη σε δυσμένεια. «Οι άνθρωποι αρχίζουν να απομακρύνονται από αυτό γιατί έχει αρχίσει να φαίνεται λίγο κλόουν», είπε ο Solari. “Τώρα οδεύει προς την υπερβολική λεπτότητα. Αυτό είναι ένα άλλο πρόβλημα.”
Ως αποτέλεσμα, τα εργαλεία που χρησιμοποιούνται για την επίτευξη της πιο πρόσφατης εμφάνισης αλλάζουν επίσης. Έτσι, αυτό που θα μπορούσε να χαρακτηριστεί από τους νομοθέτες ως «ακραίο» φίλτρο ομορφιάς το 2026, πιθανότατα θα είναι διαφορετικό το 2027.
Τεχνολογικές αλλαγές
Ενώ τα πρότυπα ομορφιάς αλλάζουν γρήγορα, το ίδιο και η τεχνολογία.
Αντί να κάθεται στις αίθουσες συσκέψεων και να συζητά τα όρια των pixel για τα ζυγωματικά, η Kelly Frasier, συν-συγγραφέας μιας πρόσφατης μελέτης που υπογραμμίζει τις αρνητικές επιπτώσεις των social media σε θέματα σώματος στους εφήβους, είπε ότι οι νομοθέτες θα πρέπει να εξετάσουν το γεγονός ότι οι έφηβοι σύντομα θα μπορούν να χρησιμοποιούν την τεχνητή νοημοσύνη για να δημιουργήσουν ολόκληρα ψεύτικα σύμπαντα γύρω τους. Επομένως, θα πρέπει να επικεντρωθούν σε ευρύτερη ρύθμιση της τεχνητής νοημοσύνης για ανηλίκους.
«Νομίζω ότι οι νομοθέτες θέτουν λάθος ερώτηση εάν ρωτούν πού να τραβήξουν τη γραμμή για τα φίλτρα ομορφιάς», είπε ο Frasier. «Και για να είμαι ειλικρινής, τα φίλτρα πιθανότατα θα είναι εντελώς απαρχαιωμένα μέσα στα επόμενα χρόνια».
Νομικές και περιφερειακές προκλήσεις
Εκτός από τις τεχνολογικές και πολιτιστικές προκλήσεις, νομικοί εμπειρογνώμονες προειδοποιούν ότι μεμονωμένα κράτη μπορεί να δυσκολευτούν να καταλήξουν σε συναίνεση σχετικά με το τι συνιστά και τι όχι αυτό που η συμφωνία διευθέτησης περιγράφει ως «φίλτρο αισθητικής διαδικασίας».
“Αυτό που δεν έχουμε πραγματικά αίσθηση είναι τι συμβαίνει εάν τα κράτη διαφωνούν μεταξύ τους;” είπε ο David Greene, ανώτερος σύμβουλος στο Electronic Frontier Foundation. «Τι θα συμβεί αν μια πολιτεία θεωρεί, ξέρετε, ότι το σήκωμα φρυδιών είναι απολύτως αποδεκτό και μια άλλη πιστεύει ότι είναι απαίσιο;»
Το NPR απευθύνθηκε στα γραφεία των γενικών εισαγγελέων και στις τέσσερις ενάγουσες πολιτείες που οδήγησαν τη δίκη – Καλιφόρνια, Κολοράντο, Κεντάκι και Νιου Τζέρσεϊ – για ενημέρωση σχετικά με τις κατευθυντήριες γραμμές. Όμως οι αξιωματούχοι είτε αρνήθηκαν να σχολιάσουν είτε δεν απάντησαν.
Πέρα από τις ΗΠΑ, ορισμένες διεθνείς ρυθμιστικές αρχές ελπίζουν να αποφύγουν εντελώς τις συζητήσεις γύρω από τους ορισμούς των φίλτρων ομορφιάς.
Στην Ευρώπη, ο προτεινόμενος νόμος για τα παιδιά «που έχει σχεδιαστεί για να ρυθμίζει τη χρήση των μέσων κοινωνικής δικτύωσης στους νέους» υιοθετεί μια ευρεία προσέγγιση.
Σε αυτό το σχέδιο, “Φίλτρα ομορφιάς — όχι ακραία φίλτρα ομορφιάς. Τα φίλτρα ομορφιάς είναι τελείως απαγορευμένα για ανηλίκους», δήλωσε ο εκπρόσωπος της Ευρωπαϊκής Επιτροπής, Thomas Regnier. Ο Ρεγκνιέ είπε ότι οι νομοθέτες της ΕΕ παρακολουθούν στενά την εφαρμογή της διευθέτησης των ΗΠΑ. “Θέλουμε φιλικές προς τα παιδιά υπηρεσίες για τα παιδιά μας. Ένα φίλτρο ομορφιάς δεν έχει καμία σχέση με μια υπηρεσία φιλική προς τα παιδιά”, είπε ο Regnier.
Οι έφηβοι θέλουν να ακούγονται
Η Meta λέει ότι σχεδιάζει να επιβάλει την απαγόρευση των “φίλτρων αισθητικής επέμβασης” μέχρι τις αρχές του επόμενου έτους.
Για τους ακτιβιστές της νεολαίας όπως ο Lerner, η ελπίδα είναι ότι οι εταιρείες τεχνολογίας και οι ρυθμιστικές αρχές θα συμπεριλάβουν τους εφήβους σε αυτές τις συζητήσεις. «Τόσο συχνά είναι μόνο η κυβέρνηση ή αυτές οι εταιρείες σε αυτές τις συνομιλίες», είπε ο Lerner. “Η εταιρεία θα πρέπει να μας ρωτήσει για τις πραγματικές μας προοπτικές, όπως “Χρησιμοποιούν πραγματικά οι άνθρωποι αυτά τα ακραία φίλτρα τεχνητής νοημοσύνης ή αυτό δεν πρόκειται να κάνει τη διαφορά;” «Χρειάζεται να στοχεύσουμε κάτι άλλο;»
Ο Meta είπε ότι η εταιρεία έχει συνεργαστεί με εφήβους όλα αυτά τα χρόνια, αλλά δεν απάντησε στην ερώτηση του NPR ρωτώντας αν το κάνει αυτή τη στιγμή.
