Ένα ψεύτικο βίντεο του Jimmy Kimmel.
ALAMIN_TUBE/Στιγμιότυπο οθόνης από NPR
απόκρυψη λεζάντας
εναλλαγή λεζάντας
ALAMIN_TUBE/Στιγμιότυπο οθόνης από NPR
Ο Jimmy Kimmel αυτή τη στιγμή βρίσκεται έξω για καλοκαιρινές διακοπές από το βραδινό talk show του στο ABC. Αλλά ο περιστασιακός θαυμαστής μπορεί να συγχωρεθεί που σκέφτηκε ότι ο οικοδεσπότης δεν έχει φύγει από το κτίριο. Τα βίντεο των μέσων κοινωνικής δικτύωσης φαίνεται να τον δείχνουν να σχολιάζει τα πάντα, από τον Πρόεδρο Τραμπ να αποκοιμιέται στη μέση μιας συνάντησης, μέχρι τις επιθέσεις του προέδρου στον υποψήφιο της Γερουσίας του Μίσιγκαν, Abdul El-Sayed.
Τα ψεύτικα βίντεο που δείχνουν τον Κίμελ και άλλους παρουσιαστές τηλεοπτικών εκπομπών αργά τη νύχτα ξεφυτρώνουν στα μέσα κοινωνικής δικτύωσης. Αυτά τα βίντεο, που δημιουργήθηκαν με τη χρήση γενετικής τεχνητής νοημοσύνης, είναι κατά κάποιο τρόπο πιο εύκολο να δημιουργηθούν από τα βαθιά ψεύτικα άλλων τύπων διασημοτήτων – και θα μπορούσαν ενδεχομένως να είναι πιο ενοχλητικά.
Γιατί οι άνθρωποι ξεγελιούνται εύκολα
Jed Rosenzweig, ιδρυτής και συντάκτης της διαδικτυακής έκδοσης LateNighter.comέχει ερευνήσει την άνοδο αυτών των deepfakes. Είπε ότι οι παρουσιαστές των τηλεοπτικών εκπομπών αργά το βράδυ είναι ιδιαίτερα ευάλωτοι στο να μεταμορφωθούν οι ομοιότητές τους σε προσομοιώσεις βίντεο στα μέσα κοινωνικής δικτύωσης, λόγω της ευκολίας με την οποία το κοινό αποδέχεται το πλαίσιο στο οποίο παρουσιάζονται.
«Ο Τζίμι Κίμελ βγαίνει πραγματικά στην τηλεόραση και μιλάει για πολιτική όλη την ώρα, και αυτά τα κλιπ πραγματικά δημοσιεύονται στα μέσα κοινωνικής δικτύωσης κάθε μέρα», είπε ο Ρόζεντσβαϊγκ. «Επομένως, αν δείτε μια μικρογραφία του Kimmel να συνδέεται με κάτι που έκανε χθες ο Τραμπ, υπάρχει ένα ενσωματωμένο πλαίσιο και εμπιστοσύνη εκεί που δίνει [it] ένα είδος καμουφλάζ. Απλώς πρέπει να μοιάζει με ένα ακόμα κλιπ του Jimmy Kimmel σε μια ροή που είναι ήδη γεμάτη με κλιπ Jimmy Kimmel.”
Ο Rosenzweig είπε ότι υπάρχουν ενδεικτικά σημάδια ότι αυτοί οι μονόλογοι δεν είναι αυθεντικοί.
“Οι χειρονομίες είναι περίεργες. Το γράψιμο δεν ακούγεται πραγματικά σαν ζωντανός μονόλογος. Και μετά από περίπου 10 δευτερόλεπτα, ο Κίμελ εξαφανίζεται και η κλωνοποιημένη φωνή περνάει πάνω από πλάνα ειδήσεων”, είπε.
Ωστόσο, ορισμένα από αυτά τα βίντεο συγκεντρώνουν εκατοντάδες χιλιάδες προβολές και προκαλούν σχόλια που υποδηλώνουν ότι τουλάχιστον μερικοί άνθρωποι πιστεύουν ότι το περιεχόμενο είναι πραγματικό. Ένας θεατής σχολίασε σε ένα βίντεο του YouTube: «Σε ευχαριστώ Jimmy που είπες την αλήθεια».
Απειλές για την ελευθερία του λόγου
Ο Rosenzweig είπε ότι ενώ άλλοι οικοδεσπότες όπως ο Jon Stewart είναι επίσης θύματα αυτών των προσομοιώσεων τεχνητής νοημοσύνης, Jimmy Kimmel Live! Τα deepfakes προκαλούν ιδιαίτερη ανησυχία λόγω της ιδιαίτερα αμφιλεγόμενης σχέσης του οικοδεσπότη με την κυβέρνηση Τραμπ.
Ο πρόεδρος Τραμπ έχει επανειλημμένα ζητήσει την απόλυση του Κίμελ. Ο Rosenzweig είπε ότι τα ψεύτικα βίντεο, πολλά από τα οποία κοροϊδεύουν ή επικρίνουν τον Τραμπ, θα μπορούσαν να ενισχύσουν την αποφασιστικότητα της κυβέρνησής του σε μια περίοδο που η Ομοσπονδιακή Επιτροπή Επικοινωνιών και το ABC βρίσκονται σε νομική μάχη για τα δικαιώματα της ελευθερίας του λόγου. “Το ABC ελέγχεται σε νυχτερινή βάση για όσα λέει ο Jimmy Kimmel”, είπε ο Rosenzweig.
Το ABC δεν απάντησε στο αίτημα του NPR για σχόλιο.
Εύκολο στη δημιουργία
Αυτοί οι παρουσιαστές talk show που δημιουργούνται από AI ως είδος αποτελούν κατά κάποιο τρόπο μεγαλύτερη απειλή από άλλα είδη deepfakes διασημοτήτων, όπως τραγουδιστών και ηθοποιών: Συνήθως είναι πιο εύκολο να δημιουργηθούν επειδή αυτοί οι οικοδεσπότες συνήθως απλώς στέκονται ή κάθονται σε ένα μέρος και μιλούν στην κάμερα και υπάρχουν άφθονες ηχογραφήσεις υψηλής ποιότητας από τις ομιλούσες φωνές τους διαθέσιμες στο διαδίκτυο για κλωνοποίηση.
«Σε πολλές περιπτώσεις, μπορώ να τραβήξω μια φωτογραφία από έναν καθυστερημένο παρουσιαστή και απλώς να την εμψυχώσω», είπε ο καθηγητής επιστήμης υπολογιστών στο Dartmouth College, Hany Farid, ο οποίος ειδικεύεται στην ανάλυση των deepfakes. “Να μια φωνή, δεκαπέντε δευτερόλεπτα. Ορίστε ένα σενάριο. Πήγαινε.”
Επίσης, είπε ο Φαρίντ, η τηλεόραση αργά το βράδυ είναι όπου πολλοί Αμερικανοί λαμβάνουν τα νέα τους και επικυρώνουν τις απόψεις τους.
«Τα deepfakes που βλέπουμε, είναι ουσιαστικά εκστρατείες παραπληροφόρησης που τώρα φαίνεται να βγαίνουν από το [voices] από αυτούς τους ανθρώπους που έχουμε συνηθίσει να ακούμε», είπε ο Φαρίντ. «Άρα είναι αρκετά αποτελεσματικοί».
The Allure of Late Night … online
Παρόλο που το κοινό βρίσκεται σε πτώση, περίπου το ένα τέταρτο των Αμερικανών εξακολουθούν να παρακολουθούν τακτικά τοκ σόου αργά τη νύχτα. Σύμφωνα με έρευνα του 2025 από το Κέντρο Έρευνας Δημοσίων Υποθέσεων Associated Press-NORC, η πλειονότητα αυτών των θεατών είναι Δημοκρατικοί και περισσότεροι από αυτούς παρακολουθούν κλιπ στο διαδίκτυο παρά τις πλήρεις εκπομπές στην κανονική γραμμική τηλεόραση. Ο Farid και ο Rosenzweig είπαν και οι δύο ότι αυτό μπορεί να εξηγήσει γιατί είναι πιο δύσκολο να βρεις τεχνητούς τεχνητούς ψεύτικους μονολόγους από δεξιούς παρουσιαστές talk show στα μέσα κοινωνικής δικτύωσης.
«Τα πράγματα που έχω δει είναι περισσότερο από την πλευρά της απάτης και της απάτης», είπε ο Farid. “Είναι σαν, “Ο Sean Hannity λέει ότι πρέπει να αγοράσετε αυτό το κρυπτονόμισμα!”
Οι εκπρόσωποι των οικοδεσποτών, συμπεριλαμβανομένων των Jimmy Kimmel, Jon Stewart, Sean Hannity και Greg Gutfeld, αρνήθηκαν ή δεν απάντησαν στα αιτήματα του NPR για σχολιασμό.
Οι λίγοι δημιουργοί που παράγουν τοκ σόου παρουσιάζουν deepfakes δεν απάντησαν στις ερωτήσεις του NPR σχετικά με τα κίνητρά τους.
Ο Φαρίντ είπε ότι μπορεί να το κάνουν για ιδεολογικούς λόγους – ή για να βγάλουν χρήματα.
“Είναι καθαρό δόλωμα κλικ. Αποκτήστε βολβούς ματιών. Λάβετε διαφημίσεις. Αυτό είναι όλο”, είπε ο Farid.
Οι πλατφόρμες ανταποκρίνονται
Οι πλατφόρμες που φιλοξενούν αυτό το slop AI προσπαθούν να το αστυνομεύσουν. Το TikTok, μαζί με την Google, στην οποία ανήκει το YouTube, και η Meta, στην οποία ανήκει το Instagram, έστειλαν δηλώσεις στο NPR λέγοντας ότι απαιτούν από τους δημιουργούς του deepfake περιεχομένου να το χαρακτηρίσουν ως κατασκευασμένο με AI. Είπαν ότι χρησιμοποιούν τεχνολογίες ανίχνευσης ομοιότητας και μετριοπάθειας για να βρουν μη εξουσιοδοτημένα βαθιά ψεύτικα, καθώς και να παρέχουν τρόπους στα θύματα αυτών των προσομοιώσεων να ζητούν τα ίδια καταργήσεις.
«Αντιμετωπίζουμε περιεχόμενο χαμηλής ποιότητας ή παραπλανητικό τεχνητής νοημοσύνης χρησιμοποιώντας συστήματα που έχουμε αναπτύξει εδώ και χρόνια για την καταπολέμηση των ανεπιθύμητων μηνυμάτων και των κλικ δολωμάτων», ανέφερε η δήλωση της Google, της οποίας το YouTube είναι θυγατρική. “Καθώς αυτή η τεχνολογία προχωρά, έχουμε αναπτύξει εργαλεία πρώτα στη βιομηχανία για να προστατεύσουμε τις ομοιότητες των δημοσίων προσώπων και των ηγετών των πολιτών και εφαρμόζουμε αυτόματα ετικέτες σε ρεαλιστικό περιεχόμενο AI για διαφάνεια των θεατών.”
«Απαιτούμε από τους ανθρώπους να αποκαλύπτουν, χρησιμοποιώντας το εργαλείο αποκάλυψης AI, όποτε δημοσιεύουν οργανικό περιεχόμενο με φωτορεαλιστικό βίντεο ή ήχο ρεαλιστικού ήχου που δημιουργήθηκε ή τροποποιήθηκε ψηφιακά και ενδέχεται να επιβάλλουμε κυρώσεις εάν δεν το κάνουν», αναφέρεται στην ανακοίνωση της μητρικής εταιρείας Instagram και Facebook, Meta. (Η Meta ζήτησε από το NPR να υποβάλει ένα παράδειγμα μεταμεσονύχτιου talk show deepfake βίντεο από το Instagram ή το Facebook προκειμένου να απαντήσει σε ερωτήσεις. Η εταιρεία επιβεβαίωσε ότι κατέρριψε τη σελίδα, στην οποία εμφανιζόταν ο Kimmel, αφού ειδοποιήθηκε από το NPR.)
«Η πολιτική του TikTok είναι να αφαιρεί τα επιβλαβή deepfakes και ξεχωριστά, να απαιτεί ετικέτες σε ρεαλιστικό περιεχόμενο τεχνητής νοημοσύνης που δεν είναι κατά τα άλλα παραβατικό», αναφέρεται στην ανακοίνωση του TikTok.
Όμως, η απόλυτη ταχύτητα και η ένταση με την οποία εμφανίζονται αυτά τα βίντεο σημαίνει ότι πολλά ξεφεύγουν.
Ένα deepfake του Jon Stewart σχετικά με την Ιταλίδα πρωθυπουργό Giorgia Meloni ανέβηκε στο TikTok για περισσότερους από δύο μήνες. Δεν έχει ορατή ετικέτα AI. Ομοίως, ένα βίντεο στο YouTube με έναν ψεύτικο Κίμελ που μιλά για τον Τραμπ που καυχιέται για την ικανότητά του στο γήπεδο του γκολφ ήταν ακόμα στο διαδίκτυο τη στιγμή της δημοσίευσης – τρεις εβδομάδες μετά τη δημοσίευσή του. Έχει περισσότερες από 230.000 προβολές.
Οι νόμοι υστερούν
Εκτός από τις προσπάθειες των πλατφορμών να απαλλαγούν από τα deepfakes, υπάρχουν επί του παρόντος λίγα νομικά μέσα για την αντιμετώπιση του ζητήματος.
“Το θέμα των deepfakes για πράγματα όπως οι τηλεπαρουσιαστές αργά τη νύχτα εμπίπτει σε ένα χώρο που είναι λίγο κενό στη νομοθεσία αυτή τη στιγμή”, δήλωσε ο Louis Tompros, ένας δικαστής πνευματικής ιδιοκτησίας που χειρίζεται υποθέσεις τεχνητής νοημοσύνης.
Ο Tompros λέει ότι η υπάρχουσα νομοθεσία περί πνευματικών δικαιωμάτων καταπολεμά μόνο τις μη εξουσιοδοτημένες χρήσεις δημιουργικών έργων και όχι τις μη εξουσιοδοτημένες συνθετικές διπλές δημιουργικών ανθρώπων. Ωστόσο, μερικές πολιτείες όπως η Καλιφόρνια και το Τενεσί παρέχουν προστασία έναντι των κλώνων φωνής που δημιουργούνται από την τεχνητή νοημοσύνη και των πλαστών βίντεο. Ένας αυξανόμενος αριθμός πολιτειών έχουν θεσπίσει προστατευτικά κιγκλιδώματα ή τώρα απαιτούν αποκαλύψεις για deepfakes που χρησιμοποιούνται σε πολιτικές διαφημίσεις. ο ομοσπονδιακός νόμος TAKE IT DOWN, ο οποίος υπεγράφη σε νόμο πέρυσι, ποινικοποιεί τη μη συναινετική δημοσίευση προσωπικών deepfakes. Αλλά αυτό δεν καλύπτει τα deepfakes μη σεξουαλικού περιεχομένου, όπως τα σχόλια των παρουσιαστών του talk show.
Εν τω μεταξύ, αρκετοί παρουσιαστές αργά το βράδυ, όπως ο John Oliver, έχουν μιλήσει για τους κινδύνους των deepfakes στις εκπομπές τους. Τα τεχνολογικά μειονεκτήματα παρέχουν επίσης τροφή για κωμωδία.
«Υπάρχουν μερικά πραγματικά μειονεκτήματα στην ανεξέλεγκτη ανάπτυξη όλων αυτών, μερικά από τα οποία ομολογουμένως είναι αρκετά ήσσονος σημασίας», είπε ο John Oliver σε ένα 2025. Την περασμένη εβδομάδα απόψε τμήμα για το θέμα. «Όπως το γεγονός ότι πολλοί από εμάς πρέπει τώρα να εξηγήσουμε στους γονείς μας ότι το απίστευτο πράγμα που είδαν στο Facebook δεν είναι πραγματικό».
