Η Google διακόπτει τις δορυφορικές εικόνες τεχνητής νοημοσύνης, μετά από φόβους για deepfakes στον ουρανό

Μια μέρα αφότου η Google παρουσίασε μια νέα δυνατότητα που επέτρεπε στους χρήστες να δημιουργούν δορυφορικές εικόνες που δημιουργούνται από AI με το πάτημα ενός κουμπιού στην πλατφόρμα της Google Earth, η εταιρεία ανακοίνωσε ότι καταργεί το εργαλείο.

“Έχουμε δει επαγγελματίες γεωχωρικούς να χρησιμοποιούν αυτήν τη δυνατότητα για διάφορους χρήσιμους σκοπούς”, ανέφερε η Google σε δήλωση στο X. “Ωστόσο, είδαμε επίσης άτομα να μοιράζονται στιγμιότυπα οθόνης εικόνων που δημιουργούνται που φαίνεται να παραβιάζουν τις πολιτικές μας. Επομένως, αποσύρουμε αυτήν τη δυνατότητα στο Google Earth ενώ εργαζόμαστε για την εφαρμογή ισχυρότερων προστατευτικών κιγκλιδωμάτων.”

Στην αρχική της ανακοίνωση για τη νέα λειτουργία την Πέμπτη, η εταιρεία είπε ότι σχεδιάστηκε για να λειτουργεί με τη φαντασία των χρηστών: “Απλώς μεγεθύνετε σε ένα μέρος στο Google Earth στον ιστό (sic), πατήστε “δημιουργία εικόνας” και πληκτρολογήστε ό,τι θέλετε να δείτε”, έγραψε ο Bryan Horowitz, διευθυντής προϊόντων.

Αλλά για τους ειδικούς και τους αναλυτές που βασίζονται στις εικόνες της Google για την επαλήθευση έκτακτων ειδήσεων και φρικαλεοτήτων σε δυσπρόσιτα μέρη του κόσμου, η δυνατότητα δημιουργίας deepfake δορυφορικών εικόνων με το πάτημα ενός κουμπιού ήταν τρομακτική.

“Δοκίμασα πρόσφυγες στα μεξικανικά σύνορα, ένα πυρηνικό εργοστάσιο στο Ιράν, μια συντριβή στο Άμστερνταμ, ένα νοσοκομείο με κρατήρα βόμβας στη Γάζα. Τίποτα δεν αρνήθηκε”, είπε στο NPR μέσω κειμένου ο Henk van Ess, ερευνητής ανοιχτού κώδικα που έγραψε πρώτος για την πιθανή ζημιά που θα μπορούσε να προκαλέσει το εργαλείο.

Το NPR κατάφερε να δημιουργήσει εύκολα εικόνες του νησιού Kharg του Ιράν που φλέγεται και ενός πλημμυρισμένου συγκροτήματος του Καπιτωλίου των ΗΠΑ. Και τα δύο γεγονότα, που δεν έχουν συμβεί, θα αποτελούσαν σημαντική είδηση ​​αν ήταν αληθινά.

Στο διαδίκτυο, δημοσιογράφοι και ερευνητές ανοιχτού κώδικα αναρωτήθηκαν δυνατά για την απόφαση της Google. «Πολύ περίεργος πώς ή αν αυτή η ιδέα συνδυάστηκε εσωτερικά, επειδή οι ευκαιρίες για κατάχρηση και παραπληροφόρηση είναι κυριολεκτικά απεριόριστες», έγραψε ο Evan Hill, ένας οπτικός ερευνητής εγκληματολογίας στην Washington Post στο X.

Τα μάτια στον ουρανό

Καθώς ο διαδικτυακός κόσμος γεμίζει με deepfakes και slop που δημιουργούνται από την τεχνητή νοημοσύνη, οι δορυφορικές εικόνες αποτελούν βασικό εργαλείο για την κατανόηση του τι είναι πραγματικό και τι όχι. Οι ερευνητές ανοιχτού κώδικα έχουν χρησιμοποιήσει δορυφορικές εικόνες για την επαλήθευση γεγονότων στο έδαφος και ως αναφορά για την κατανόηση βίντεο και εικόνων που μοιράζονται στο διαδίκτυο.

Οι εικόνες του Google Earth δεν είναι πάντα οι πιο ενημερωμένες, αλλά η εκτεταμένη, υψηλής ανάλυσης κάλυψη του πλανήτη μπορεί να παρέχει σημαντικές εικόνες αναφοράς τόσο για εικόνες από το έδαφος όσο και για πιο πρόσφατες εικόνες από άλλους δορυφόρους.

“Οι δορυφορικές εικόνες ήταν ένα ασφαλές στοίχημα όταν πρόκειται για την επαλήθευση ενός γεγονότος, επειδή είναι δύσκολο να πλαστογραφηθεί”, λέει ο Jake Godin, ανώτερος ερευνητής της διαδικτυακής ομάδας Bellingcat, η οποία κάνει οπτικές εγκληματολογικές έρευνες. Οι δορυφορικές εικόνες ελέγχονται συνήθως από εταιρείες ή ιδρύματα και η πηγή τους, μια κάμερα εκατοντάδες μίλια πάνω από την επιφάνεια της γης, ήταν ιστορικά δύσκολο να μιμηθεί κανείς.

Ψεύτικα από το διάστημα

Ο Godin σημείωσε ότι οι ψεύτικες δορυφορικές εικόνες έχουν ήδη εμφανιστεί σε περιορισμένες περιπτώσεις. Στις αρχές του πολέμου ΗΠΑ-Ισραήλ με το Ιράν, για παράδειγμα, κυκλοφόρησαν ψεύτικες εικόνες μιας κατεστραμμένης αμερικανικής βάσης στο Μπαχρέιν. Οι εικόνες, που εμφανίστηκαν στα μέσα ενημέρωσης του Ιράν, φάνηκε να χρησιμοποιούν εικόνες Google Earth και Google AI για να δημιουργήσουν ψεύτικη ζημιά στη βάση. (Οι πραγματικές δορυφορικές εικόνες έδειξαν αργότερα ότι η βάση ήταν, στην πραγματικότητα, κατεστραμμένη, απλώς όχι με τον τρόπο που φαίνεται στην ψεύτικη εικόνα.)

Αλλά η συναρμολόγηση των εργαλείων για τη δημιουργία δορυφορικών εικόνων που δημιουργούνται από AI με ένα μόνο κλικ έχει τη δυνατότητα να επιταχύνει σημαντικά τη δημιουργία πλαστών τεχνητής νοημοσύνης, είπε ο Godin. «Απλώς εξορθολογίζει τη διαδικασία, κάτι που νομίζω ότι θα την κάνει να πολλαπλασιαστεί περισσότερο».

Ο Godin ανησυχεί ότι η διάδοση ψεύτικων εικόνων θα αυξήσει τη σύγχυση και την παραπληροφόρηση. «Η παραπληροφόρηση ταξιδεύει πιο μακριά και πιο γρήγορα από κάθε είδους διόρθωση», είπε. Επιπλέον, οι κυβερνήσεις θα είναι πλέον πιο πιθανό να ισχυριστούν ότι οι δορυφορικές εικόνες είναι ψεύτικες, ακόμη και αν είναι πραγματικές, υπονομεύοντας την εμπιστοσύνη του κοινού.

Σε μια ανάρτηση στο X την Πέμπτη, η εταιρεία είπε ότι “λαμβάνει στα σοβαρά την παραπληροφόρηση”. Η εταιρεία σημείωσε ότι όλες οι εικόνες επισημαίνονται με το υδατογράφημα SynthID της, το οποίο διασφαλίζει ότι θα επισημανθεί ως τεχνητή νοημοσύνη σε άλλα εργαλεία της Google, όπως το Gemini. «Επιπλέον, αποτρέπουμε τη δημιουργία εικόνων για επιβλαβή θέματα και ενημερώνουμε συνεχώς τις προστασίες μας», ανέφερε.

Αλλά λίγοι στην κοινότητα ανοιχτού κώδικα φάνηκαν να καθησυχάζονται από τις δηλώσεις της Google. Για τον van Ess, η απόφαση είναι ιδιαίτερα ενοχλητική επειδή το Google Earth θεωρείται εδώ και καιρό ως ένα από τα καλύτερα εργαλεία για την επαλήθευση πληροφοριών που δημοσιεύονται στα μέσα κοινωνικής δικτύωσης.

Εάν η Google συνεχίσει να αναπτύσσει το εργαλείο τεχνητής νοημοσύνης, είπε, αυτό θα σήμαινε ότι «το ψεύτικο κατασκευάζεται μέσα σε αυτό που χρησιμοποιούν οι άνθρωποι για να ελέγξουν αν οι φωτογραφίες είναι αληθινές».