Ο Πάπας Λέων στοχεύει στη μεγάλη τεχνολογία σε μια σαρωτική εγκύκλιο για την τεχνητή νοημοσύνη

ΠΟΛΗ ΒΑΤΙΚΑΝΟΥ (RNS) – Ο Πάπας Λέων XIV έβαλε άμεσο στόχο τη δύναμη της Big Tech στην πρώτη του εγκύκλιο τη Δευτέρα (25 Μαΐου), προειδοποιώντας ότι η τεχνητή νοημοσύνη κινδυνεύει να διευρύνει την ανισότητα, να αποδυναμώσει τη δημοκρατία και να υπονομεύσει αυτό που σημαίνει να είσαι άνθρωπος.

Το έγγραφο, με τίτλο “Magnifica Humanitas” (Μαγευτική Ανθρωπότητα), χαρακτηρίζει την τεχνητή νοημοσύνη ως τη νέα βιομηχανική επανάσταση και κάνει έκκληση να “αφοπλιστεί η τεχνητή νοημοσύνη” αφαιρώντας την από στρατιωτικά και οικονομικά συμφέροντα, υποβάλλοντας τις εταιρείες τεχνητής νοημοσύνης σε αυστηρότερους κρατικούς και διεθνείς κανονισμούς και καλώντας την ευρεία συμμετοχή ατόμων και κοινοτήτων στη διαμόρφωση του μέλλοντος αυτής της τεχνολογίας.

«Ο αφοπλισμός της τεχνητής νοημοσύνης σημαίνει την απελευθέρωσή της από τη νοοτροπία του «ένοπλου» ανταγωνισμού, ο οποίος σήμερα δεν περιορίζεται απλώς στο στρατιωτικό πλαίσιο, αλλά είναι επίσης ένα οικονομικό και γνωστικό φαινόμενο», έγραψε ο Λέο. «Αφοπλισμός δεν σημαίνει αποκήρυξη της τεχνολογίας, αλλά αποτροπή της από το να κυριαρχήσει στην ανθρωπότητα», έγραψε ο Πάπας Λέων.

«Για αυτόν τον λόγο, η απλή ρύθμισή του είναι ανεπαρκής· πρέπει να είναι αφοπλισμένη, φιλόξενη και προσβάσιμη», συνέχισε.

Ο Leo ανέλαβε επίσης τη Big Tech στο έγγραφο, τονίζοντας τους κινδύνους που υπάρχουν μερικά πλούσια άτομα που επηρεάζουν το μέλλον και τα μέσα διαβίωσης της ανθρωπότητας, διευρύνοντας το χάσμα «μεταξύ εκείνων που μπορούν να συμμετάσχουν στην ψηφιακή επανάσταση και εκείνων που παραμένουν στο περιθώριο».

«Η τεχνητή νοημοσύνη τείνει να ενισχύει τη δύναμη όσων διαθέτουν ήδη οικονομικούς πόρους, τεχνογνωσία και πρόσβαση σε δεδομένα», έγραψε. «Οι μικρές αλλά με μεγάλη επιρροή ομάδες μπορούν να διαμορφώσουν πρότυπα πληροφοριών και κατανάλωσης, να επηρεάσουν τις δημοκρατικές διαδικασίες και να κατευθύνουν την οικονομική δυναμική προς όφελός τους, υπονομεύοντας την κοινωνική δικαιοσύνη και την αλληλεγγύη μεταξύ των λαών».

Ο Πάπας Λέων παρουσίασε την εγκύκλιο τη Δευτέρα στη Συνοδική Αίθουσα του Βατικανού, όπου αναφέρθηκε στην εγκύκλιο του 1891 «Rerum Novarum» (Περί νέων πραγμάτων), που έγραψε ο συνονόματός του Πάπας Λέων XIII για να αντιμετωπίσει τις προκλήσεις που έθετε η βιομηχανική επανάσταση του 19ου αιώνα.

«Αισθάνομαι ότι έχω την εμπιστοσύνη να επιβλέπω μια άλλη μεγάλη μεταμόρφωση μέσα από τα μάτια της πίστης, με τη διαύγεια της λογικής και με ανοιχτό το θείο μυστήριο, με την κραυγή των φτωχών και τη γη να αντηχεί στην καρδιά μου», είπε ο Λέο, προσθέτοντας ότι η εγκύκλιος ήταν το αποτέλεσμα της βαθιάς ακρόασης επιστημόνων και μηχανικών, πολιτικών ηγετών και δημοσίων αξιωματούχων που ανησυχούσαν βαθιά για τις μελλοντικές γενιές.

«Δεν αρκεί ο αφοπλισμός, πρέπει να οικοδομήσουμε», πρόσθεσε, ζητώντας ευρεία συμμετοχή στον προγραμματισμό, τη ρύθμιση και τα οφέλη της τεχνητής νοημοσύνης.

Ο Πάπας παρουσίασε το έγγραφο μαζί με υψηλόβαθμους ιεράρχες του Βατικανού, καθολικούς θεολόγους και τον Chris Olah, τον συνιδρυτή της Anthropic, της αμερικανικής εταιρείας τεχνητής νοημοσύνης πίσω από τον Claude που πιέζει να χαρακτηριστεί ως προσανατολισμένη στην ασφάλεια και ηθική.

Μιλώντας στην εκδήλωση, ο Olah είπε ότι η ανάπτυξη της τεχνητής νοημοσύνης «λειτουργεί μέσα σε ένα σύνολο κινήτρων και περιορισμών που μερικές φορές μπορεί να έρχονται σε αντίθεση με το να κάνεις το σωστό», αναφέροντας εμπορικές ανησυχίες, γεωπολιτική πίεση και υπερηφάνεια και φιλοδοξία.

Γι’ αυτόν τον λόγο, είπε, “χρειαζόμαστε περισσότερο από τον κόσμο — θρησκευτικές κοινότητες, κοινωνία των πολιτών, μελετητές, κυβερνήσεις — για να κάνουμε ό,τι έχει κάνει ο Σεβασμιώτατος εδώ: να το λάβουμε σοβαρά υπόψη, να δούμε προσεκτικά και να ωθήσουμε τα γεγονότα προς μια καλύτερη κατεύθυνση”.

Στο επίκεντρο της εγκυκλίου βρίσκεται η επιμονή ότι τα ανθρώπινα όντα έχουν προτεραιότητα έναντι της τεχνητής νοημοσύνης. Η αξιοπρέπεια του ανθρώπου «δεν εξαρτάται από τις ικανότητες, τον πλούτο ή τη θέση του ατόμου στη ζωή, ούτε από τις σωστές ή λάθος επιλογές που γίνονται», αλλά απλώς λόγω του ότι υπάρχει, υποστηρίζει η εγκύκλιος.

Σε μια εποχή συνομιλιών με τεχνητή νοημοσύνη, ο Λίο έγραψε ότι ο κίνδυνος δεν είναι μόνο κάποιος που αλληλεπιδρά με έναν πράκτορα τεχνητής νοημοσύνης να πιστέψει ότι μιλάει με ένα άτομο, αλλά ότι μπορεί να χάσει την επιθυμία να αναζητήσει άλλους ανθρώπους. Και η παράδοση της λήψης αποφάσεων σε μηχανές μπορεί να «ενθαρρύνει την υπερβολική εμπιστοσύνη και την αναζήτηση έτοιμων απαντήσεων και να αποδυναμώσει την προσωπική δημιουργικότητα και κρίση».

Στο έγγραφο, ο Πάπας αναγνωρίζει τον θετικό αντίκτυπο που μπορεί να έχει η καινοτομία της τεχνητής νοημοσύνης στην ανθρώπινη κοινωνία και στη φροντίδα του περιβάλλοντος, ενώ προειδοποιεί επίσης για τους κινδύνους της. «Η τεχνολογία δεν είναι ποτέ ουδέτερη», έγραψε ο Leo, προσθέτοντας ότι είναι μια έκφραση των συμφερόντων και των ενδιαφερομένων πίσω από αυτήν.

«Όταν μια τέτοια εξουσία συγκεντρώνεται στα χέρια λίγων, τείνει να γίνεται αδιαφανής και να αποφεύγει τη δημόσια εποπτεία, αυξάνοντας τον κίνδυνο στρεβλωμένων μορφών ανάπτυξης που προκαλούν νέες εξαρτήσεις, αποκλεισμούς, χειρισμούς και ανισότητες», έγραψε ο Λέο.

Ο Λέο υποστήριξε ότι η εφαρμογή ηθικών και ηθικών αρχών στα μοντέλα τεχνητής νοημοσύνης δεν μπορεί να συμβεί αφού έχει προκαλέσει τον όλεθρο στην κοινωνία. Τέτοιες αξίες πρέπει να εφαρμόζονται στην κατασκευή του.

Απωθώντας τα στελέχη που αντιστέκονται στους περιορισμούς στην ανάπτυξη της τεχνητής νοημοσύνης, ο Leo εξήγησε ότι «η έκκληση για σύνεση, αυστηρή αξιολόγηση και ακόμη και, μερικές φορές, πιο αργό ρυθμό στην υιοθέτηση της τεχνητής νοημοσύνης δεν σημαίνει αντίθεση στην πρόοδο.

Σε ένα νεύμα στα μοντέλα τεχνητής νοημοσύνης που έχουν υιοθετήσει ηθικά συντάγματα –όπως το Anthropic–, ο Πάπας είπε ότι τέτοια πλαίσια πρέπει να συζητούνται ακόμη και να υπόκεινται σε κριτήρια κοινής κοινωνικής δικαιοσύνης. «Μια πιο ηθική τεχνητή νοημοσύνη δεν αρκεί αν αυτή η ηθική καθορίζεται από λίγους», έγραψε.

Το έγγραφο λαμβάνει επίσης τις δημοφιλείς φιλοσοφίες της Silicon Valley, τον διανθρωπισμό και τον μεταανθρωπισμό, τους οποίους ο Πάπας όρισε ως μια σειρά από υποθέσεις «που ερμηνεύουν την πρόοδο ως υπέρβαση της ανθρώπινης κατάστασης».

Αυτές οι φιλοσοφίες βλέπουν τους περιορισμούς – συμπεριλαμβανομένης της ασθένειας, της αναπηρίας, της τρίτης ηλικίας και της ευαλωτότητας – ως κάτι που πρέπει να ξεπεραστούν, έγραψε ο Λέο, αλλά «πρέπει να θυμόμαστε ότι η ανθρωπότητα δεν ανθίζει παρά περιορισμούς, αλλά συχνά μέσω αυτών», προσθέτοντας ότι μια ζωή χωρίς περιορισμούς θα σήμαινε τελικά να μην είσαι άνθρωπος.

Ο καρδινάλιος VÃctor Manuel Fernández, ο οποίος ηγείται του τμήματος δογμάτων του Βατικανού, είπε κατά την παρουσίαση του εγγράφου ότι σε αντίθεση με αυτές τις φιλοσοφίες, υποστηρίζοντας ότι «η ανθρωπότητα έχει φτάσει στην ημερομηνία λήξης της και πρέπει απλώς να αντικατασταθεί», η Καθολική διδασκαλία πιστεύει ότι «κάθε άνθρωπος έχει άπειρη αξιοπρέπεια».

Σε αντίθεση με τους κινδύνους της τεχνητής νοημοσύνης, ο Λίο επεσήμανε την αλήθεια ως «ουσιώδες στοιχείο της δημοκρατίας» και προέτρεψε τους ανθρώπους να λάβουν εκπαίδευση σχετικά με την τεχνητή νοημοσύνη, ειδικά τους νέους. Ενώ η τεχνητή νοημοσύνη υπόσχεται να ανακουφίσει τα βάρη της εργασίας, ο Leo προειδοποίησε ότι «συχνά αναγκάζει τους εργαζομένους να προσαρμοστούν στην ταχύτητα και τις απαιτήσεις των μηχανών, αντί να σχεδιάζονται μηχανές για να υποστηρίζουν αυτούς που εργάζονται».

Σε αυτή την τέταρτη βιομηχανική επανάσταση, προτεραιότητα πρέπει να είναι «η προστασία των ευκαιριών απασχόλησης και ο αναντικατάστατος ρόλος του ατόμου», έγραψε ο Λέο.

Καθώς η παγκόσμια οικονομική ανισότητα μεγαλώνει, ο Πάπας προειδοποίησε ότι «η τεχνολογική πρόοδος θα προκαλέσει αναπόφευκτα διαρθρωτικές ανισότητες». Ο Λέο ζήτησε φορολογικά συστήματα που να ελαφρύνουν το βάρος των πιο ευάλωτων και να απαιτούν περισσότερα από όσους διαθέτουν περισσότερους πόρους, ενώ τα οφέλη των καινοτομιών θα πρέπει να είναι διαφανή και να μοιράζονται με ολόκληρη την κοινότητα.

Ο Πάπας προειδοποίησε ενάντια στις «νέες μορφές δουλείας», τονίζοντας τα ίχνη της ανθρώπινης και περιβαλλοντικής εκμετάλλευσης πίσω από την τεχνητή νοημοσύνη – από τα μοντέλα που εκπαιδεύονται σε υλικό που προστατεύεται από πνευματικά δικαιώματα μέχρι την εξόρυξη σπάνιων ορυκτών που χρησιμοποιούνται σε υλικό τεχνητής νοημοσύνης. Ο Λέο αναλογίστηκε επίσης την ιστορία της συμπεριφοράς της εκκλησίας απέναντι στη δουλεία, η οποία δεν καταγγέλθηκε πλήρως μέχρι το^ου αιώνα από τον Λέοντα XIII, τονίζοντας την αργή εξέλιξη του καθολικού δόγματος με την πάροδο του χρόνου.

«Για αυτό, στο όνομα της Εκκλησίας, ζητώ ειλικρινά συγγνώμη», έγραψε ο Λέο.

Υπάρχει ένα «νέο πρόσωπο» της αποικιοκρατίας, υποστήριξε ο Leo, το οποίο δεν κυριαρχεί μόνο στα σώματα, αλλά και οικειοποιείται δεδομένα: ροές υγείας, επιδημιολογικά προφίλ, γενετικοί χάρτες και δημογραφικά δεδομένα. «Αυτές έχουν γίνει οι νέες σπάνιες γαίες δύναμης», είπε ο Leo, προσθέτοντας ότι η τεχνολογία AI στα χέρια λίγων ατόμων ή ομάδων με προσανατολισμό στο κέρδος αντιπροσωπεύει μια νέα μορφή αποικιακής κυριαρχίας.

“Εδώ βρίσκεται μια από τις πιο επείγουσες ηθικές προκλήσεις της εποχής μας: να διασφαλίσουμε ότι η κοινή γνώση θα γίνει πραγματικό κοινό αγαθό και όχι όργανο κυριαρχίας. Αυτό απαιτεί την αποκατάσταση στα άτομα όχι μόνο των δεδομένων που τα περιγράφουν, αλλά και της ικανότητας να αποφασίζουν πώς θα χρησιμοποιηθεί, από ποιον και προς όφελος”, έγραψε.

Ένα εκτενές μέρος του εγγράφου αντικατοπτρίζει το θέμα του πολέμου, το οποίο ο Πάπας έχει καταγγείλει επανειλημμένα τον πρώτο χρόνο του ως ποντίφικας. Η στρατιωτική χρήση της τεχνητής νοημοσύνης «πρέπει να υπόκειται στους πιο αυστηρούς ηθικούς περιορισμούς», έγραψε, προσθέτοντας ότι η ευθύνη για τη στρατιωτική και ιδιαίτερα θανατηφόρα δράση θα πρέπει να παραμείνει στα ανθρώπινα όντα, όχι στις μηχανές.

Κάλεσε για ιχνηλασιμότητα στις διαδικασίες λήψης αποφάσεων του πολέμου, για ανθρώπινη εποπτεία και για τη δημιουργία διεθνών νόμων για την αντιμετώπιση της αυξημένης χρήσης αυτοματοποιημένων όπλων και των συνεπειών τους.

Το έγγραφο βασίζεται στις συνεισφορές παλαιότερων ποντίφικες, ξεκινώντας από τον Πάπα Λέοντα ΙΓ’, και βασίζεται στην καθολική κοινωνική διδασκαλία, την παράδοση της εκκλησίας να εφαρμόζει ηθικές αρχές στην κοινωνική, οικονομική και πολιτική ζωή, με επίκεντρο την ανθρώπινη αξιοπρέπεια και το κοινό καλό.

Η αλληλεγγύη και η φροντίδα για τον «γείτονα» είναι βασικές πτυχές του προβληματισμού του Λέοντα, με ιδιαίτερο ενδιαφέρον για τις επόμενες γενιές.

Η κοινωνική δικαιοσύνη «δεν αφορά απλώς τη δικαιότερη κατανομή των πόρων ή τη διόρθωση των τρεχουσών αδικιών, αλλά προσλαμβάνει και μια επανορθωτική διάσταση», έγραψε ο Λέο. Εφαρμόζοντας την ίδια αρχή στην ψηφιακή σφαίρα, ο Πάπας προειδοποίησε για «νέες μορφές αποκλεισμού και στέρησης ελευθεριών», όπως η επεμβατική επιτήρηση, οι κοινότητες στερούνται πρόσβασης σε βασικές τεχνολογίες και οι ομάδες που βλάπτονται από αδιαφανείς αλγόριθμους που διαιωνίζουν τις διακρίσεις.

Στο πλαίσιο αυτό, αντιμετώπισε επίσης τη μετανάστευση ως «λιθοδοκιμή για την κοινωνική δικαιοσύνη σήμερα».

Στην εισαγωγή, ο Λέων αντλεί από τη Βίβλο για να αντιπαραθέσει την πόλη της Βαβέλ, με την επιδίωξή της για δύναμη και αυτάρκεια, και την ανοικοδόμηση της Ιερουσαλήμ από τον Νεεμία, με προσανατολισμό στην προσευχή και τη συμμετοχή των οικογενειών και των κοινοτήτων. Αυτό αντανακλά τις διδασκαλίες του θρησκευτικού τάγματος του Πάπα, που βασίζεται στις αρχές του Αγίου Αυγουστίνου, που αντιπαραβάλλουν την αγάπη για τη γήινη πόλη, δομημένη γύρω από τις έννοιες της εξουσίας και της κυριαρχίας, με τη λαχτάρα για την ουράνια πόλη του Θεού.

“Όπως σε όλη την ιστορία, αυτοί οι δύο έρωτες συνεχίζουν να διεκδικούν κυριαρχία στις καρδιές μας σήμερα. Η εποχή της τεχνητής νοημοσύνης δεν αποτελεί εξαίρεση: η οικοδόμηση της Βαβέλ ή η ανοικοδόμηση της Ιερουσαλήμ ξεκινά μέσα στον καθένα μας”, έγραψε.

«Αυτή είναι μια ευκαιρία ορόσημο για τον κόσμο να δει μια νέα τεχνολογία και να σκεφτεί πραγματικά σε τι χρησιμεύει», δήλωσε ο Brian Patrick Green, διευθυντής τεχνολογικής δεοντολογίας στο Markkula Center for Applied Ethics του Πανεπιστημίου Santa Clara.

“Ποιος είναι ο σκοπός αυτής της τεχνολογίας; Τι υποτίθεται ότι κάνει στον κόσμο; Πώς μπορεί να βοηθήσει τους ανθρώπους; Τι πρέπει να κάνουμε για να βεβαιωθούμε ότι αυτή η τεχνολογία κάνει το καλύτερο που μπορεί να κάνει για τους περισσότερους ανθρώπους στον κόσμο;”

Αυτή η ιστορία δημιουργήθηκε μέσω μιας συνεργασίας μεταξύ NPR και Religion News Service.