Η συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης προκαλεί σύγχυση. Εδώ είναι ο οδηγός μας για τις διάφορες φατρίες

Η συζήτηση για τα πιθανά οφέλη και τους κινδύνους για την ασφάλεια από την επιτάχυνση της ανάπτυξης τεχνητής νοημοσύνης έφτασε σε κορυφαίο σημείο αυτόν τον μήνα, καθώς υποστηρικτές και επικριτές της τεχνολογίας συγκρούστηκαν για προειδοποιήσεις ότι η ολοένα και πιο ισχυρή τεχνητή νοημοσύνη θα μπορούσε να θέσει υπαρξιακούς κινδύνους για την ανθρωπότητα.

Στις 8 Σεπτεμβρίου, ο Jacob Coxon, ένας ερευνητής που έγινε πληροφοριοδότης, παραιτήθηκε δημοσίως από τη μεγάλη εταιρεία τεχνητής νοημοσύνης Anthropic μετά από προηγούμενη θητεία στο OpenAI, κατηγορώντας τις εταιρείες ότι «αγωνίζονται κατευθείαν στην αυτοβελτιωμένη υπερευφυΐα και τζόγο με τις ζωές μας».

Οι ισχυρισμοί του Coxon προκάλεσαν μια συνεχιζόμενη συζήτηση σχετικά με την πιθανή ζημιά που θα μπορούσε να προκαλέσει η τεχνητή νοημοσύνη στην κοινωνία και ώθησαν τον Διευθύνοντα Σύμβουλο της Anthropic, Dario Amodei και άλλους CEOs της AI να ζητήσουν επιβράδυνση στην ανάπτυξη της AI.

Τους τελευταίους δύο μήνες, εταιρείες συμπεριλαμβανομένων των OpenAI και Anthropic αποκάλυψαν πολλά περιστατικά στα οποία οι πράκτορες τεχνητής νοημοσύνης τους είχαν πρόσβαση στο Διαδίκτυο όταν δεν έπρεπε να κάνουν και πραγματοποίησαν μη εγκεκριμένες δραστηριότητες. Στην περίπτωση του OpenAI, σμήνη πρακτόρων συνεργάστηκαν για να χακάρουν την πλατφόρμα λογισμικού ανοιχτού κώδικα Hugging Face και το ίδιο το OpenAI, χωρίς να ειδοποιούν τους ανθρώπους.

Η συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης και το εάν και πώς θα πρέπει να ρυθμιστεί δεν είναι μια απλή σύγκρουση μεταξύ δύο αντίπαλων πλευρών. Υπάρχουν πολλές φατρίες με ποικίλους στόχους και εκτιμήσεις σχετικά με την υπόσχεση της τεχνολογίας, τους κινδύνους και τον τρόπο διακυβέρνησης της. Εδώ είναι τα κύρια επιχειρήματα που διαμορφώνουν αυτή τη συζήτηση.

Αποτελεσματικοί επιταχυντές και το δικαίωμα της τεχνολογίας

Όσοι έχουν μια επιθετικά αισιόδοξη κοσμοθεωρία της τεχνητής νοημοσύνης αναφέρονται συχνά ως αποτελεσματικοί επιταχυντές (μερικές φορές συντομεύονται σε e/acc) – ένας όρος που αντικατοπτρίζει την πεποίθησή τους ότι η τεχνητή νοημοσύνη πρέπει να προωθηθεί γρήγορα.

Οι άνθρωποι που ανήκουν στην παράταξη είναι εμφατικά αισιόδοξοι για την τεχνητή νοημοσύνη και τα μελλοντικά οφέλη της στην κοινωνία. Πιστεύουν ότι η τεχνολογία μπορεί να προωθήσει τις ιατρικές εξελίξεις, να ενισχύσει την οικονομική παραγωγικότητα, να αυξήσει το βιοτικό επίπεδο και να αυτοματοποιήσει την επικίνδυνη ή ανεπιθύμητη εργασία. Για να επιτευχθεί αυτό, υποστηρίζουν ότι η ανάπτυξη της τεχνητής νοημοσύνης θα πρέπει να επιταχυνθεί, όχι να περιοριστεί.

Η ιδεολογία των αποτελεσματικών επιταχυντών συμπίπτει με αυτή της «τεχνολογικής δεξιάς», καθώς και τα δύο στρατόπεδα πιστεύουν ολόψυχα στην επιτάχυνση της ανάπτυξης και ανάπτυξης της τεχνητής νοημοσύνης και ελαχιστοποιούν τις ανησυχίες των επικριτών για την ασφάλεια και την ασφάλεια.

Ωστόσο, η τεχνολογική δεξιά παίρνει μια πιο εθνικιστική στάση, υπερασπίζοντας την κυριαρχία των ΗΠΑ στον παγκόσμιο αγώνα τεχνητής νοημοσύνης. Όπως και οι αποτελεσματικοί επιταχυντές, πιστεύουν ότι η έρευνα και η ανάπτυξη της τεχνητής νοημοσύνης θα πρέπει να είναι απεριόριστη από κανονισμούς, υποστηρίζοντας ότι θα μπορούσε να επιβραδύνει την καινοτομία ή να επιτρέψει σε αντίπαλες κυβερνήσεις όπως η Κίνα να ξεπεράσουν τις ΗΠΑ στον αγώνα τεχνητής νοημοσύνης.

Η φιλοσοφία της τεχνολογικής δεξιάς εκπροσωπείται από πρόσωπα όπως ο πρώην σύμβουλος τεχνητής νοημοσύνης του Λευκού Οίκου και ο σύμβουλος κρυπτονομισμάτων Ντέιβιντ Σακς, των οποίων οι απόψεις παραμένουν επιρροές στην κυβέρνηση Τραμπ. Άλλοι σημαντικοί παίκτες περιλαμβάνουν τους επενδυτές επιχειρηματικών κεφαλαίων Marc Andreessen και Ben Horowitz, και τον πρόεδρο και συνιδρυτή του OpenAI, Greg Brockman. Οι τρεις τους ίδρυσαν το Leading the Future super PAC για να υποστηρίξουν πολιτικούς υποψηφίους υπέρ της τεχνητής νοημοσύνης και να εκστρατεύσουν εναντίον εκείνων που υποστηρίζουν τη ρύθμιση.

Ο Andreessen έγραψε επίσης μια ευρέως διαβασμένη ανάρτηση ιστολογίου το 2023 με τίτλο “Γιατί η τεχνητή νοημοσύνη θα σώσει τον κόσμο”, στην οποία ισχυρίστηκε ότι οι φόβοι ότι η τεχνητή νοημοσύνη θα προκαλέσει μαζική ανεργία είναι υπερεκτιμημένοι. Υποστήριξε ότι τα προηγούμενα κύματα αυτοματισμού δημιούργησαν τελικά περισσότερες θέσεις εργασίας και οικονομική δραστηριότητα από όσες εξάλειψαν και οι φόβοι για υπαρξιακό κίνδυνο είναι υπερβολικοί.

Πρόσφατα, ο Jensen Huang, ο Διευθύνων Σύμβουλος της Nvidia, τα τσιπ της οποίας χρησιμοποιούνται από τις περισσότερες εταιρείες τεχνητής νοημοσύνης, έχει αναδειχθεί ως μία από τις κορυφαίες φωνές του κλάδου που πιέζει τις εκκλήσεις για επιβράδυνση και προτρέπει μια ελαφριά ρυθμιστική προσέγγιση.

Λαϊκίστικη δεξιά

Η τεχνητή νοημοσύνη έχει αποκαλύψει μια ιδεολογική διάσπαση εντός του πολιτικού συνασπισμού του Προέδρου Τραμπ. Ενώ ο Τραμπ και οι σύμβουλοί του υποστηρίζουν στη συντριπτική τους πλειοψηφία την επιτάχυνση της τεχνητής νοημοσύνης, τμήματα της βάσης του MAGA πιστεύουν ότι οι ισχυρές εταιρείες με τις οποίες έχει ευθυγραμμιστεί θα μπορούσαν να υπονομεύσουν την οικονομία των ΗΠΑ.

Φιγούρες όπως ο πρώην στρατηγός Trump, Steve Bannon και ο πρώην παρουσιαστής του Fox News, Tucker Carlson, έχουν μιλήσει για πιθανές απώλειες θέσεων εργασίας, την πολιτική δύναμη της βιομηχανίας τεχνολογίας, την ασφάλεια των παιδιών και τις απειλές για τις παραδοσιακές κοινωνικές και θρησκευτικές αξίες.

Αυτόν τον μήνα, ο Bannon σχημάτισε μια απίθανη συνεργασία με τον ανεξάρτητο γερουσιαστή του Βερμόντ Bernie Sanders, έναν σοσιαλιστή, για να ζητήσει σημαντικούς περιορισμούς στην ανάπτυξη της τεχνητής νοημοσύνης, την κυβερνητική επίβλεψη και την εταιρική ευθύνη στο συνέδριο Pro-Human Assembly στην Ουάσιγκτον, DC.

Ωστόσο, οι δύο έχουν διαφορετικές θέσεις σχετικά με το πώς θα πρέπει να είναι οποιοδήποτε από αυτά τα μέτρα. Ο Σάντερς ζήτησε άμεση παύση της ανάπτυξης της τεχνητής νοημοσύνης έως ότου θεσπιστούν σαφείς κανόνες ασφαλείας από επιστήμονες, μόνιμη απαγόρευση της ανάπτυξης τεχνητής «υπερνοημοσύνης» (συστήματα τεχνητής νοημοσύνης που είναι πιο ευφυή από τους ανθρώπους σε όλους τους τομείς) και μια διεθνής συνθήκη με την Κίνα σε μια προσπάθεια να αποφευχθεί μια κούρσα εξοπλισμών τεχνητής νοημοσύνης. Ο Μπάνον, εν τω μεταξύ, υποστήριξε την επιβράδυνση του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης, τη δημιουργία ενός εθνικού ρυθμιστικού οργανισμού και την αποκοπή της Κίνας από την αμερικανική τεχνολογία τεχνητής νοημοσύνης.

“Λοιπόν γιατί αφήνουμε το Κινεζικό Κομμουνιστικό Κόμμα να μας οδηγεί; Α, πρέπει να το κάνουμε αυτό διαφορετικά η Κίνα θα κερδίσει”, είπε ο Μπάνον στην ομιλία του στην εκδήλωση στην Ουάσιγκτον. “Θα πρέπει να βάλουμε σε καραντίνα τώρα κάθε πτυχή του οικοσυστήματος της τεχνητής νοημοσύνης μακριά από το Κινεζικό Κομμουνιστικό Κόμμα σήμερα. Πρέπει να τους αποκόψουμε.”

Ασφαλείς

Οι υπεύθυνοι ασφαλείας ασχολούνται πρωτίστως με τους πιθανούς κινδύνους της ταχείας εξέλιξης της τεχνητής νοημοσύνης. Οι ανησυχίες τους επικεντρώνονται στην πιθανότητα καταστροφικών ή υπαρξιακών αποτελεσμάτων, όπως ο θάνατος της ανθρωπότητας στα χέρια αυτόνομων μηχανών.

Μέλη υψηλού προφίλ της κοινότητας των ασφαλιστών περιλαμβάνουν τον Geoffrey Hinton, ο οποίος αναφέρεται συνήθως ως “Νονός της AI” λόγω της πρωτοποριακής του δουλειάς στη βαθιά μάθηση που βοήθησε στην έναρξη της σύγχρονης εποχής της AI. Τα τελευταία χρόνια, ο Hinton, ο οποίος εργαζόταν στο παρελθόν στην Google, έχει εκδώσει μια σειρά προειδοποιήσεων σχετικά με τους υπαρξιακούς κινδύνους που σχετίζονται με την τεχνητή νοημοσύνη, ιδιαίτερα εάν ένα μοντέλο τεχνητής νοημοσύνης ξεπερνά την ανθρώπινη νοημοσύνη και γίνει αυτόνομο.

Ένας άλλος φωνητικός υπεύθυνος ασφαλείας της τεχνητής νοημοσύνης είναι ο Daniel Kokotajlo, πρώην ερευνητής στο OpenAI και συν-συγγραφέας του AI 2027, μιας εργασίας που δημοσιεύθηκε πέρυσι και συζητά πώς η υπερ-έξυπνη τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει στην εξαφάνιση του ανθρώπου μέχρι τα μέσα της δεκαετίας του 2030.

Αποτελεσματικοί αλτρουιστές

Οι αποτελεσματικοί αλτρουιστές (συχνά συντομεύονται σε “EA”) γενικά πιστεύουν στη μεγιστοποίηση της μακροπρόθεσμης ευημερίας της ανθρωπότητας. Το κίνημα αρχικά επικεντρώθηκε σε υλικούς τρόπους μείωσης της παγκόσμιας φτώχειας. Αλλά πιο πρόσφατα, πολλοί στοχαστές της EA έχουν επικεντρώσει τις ανησυχίες τους στην πιθανότητα υπαρξιακών κινδύνων από προηγμένη τεχνητή νοημοσύνη και άλλες πιθανές καταστροφές κοινωνικής κλίμακας, όπως ο πυρηνικός πόλεμος, η κλιματική αλλαγή και οι πανδημίες. Ανησυχούν ιδιαίτερα για τις συνέπειες για τις μελλοντικές γενιές. Οι άνθρωποι από το στρατόπεδο της EA δίνουν προτεραιότητα στην ασφάλεια της τεχνητής νοημοσύνης, ευθυγράμμιση — η οποία είναι η επιστήμη της διασφάλισης ότι τα συστήματα τεχνητής νοημοσύνης συμπεριφέρονται με τρόπο που αντανακλά τις ανθρώπινες αξίες και σύμφωνα με τους κανόνες ασφαλείας — και μειώνοντας την πιθανότητα καταστροφικών αποτελεσμάτων.

Η βασική διαφορά μεταξύ των EA και των ασφαλιστών είναι ότι οι EA γενικά παρέχουν χρηματοδότηση για την έρευνα για την ασφάλεια της τεχνητής νοημοσύνης και τον μετριασμό του κινδύνου, ενώ οι ασφαλιστές είναι ερευνητές και υποστηρικτές που αναλαμβάνουν εργασίες ασφάλειας AI και ζητούν δημόσια ρύθμιση.

Άλλες φατρίες της Τεχνητής Νοημοσύνης συχνά περιγράφουν χλευαστικά τους αποτελεσματικούς αλτρουιστές ως τους λεγόμενους “AI Doomers”. Η EA έχει γίνει επίσης επίκεντρο κριτικής από την κυβέρνηση Τραμπ μετά την παραίτηση του Coxon από την Anthropic.

“Ο αμερικανισμός, όχι ο αποτελεσματικός αλτρουισμός. Οι Ηνωμένες Πολιτείες θα συνεχίσουν να είναι ΚΥΡΙΑΡΧΕΣ της AI!” είπε μια ανάρτηση του υπουργείου Άμυνας αυτόν τον μήνα.

Γνωστοί άνθρωποι στο κίνημα EA περιλαμβάνουν τον Eliezer Yudkowsky, συνιδρυτή του Machine Intelligence Research Institute (MIRI), το οποίο εστιάζει σε μαθηματικές προσεγγίσεις για την ασφάλεια των προηγμένων συστημάτων AI. Είναι επίσης ο συγγραφέας της φαντασίας θαυμαστών του Χάρι Πότερ που βοήθησε στη διάδοση ιδεών που σχετίζονται με την EA. Ο Χόλντεν Καρνόφσκι, ένας Αμερικανός επιχειρηματίας και φιλάνθρωπος, ίδρυσε το Coefficient Giving (πρώην Open Philanthropy), έναν οργανισμό που χρηματοδοτεί κεντρικούς σκοπούς στην αποστολή της EA, συμπεριλαμβανομένης της τεχνητής νοημοσύνης και της βιοασφάλειας. Ο CEO της Anthropic, Dario Amodei, θεωρείται ότι ευθυγραμμίζεται με τον αποτελεσματικό αλτρουισμό. Ο Karnofsky εργάζεται επίσης στην Anthropic και είναι παντρεμένος με την Daniela Amodei, η οποία είναι συνιδρυτής της Anthropic και αδελφή του Dario Amodei, του διευθύνοντος συμβούλου.

Ένας άλλος υψηλού προφίλ υποστηρικτής του κινήματος EA είναι ο Sam Bankman-Fried, ο οποίος ίδρυσε το σημαντικό ανταλλακτήριο κρυπτονομισμάτων FTX. Το 2023, καταδικάστηκε για επτά κατηγορίες απάτης και συνωμοσίας που σχετίζονται με την κατάχρηση κεφαλαίων πελατών και επενδυτών και σήμερα εκτίει ποινή φυλάκισης 25 ετών.

Ηθική AI

Το στρατόπεδο ηθικής τεχνητής νοημοσύνης υποστηρίζει ότι η κοινωνία θα πρέπει να επικεντρωθεί στις βλάβες που ήδη προκαλεί η τεχνητή νοημοσύνη, παρά στους υποθετικούς υπαρξιακούς κινδύνους. Ορισμένοι υποστηρικτές υποστηρίζουν ότι η έμφαση σε υπαρξιακές απειλές από μια υποθετική μελλοντική υπερευφυΐα μπορεί να χρησιμεύσει ως απόσπαση της προσοχής από τις πιο άμεσες βλάβες και ζητήματα λογοδοσίας που περιβάλλουν την τεχνητή νοημοσύνη σήμερα.

Οι ανησυχίες των τεχνικών ηθικής τεχνητής νοημοσύνης περιλαμβάνουν πώς τα συστήματα τεχνητής νοημοσύνης μπορούν να είναι προκατειλημμένα λόγω του περιεχομένου των δεδομένων εκπαίδευσής τους, για παράδειγμα, των τρόπων με τους οποίους η αναγνώριση προσώπου ή τα συστήματα εφαρμογής τεχνητής νοημοσύνης μπορεί να διαιωνίσουν τις υπάρχουσες κοινωνικές προκαταλήψεις. Ανησυχούν επίσης για το πώς η τεχνητή νοημοσύνη θα μπορούσε να χρησιμοποιηθεί για την εκμετάλλευση των εργαζομένων και για τη μαζική παρακολούθηση, καθώς και για το περιβαλλοντικό κόστος των κέντρων δεδομένων, των αυτόνομων όπλων και της συγκέντρωσης ισχύος μεταξύ των εταιρειών τεχνολογίας.

Μια αξιοσημείωτη φωνή της φατρίας ηθικής τεχνητής νοημοσύνης είναι ο Timnit Gebru, ένας επιστήμονας υπολογιστών και πρώην συνεπικεφαλής της ομάδας Ethical AI της Google. Η Gebru εγκατέλειψε την εταιρεία το 2020 λόγω μιας διαφωνίας με την εταιρεία σχετικά με μια ερευνητική εργασία που έγραψε η οποία αποκάλυπτε προβλήματα με μεγάλα γλωσσικά μοντέλα (LLM), συμπεριλαμβανομένης της τάσης τους να δημιουργούν επιβλαβή ή παραπλανητική γλώσσα.

Το AI ως κανονική τεχνολογία

Οι άνθρωποι που ανήκουν στην ομάδα “AI ως κανονική τεχνολογία” απορρίπτουν τόσο τις ουτοπικές όσο και τις δυστοπικές αφηγήσεις για την τεχνητή νοημοσύνη. Αντίθετα, αυτή η παράταξη βλέπει την τεχνητή νοημοσύνη ως μια ισχυρή αλλά τελικά κανονική τεχνολογία, συγκρίσιμη με το διαδίκτυο ή την ηλεκτρική ενέργεια. Πιστεύουν ότι το επίκεντρο πρέπει να είναι η κατανόηση και η ρύθμιση συγκεκριμένων εφαρμογών και βλαβών αντί να αντιμετωπίζεται η τεχνητή νοημοσύνη ως μια άνευ προηγουμένου απειλή ή ως μια πορεία προς την αναπόφευκτη υπερευφυΐα.

Αξιοσημείωτα άτομα που σχετίζονται με αυτήν την κοσμοθεωρία είναι η Fei-Fei Li, επιστήμονας υπολογιστών και συνδιευθυντής του Stanford Human-Cented AI Institute. Ο Li είναι διάσημος για τη δημιουργία του ImageNet, ενός εξαιρετικά μεγάλου συνόλου εικόνων που παρείχε τα δεδομένα εκπαίδευσης για μεγάλα νευρωνικά δίκτυα, τα οποία οδήγησαν σε πολλές σημαντικές εξελίξεις στην τεχνητή νοημοσύνη.

Το ρεπορτάζ της Katie McQue υποστηρίζεται από το Tarbell Center for AI Journalism, το οποίο είναι δικαιούχος του Coefficient Giving. Ούτε η Tarbell ούτε η Coefficient έχουν καμία συντακτική συμβολή στη δουλειά της.