Το προφίλ του Guardian για τον φιλόσοφο του Google DeepMind ήταν ενθαρρυντικό γιατί έδειξε πόσο σοβαρά πολλοί από τους ανθρώπους που κατασκευάζουν AI αναλαμβάνουν τις ηθικές τους ευθύνες («Υπάρχει αυτό το βαθύ μυστήριο για το τι είναι, στην πραγματικότητα, αυτό το πράγμα;»: ο φιλόσοφος του Google DeepMind AI, 30 Ιουνίου). Ωστόσο, με άφησε επίσης να αναρωτιέμαι αν η πιο σημαντική απόφαση έχει ήδη ληφθεί.
Το άρθρο ρωτά ποιανού ηθική πυξίδα πρέπει να καθοδηγεί την τεχνητή νοημοσύνη. Η ανησυχία μου είναι ότι η κατεύθυνση του ταξιδιού μπορεί να έχει ήδη καθοριστεί, όχι από φιλοσόφους ή μηχανικούς, αλλά από τα κίνητρα που περιβάλλουν την τεχνολογία. Εκατοντάδες δισεκατομμύρια επενδύονται τώρα επειδή η τεχνητή νοημοσύνη υπόσχεται εμπορικές αποδόσεις και γεωπολιτικό πλεονέκτημα. Αυτές οι πιέσεις είναι κατανοητές, αλλά καθορίζουν επίσης αθόρυβα το μέλλον προτού η κοινωνία συζητήσει συνειδητά πού θέλει να φτάσει.
Αυτός είναι ο λόγος που σκέφτομαι διαφορετικά το Roko’s Basilisk, ένα διάσημο πείραμα σκέψης του 2010 που προτάθηκε για πρώτη φορά στο φόρουμ LessWrong AI. Φαντάζεται μια μελλοντική υπερ-έξυπνη τεχνητή νοημοσύνη που ανταμείβει όσους βοήθησαν στην ύπαρξή της και τιμωρεί όσους εν γνώσει τους απέτυχαν να το κάνουν, δημιουργώντας ένα κίνητρο στο παρόν για να επιταχύνει τη δημιουργία της. Ο πραγματικός βασιλικός, θα υποστήριζα, δεν είναι μια μελλοντική μηχανή αλλά η σημερινή οικονομική λογική. Ο καταναγκασμός δεν προέρχεται από την αυριανή τεχνητή νοημοσύνη αλλά από τον σημερινό ανταγωνισμό, τη γεωπολιτική αντιπαλότητα και την αδιάκοπη επιδίωξη των επιστροφών. Αποφασίσαμε χωρίς να αποφασίσουμε.
Αυτό έχει σημασία γιατί οι ευκαιρίες που παραμελούμε μπορεί να αποδειχθούν εξίσου σημαντικές με τις τεχνολογίες που δημιουργούμε. Η τεχνητή νοημοσύνη θα μπορούσε να μας βοηθήσει να ζούμε πιο βιώσιμα, να αποκαταστήσουμε τα οικοσυστήματα και να βελτιώσουμε την ανθρώπινη ευημερία ή θα μπορούσε απλώς να μας κάνει πιο αποτελεσματικούς στην επιδίωξη του ίδιου εξορυκτικού μοντέλου ανάπτυξης. Η νοημοσύνη από μόνη της δεν μπορεί να απαντήσει σε αυτό το ερώτημα.
Ο προορισμός θα καθοριστεί λιγότερο από τη νοημοσύνη που δημιουργούμε παρά από τις αξίες και τα κίνητρα που καθορίζουν γιατί τον δημιουργούμε. Εάν η ευφυΐα είναι άφθονη, η σοφία μπορεί να γίνει ο σπάνιος πόρος.
Πιτ Άλαν
Σαουθάμπτον
Στο προφίλ του εσωτερικού ηθικολόγου της Google, υπήρχαν κάποιες εκκωφαντικές σιωπές. Τι έκανε, για παράδειγμα, αυτός ο φιλόσοφος για την αναπτυσσόμενη αμυντική επιχείρηση της Google, μεταξύ άλλων με τον ισραηλινό στρατό; Ήταν υπέρ της απόφασης της Google το 2025 να καταργήσει την απαγόρευσή της για όπλα τεχνητής νοημοσύνης; Και ποια ήταν η άποψή του για την απάντηση της Google σε έναν συνάδελφο που προσπάθησε να εγείρει ανησυχίες εσωτερικά για αυτά τα ζητήματα; Όπως ανέφερε ο Guardian, ο υπάλληλος ισχυρίζεται ότι απολύθηκε άδικα. Δεν πρόκειται για μεμονωμένα περιστατικά. Τα προφανή αντίποινα της Google εναντίον του προσωπικού που αμφισβητεί την ηθική και τις ενέργειες της εταιρείας έλαβε χώρα τόσο στις ΗΠΑ όσο και στο Ηνωμένο Βασίλειο – συμπεριλαμβανομένου του Google DeepMind, του χώρου εργασίας του φιλοσόφου.
Σίγουρα, αυτό θα μπορούσε να είναι ένα θέμα στο οποίο θα μπορούσαμε να περιμένουμε να σταθμίσει ένας ηθικός φιλόσοφος και πολιτικός θεωρητικός; Δυστυχώς, δεν μάθαμε τις σκέψεις του. Αντίθετα, ακολούθησαν ερωτήσεις σχετικά με τη στρατιωτική χρήση της τεχνητής νοημοσύνης από έναν από τους ιδρυτές του DeepMind, ο οποίος «αρνήθηκε να σχολιάσει διαφορετικά από το να πει: «Θα έχουμε όλο και πιο δύσκολες ερωτήσεις καθώς αυτό το υλικό χρησιμοποιείται με όλους τους τρόπους».
Τελικά, η φιλοσοφική λάμψη που επιδιώκουν να εφαρμόσουν στην επιχείρησή τους μεγάλες εταιρείες τεχνολογίας όπως η Google ή η Anthropic δεν είναι τίποτα άλλο από PR: μια προσπάθεια να αποσπαστεί η προσοχή από τις καθημερινές βλάβες που γνωρίζουμε ότι προκαλούν αυτή τη στιγμή, δείχνοντας υψηλά, αφηρημένα επιχειρήματα για το μέλλον. Είναι δύσκολο να ληφθούν σοβαρά υπόψη αυτές οι δημόσιες σκέψεις, όταν αποτυγχάνουν να αντιμετωπίσουν τις πραγματικές, ηθικές αποτυχίες αυτών των εταιρειών που είναι σε κοινή θέα.
Ντόναλντ Κάμπελ
Διευθυντής υπεράσπισης, Foxglove
Παραθέτω από το άρθρο σας σχετικά με την τεχνητή νοημοσύνη: “Έλλειψη τροφίμων; Ρωτήστε το ρομπότ. Αλλά τι γίνεται αν η έλλειψη τροφής προκαλείται από την ανάγκη του ρομπότ για νερό; Πώς αξιολογούμε εμείς οι άνθρωποι την απόκριση του ρομπότ;
Τόνι Κόγκαν
Λονδίνο
