Ο Sam Altman παίρνει τη θεραπεία New Yorker

Προσκαλέσαμε λοιπόν τον Φάροου στην «Τυπική Ώρα Ειρηνικού» για να αναλύσουμε όσα βρήκε» και τι σημαίνει για όσους από εμάς ζούμε στην ίδια πόλη με τον άνθρωπο που μπορεί ή όχι να χτίζει το πράγμα που τελειώνει τον κόσμο όπως τον ξέρουμε.

Ακολουθούν έξι αποκαλύψεις από τη συζήτηση που μας κόλλησε.

Το OpenAI χρησιμοποιεί την ιστορία του Farrow εναντίον του Elon Musk στο δικαστήριο. Μετά τη δημοσίευση του άρθρου, ο Farrow λέει ότι το OpenAI έστειλε μια επιστολή σε δύο γενικούς εισαγγελείς λέγοντας ότι εμπιστεύονται την απεικόνιση της ιστορίας για το πώς ιδρύθηκε η εταιρεία και τι συνέβη μετά την εκδίωξη και την αποκατάσταση του Altman. και το επικαλούνται στην υπεράσπισή τους κατά της αγωγής του Μασκ κατά της εταιρείας, η οποία ισχυρίζεται ότι η εταιρεία εγκατέλειψε την αρχική της μη κερδοσκοπική αποστολή.

Όταν αντιμετώπισε ότι είπε ψέματα μετά την απόλυσή του, ο Άλτμαν φέρεται να είπε στο διοικητικό συμβούλιο: «Δεν μπορώ να αλλάξω την προσωπικότητά μου». Ο Φάροου αναφέρει ότι αυτή ήταν η απάντηση του Άλτμαν σε μια κλήση όπου το διοικητικό συμβούλιο τον πίεζε να αναγνωρίσει ένα μοτίβο εξαπάτησης και να ευχαριστήσει τους ανθρώπους. Αργότερα είπε στον Φάροου ότι μπορεί να μιλούσε για την ικανότητά του να ενώνει ανόμοιες φατρίες.Â

Ο Άλτμαν φέρεται να παραδέχτηκε ότι μια πιο αληθινή τεχνητή νοημοσύνη θα έχανε τη «μαγεία» της. Ο Φάροου συνέδεσε τις κουκκίδες ανάμεσα στις τεκμηριωμένες τάσεις του Άλτμαν που αρέσουν στους ανθρώπους, καθώς και στη χαλαρή σχέση του με την αλήθεια, και τη συκοφάνεια και τις παραισθήσεις που δημιουργήθηκαν στο ChatGPT.Â

Δεν είναι μόνο το OpenAI. Η Farrow λέει ότι η Anthropic έχει επίσης αποδυναμώσει τις δεσμεύσεις της για την ασφάλεια. Πολλοί άνθρωποι σε αυτήν την πόλη αντιμετωπίζουν τον Anthropic ως τον υπεύθυνο ενήλικα στο δωμάτιο. Η άποψη της Farrow, μετά από 18 μήνες στον κόσμο της τεχνητής νοημοσύνης: Η δυναμική της κούρσας προς τα κάτω είναι σε όλο τον κλάδο.

Ο Farrow είναι πεπεισμένος ότι οι κίνδυνοι της τεχνητής νοημοσύνης δεν έρχονται – είναι ήδη εδώ. Ο Φάροου ανησυχεί λιγότερο για μια μελλοντική αποκάλυψη της τεχνητής νοημοσύνης παρά για τις διαταραχές του πραγματικού κόσμου που είναι ήδη σε εξέλιξη. Μιλάει για οικονομική αναταραχή που συμβαίνει τώρα, για τον τεκμηριωμένο ρόλο της τεχνητής νοημοσύνης στις κρίσεις ψυχικής υγείας και για την καταστροφή της τεχνολογίας. «Δεν είναι προβολή», είπε. “Συμβαίνει.â€

Μεγαλώνοντας κάτω από έντονο δημόσιο έλεγχο πληροφορεί πώς ο Farrow αναφέρει την εξουσία. Η Farrow και εγώ συζητάμε ένα κοινό πράγμα που έχουμε: διάσημους γονείς. Ο πατέρας μου είναι ο ηθοποιός Richard Dreyfuss, ενώ ο Farrow είναι γιος της Mia Farrow και του Woody Allen. Μιλάει για το πώς τα ρεπορτάζ της «κακής πίστης» που έχει αντέξει η οικογένειά του όλα αυτά τα χρόνια τον βοηθά να συνδεθεί με πηγές που βρίσκονται κάτω από το έντονο βλέμμα των μέσων ενημέρωσης.

Παρακολουθήστε την πλήρη συνέντευξη εδώ ή στο YouTube ή ακούστε το “PST” όπου κι αν βρίσκετε τα podcast σας.

Διαβάστε μια ελαφρώς επεξεργασμένη και συνοπτική εκδοχή της συνομιλίας μας παρακάτω.

Emily Dreyfuss: Πρόσφατα δημοσιεύσατε μια ιστορία-βόμβα στο The New Yorker με τον συνεργάτη σας Andrew Marantz για τον Sam Altman. Μετά τη δημοσίευση της ιστορίας σας την περασμένη εβδομάδα, σημειώθηκαν δύο επιθέσεις στο σπίτι του Άλτμαν εδώ στο Σαν Φρανσίσκο.Â

Νωρίτερα μέσα στην εβδομάδα, όταν ο Άλτμαν απάντησε στο κομμάτι σου, το αποκάλεσε εμπρηστικό και είπε ότι θα μπορούσε να κάνει τα πράγματα πιο επικίνδυνα για αυτόν. Πιστεύετε ότι είναι δίκαιο; Είμαστε σε ένα σημείο όπου οι άνθρωποι έχουν βαρεθεί τόσο πολύ με αυτούς τους βαρόνους της τεχνητής νοημοσύνης που βγάζουν την οργή τους στους δρόμους;

Ρόναν Φάροου: Οπωσδήποτε, υπάρχει μια στιγμή απογοήτευσης σε εθνικό επίπεδο σχετικά με μια αντιληπτή κρίση νομιμότητας στην ηγεσία της τεχνητής νοημοσύνης. Αυτό οφείλεται σε εύλογα ερωτήματα σχετικά με τη νομιμότητα της ηγεσίας και την έλλειψη προστατευτικών κιγκλιδωμάτων σε έναν κλάδο που, με την παραδοχή βασικών ανθρώπων σε αυτόν, θα μπορούσε να επηρεάσει τόσο έντονα το μέλλον μας, που έχει επιπτώσεις στον πόλεμο, τα χημικά όπλα, την παραπληροφόρηση, την οικονομία και ότι ακόμη και από τις πιο συντηρητικές οικονομικές προβλέψεις μπορεί να απειλήσει εκατομμύρια θέσεις εργασίας και εκατομμύρια θέσεις εργασίας.

Κατανοητό, φτάνει στο οριακό σημείο για το οποίο μιλάτε. Ήταν πριν από τη συγκεκριμένη ιστορία. Είναι αυτονόητο ότι δεν πρέπει ποτέ να υπάρχουν απειλές βανδαλισμού ή βίας για οποιαδήποτε από τα πρόσωπα που εμπλέκονται σε αυτό. Θέλω όλοι αυτοί οι άνθρωποι να είναι ασφαλείς. Θέλω ο Σαμ Άλτμαν και η οικογένειά του, ξέρετε, να μην αισθάνονται καθόλου φοβισμένοι.Â

Είναι σημαντικό να σημειωθεί ότι αυτή η ιστορία ελέγχθηκε σχολαστικά και το OpenAI δεν αμφισβητεί τα βασικά γεγονότα. Η αναφορά εδώ είναι αξιόπιστη. Η κριτική δημοσιογραφία δεν φταίει για μια στιγμή εθνικής ανησυχίας όπως αυτή ή για αυτού του είδους τις επιθέσεις. Είναι λανθασμένος ο ισχυρισμός να δημιουργηθεί οποιαδήποτε αιτιώδης σχέση μεταξύ αυτής της αναφοράς και της ρίψης του μπουκαλιού.

Υπάρχουν πολλές δημοσκοπήσεις που δείχνουν ότι η πλειοψηφία των Αμερικανών έχει τώρα περισσότερες ερωτήσεις και περισσότερη αντίληψη για τα μειονεκτήματα αυτής της τεχνολογίας παρά για τα θετικά.

Αυτό βασίζεται στους πολύ σοβαρούς κινδύνους αυτής της τεχνολογίας. Παρεμπιπτόντως, κίνδυνοι για τους οποίους ο Sam Altman ήταν ένας από τους μεγαλύτερους συναγερμούς. Η γλώσσα «αυτό μπορεί να μας σκοτώσει όλους». «Αυτή είναι πιο ισχυρή από τη γλώσσα των πυρηνικών». Η αναγνώριση ότι χάνονται θέσεις εργασίας.Â

Όταν μιλάμε για μείωση των ανησυχιών, το γεγονός είναι ότι η βάση για αυτά τα άγχη υπάρχει στην πραγματικότητα γύρω από την τεχνολογία. Και όταν πρόκειται για το πόσο καταστροφική είναι η ρητορική και είναι ανησυχητικός αυτός ο κόσμος, ο Sam Altman έχει δημιουργήσει μια εταιρεία πάνω σε αυτό το είδος καταστροφικής ρητορικής.

Ας μιλήσουμε για το τι μάθατε στους 18 μήνες που αναφέρατε αυτήν την ιστορία. Το στοιχείο που είχαν πολλοί άνθρωποι από το κομμάτι σας είναι ότι ο Sam Altman φαίνεται να είναι ψεύτης. Θα λέγατε ότι αυτή είναι μια δίκαιη εκτίμηση;

Μιλήσαμε με τόσους πολλούς ανθρώπους και εξετάσαμε τόσα εσωτερικά έγγραφα όπου υπήρχαν παράπονα και συναγερμοί σχετικά με αυτό το υποτιθέμενο χαρακτηριστικό. Μεταφέρουμε και διερευνούμε μια σειρά από προοπτικές σχετικά με την ερώτηση που κάνετε.

Υπάρχουν κόμματα με τα οποία μιλάμε και λένε, λοιπόν, «Αυτό είναι τόσο καταναγκαστικό ψέμα που είναι δυσλειτουργικό για οποιοδήποτε στέλεχος μεγάλης εταιρείας».

Υπάρχουν άνθρωποι που λένε ότι είναι υπερβολική ευθύνη μόνο από επιχειρηματική σκοπιά. Και μιλάω για μεγάλους επενδυτές, άτομα με μερίδιο στο OpenAI, άτομα που συνδέονται με τον Altman που θέλουν να τον δουν να πετυχαίνει και ανησυχούν.

Έπειτα, υπάρχει το αντίθετο άκρο του φάσματος, όπου οι άνθρωποι λένε ότι πρόκειται για μια τεχνολογία που απαιτεί ένα μοναδικό επίπεδο ακεραιότητας. Και αυτό το υποτιθέμενο χαρακτηριστικό της σειριακής εξαπάτησης δεν είναι απλώς αβάσιμο πρακτικά, αλλά και ενεργά επικίνδυνο.

Επομένως, εξετάζουμε και τα δύο αυτά σετ απόψεων με πολύ έλεγχο, και μεταφέρουμε επίσης τις απόψεις από υπερασπιστές, με όποιον ο ίδιος ο Sam ήθελε να μιλήσουμε και να ακούσουμε. Και νομίζω ότι ο λόγος που τα βασικά γεγονότα δεν αμφισβητήθηκαν είναι ότι είναι ένα πραγματικά δίκαιο και μετρημένο κομμάτι αναφοράς. Ο αναγνώστης μπορεί να αποφασίσει ο ίδιος για την απάντηση στο ερώτημα της αξιοπιστίας.

Τι σας τράβηξε στον Sam Altman ως χαρακτήρα;

Μόλις είχα κάνει ένα μεγάλο ρεπορτάζ για τον Έλον Μασκ και αυτό που προέκυψε σε αυτό το κομμάτι ήταν μια εικόνα μεγιστάνων στην τρέχουσα εποχή, ιδιαίτερα στη Silicon Valley, που αποκτούσαν υπερκυβερνητική εξουσία. Στην περίπτωση του Elon ήταν μέσω της τεχνολογίας Starlink του. Έπαιρνε κυριολεκτικά υλικές αποφάσεις για την έκβαση του πολέμου στην Ουκρανία και έκλεινε τις επικοινωνίες στην πρώτη γραμμή. Αυτό λοιπόν ήταν συναρπαστικό για μένα. Άρχισα να εξετάσω την τεχνητή νοημοσύνη ως το απόλυτο πιο ακραίο άκρο αυτής της ανισορροπίας.

Η προσέγγισή μου σε αυτό δεν ήταν, ξέρετε, ότι το να λέει ψέματα ο Sam σε ατομική βάση είναι τόσο πολύ ανησυχητικό για μένα. Είναι επειδή αντιπροσωπεύει μια ευρύτερη κρίση ακεραιότητας στην ηγεσία αυτής της τεχνολογίας και στις συναλλαγές του OpenAI με τα πολιτικά συστήματα γύρω τους.

Το OpenAI δημιουργήθηκε ως μη κερδοσκοπικός οργανισμός που έπρεπε να διασφαλίσει ασφαλής Το AI ήταν διαθέσιμο για όλους. Και κάπου στην πορεία φαίνεται να έχει γίνει μια εταιρεία που νοιάζεται μόνο για τα χρήματα και την εξουσία. Είναι τώρα πολύ κατάφωρα αλήθεια ότι το OpenAI έχει κάπως παραιτηθεί από αυτούς τους προηγούμενους ιδεαλιστικούς στόχους;

Ο στόχος συγκέντρωσης χρημάτων αρχικά ήταν, «Αυτή η τεχνολογία είναι πιο επικίνδυνη από τα πυρηνικά όπλα». Έχουμε τον Sam να το λέει αυτό στον Elon Musk. Και ο Έλον ήταν πολύ καταστροφικός σε εκείνο το χρονικό σημείο. Και επρόκειτο για έκκληση σε αυτή την ευαισθησία.

Από την ανάπτυξη των chatbot που απευθύνονται στους καταναλωτές και την ανατίναξη της τεχνητής νοημοσύνης, έχει γίνει ένας αγώνας αγώνας που ήταν ένα από τα πράγματα που το OpenAI στις αρχικές του δεσμεύσεις δεσμεύτηκε να αποτρέψει.

Έχουμε μια στιγμή στο κομμάτι όπου ένας εσωτερικός πληροφοριοδότης, ένας τύπος ονόματι Jan Leike, στέλνει email στον πίνακα και λέει: «Το OpenAI βγαίνει από τις ράγες στην αποστολή του» και μιλά για τον κίνδυνο μιας κούρσας προς τα κάτω, λέγοντας ότι το πρόβλημα δεν είναι μόνο το OpenAI. Αυτό διδάσκει στην Google και σε άλλους ανταγωνιστές ότι και αυτοί πρέπει να περιορίσουν τις στροφές και να αγωνιστούν.

Για το ρεπορτάζ σας, μιλήσατε με τον Σαμ Άλτμαν πολλές φορές και έχει περιγραφεί [in the piece] ως κύριος χειριστής από ορισμένους. Πώς ήταν να του πάρεις συνέντευξη; Νιώσατε κάποια στιγμή ότι προσπαθούσε να χρησιμοποιήσει κόλπα για το μυαλό των Τζεντάι;

Σίγουρα. Τα χαρακτηριστικά του Sam Altman, για τα οποία τόσοι πολλοί άνθρωποι μιλούν στο κομμάτι, αποδείχτηκαν μερικές φορές στις εκτενείς συζητήσεις που είχα μαζί του. Νομίζω ότι κατάλαβα τον Σαμ κάπως βαθιά. Τρέφω τρομερή συμπάθεια για τον Σαμ από πολλές απόψεις. Και αισθάνομαι ένα μεγάλο βάρος, ξέρετε, της δικαιοσύνης και του να πράττω σωστά από τον Σαμ…»

※ και από πού πηγάζει το αίσθημα συμπάθειάς σας;

Η εξήγηση του Σαμ για το ψέμα είναι ότι ειδικά νωρίτερα στην καριέρα του, είχε μια τάση εκτροπής συγκρούσεων και ευχαρίστησης των ανθρώπων που ο ίδιος αναγνωρίζει ότι του δημιούργησε προβλήματα.

Θέλω να πιστεύω στην ικανότητα των ανθρώπων να μεγαλώνουν και να αλλάζουν. Θέλω, όταν κάνω ρεπορτάζ για κάποιον τέτοιο, να του δίνω το πλεονέκτημα της αμφιβολίας και να είμαι όσο το δυνατόν πιο γενναιόδωρος. Είπα στον Σαμ από την αρχή, πολύ διαφανώς, «Αυτό είναι ένα κομμάτι που εξετάζει εξονυχιστικά μερικές από τις πιο σκληρές κριτικές που υπάρχουν για σένα. Δεν θα είναι διασκεδαστικό να διαβάζεις. Έτσι συμμετείχε γνωρίζοντας αυτό.

Έπρεπε να πειστεί; Ήταν διστακτικός;

Δεν θα μιλήσω για την ψυχική του κατάσταση πέρα ​​από, ξέρετε, τα πράγματα που παρέθεσα στο κομμάτι. Θα πω ότι όποτε έχετε ένα σώμα ρεπορτάζ όπως αυτό, είναι πολύ πιεσμένο και μπορεί να είναι πολύ μαχητικό και αμφιλεγόμενο. Πολύ συχνά υπάρχουν πολλές απειλές που πετούν πέρα ​​δώθε.

Επομένως, είναι μια στραγγιστική, προσεκτική διαδικασία όπου πρέπει απλώς να αντιμετωπίσετε την αστάθεια που μπορεί να είναι εγγενής σε αυτές τις στιγμές. Όσο και αν είναι οι επίμαχες συζητήσεις, ο Σαμ Άλτμαν επέλεξε να συμμετάσχει πολύ – ξανά και ξανά. Είμαι ευγνώμων τελικά γιατί όταν διακόπτετε τυχόν εχθροπραξίες, αυτό που λαμβάνετε είναι κάποιος που αποκαλύπτει περισσότερα για την άποψή του.

Έκανα συζητήσεις όπου προσπαθούσα πολύ άμεσα να διεισδύσω σε επίπεδο άτομο με άτομο. Ξέρετε, «Ποια είναι η προσωπική σας εμπειρία από όλους γύρω σας που το λένε αυτό;» Ξέρετε, αυτό θα ήταν καταστροφικό για μένα. “Πώς το κουβαλάς αυτό; Μιλάτε για αυτό στη θεραπεία; Έτσι, προσπάθησα πραγματικά να φτάσω σε ένα μέρος της μέγιστης κατανόησης, το οποίο ελπίζουμε ότι ενημερώνει επίσης τον πολύ νηφάλιο, ομοιόμορφο τόνο του κομματιού.

Αυτό με φέρνει πραγματικά σε κάτι για το οποίο ήθελα να σας μιλήσω: την ιδιότητά σας ως παιδί του Χόλιγουντ. Πεθαίνω να σε ρωτήσω για αυτό εδώ και χρόνια γιατί ο μπαμπάς μου είναι ο διάσημος ηθοποιός Richard Dreyfuss. Αυτό μπορεί να είναι νέα για όποιον ακούει το podcast —

Ναι, δεν το ήξερα.

Λοιπόν, είμαι πολύ ιδιωτικός σχετικά με αυτό. Αλλά όταν παρακολούθησα το ρεπορτάζ σας ορόσημο για το κίνημα #MeToo και τον τρόπο με τον οποίο το υπόβαθρό σας φαινόταν να πληροφορεί τον τρόπο που μπορούσατε να συνδεθείτε με τους ανθρώπους της ιστορίας, ήταν πραγματικά ενδεικτικό για μένα. Σκέφτηκα, εδώ είσαι τόσο αυθεντικός στην εμπειρία σου.

Πώς σας βοηθά η εμπειρία σας από τη δύναμη και τη φήμη να κατανοήσετε τους ισχυρούς ανθρώπους και ίσως να έχετε ενσυναίσθηση γι ‘αυτούς αυτές τις στιγμές;

Αυτό είναι ένα από τα βασικά στοιχεία από τις οδυνηρές μου εμπειρίες και τα βρώμικα ρούχα μου στην οικογένειά μου που εμφανίζονται τόσο οδυνηρά. Ήμουν στόχος κακόπιστου Τύπου, ιδιαίτερα όταν έκανα ρεπορτάζ που τελικά συνέβαλε στο να παρασυρθούν το National Inquirer και η μητρική του εταιρεία ενώπιον των εισαγγελέων ακριβώς γύρω από τις πληρωμές σιωπής Τραμπ. Πραγματικά χτυπιόμουν με τον πιο κακόπιστο τρόπο. Είναι τρομακτικό. Και το μόνο στο οποίο μπορείτε πραγματικά να βασιστείτε είναι η αναφορά που κάνετε όντας καλή τη πίστη και το είδος που θα θέλατε να λαμβάνετε. Άρα ξέρω τη διαφορά μεταξύ αυτών των δύο πραγμάτων.

Υπάρχουν τρόποι με τους οποίους βρίσκομαι σε θέση πολυτέλειας. Μπορώ να διαλέξω τα θέματά μου και μπορώ να αφιερώσω χρόνο. Είμαι απίστευτα τυχερός, αλλά είναι και πιο δύσκολο με κάποιους τρόπους. Είμαι πάντα αλεξικέραυνο. Είμαι πάντα εύκολος στόχος. Όταν οι άνθρωποι για τους οποίους αναφέρομαι είναι θυμωμένοι [something]είναι πολύ πιο εύκολο για αυτούς να το κάνουν προσωπικό. Η καλύτερη υπεράσπιση που έχω είναι απλώς να βεβαιωθώ ότι η αναφορά είναι αδιαμφισβήτητα καλή τη πίστη και δίκαιη.

Το ρεπορτάζ σας σκιαγραφεί αυτή την εικόνα του Σαμ Άλτμαν, ο οποίος είναι χαλαρός με την αλήθεια. Ακούμε επίσης για τόσους πολλούς ανθρώπους που το ήξεραν από πάντα. Θέλω να πω, έχετε τον Aaron Swartz να το ανεβάζει αυτό το 2013.

Τι μας λέει αυτό για τον πολιτισμό αυτή τη στιγμή στη Silicon Valley; Έχουμε να κάνουμε με μια κουλτούρα που είναι εντάξει με μια χαλαρή σχέση με την αλήθεια;

Απολύτως. Αυτό που είναι ενδιαφέρον για αυτό το κομμάτι είναι ότι καταλαβαίνεις ότι, ακόμη και στα μάτια των υπερασπιστών του Σαμ και ακόμη και στον λογαριασμό του ίδιου του Σαμ Άλτμαν, αυτό [lying] υπήρξε πρόβλημα. Και η αντίδραση γύρω από αυτό δεν είναι όπως, λοιπόν, «Αυτό είναι αβάσιμο για τους ανθρώπους που βρίσκονται στην πιο ισχυρή θέση, διαμορφώνοντας την πιο ισχυρή και επικίνδυνη τεχνολογία ποτέ».

Αντίθετα, λοιπόν, «αυτό δεν κάνουν τα στελέχη της Silicon Valley; Αυτό δεν είναι να είσαι ιδρυτής; Αυτό δεν χρειάζεται για να δημιουργήσεις μια startup;â€

Υπάρχει μια κλήση για την οποία αναφέρουμε μετά [Altman] απολύεται και το διοικητικό συμβούλιο τον πιέζει να αναγνωρίσει ένα μοτίβο εξαπάτησης. Και μια από τις απαντήσεις του, σύμφωνα με άτομα που συμμετείχαν στο τηλεφώνημα, ήταν, «Δεν μπορώ να αλλάξω την προσωπικότητά μου». Και σήμερα είπε, «Δεν θυμάμαι καλά» [but] Μπορεί να μιλούσα για την ικανότητά μου να είμαι ειρηνοποιός και να λέω στις διάφορες φατρίες τα πράγματα που χρειάζονται. Παραφράζω εδώ, αλλά τα πράγματα που χρειάζονται για να φέρουμε ανόμοιες ομάδες μαζί και να οικοδομήσουμε μια επιχείρηση.

Και υπάρχει κατανόηση και αγκαλιά μιας κουλτούρας διαφημιστικής εκστρατείας. Ολόκληρη η ιστορία της Silicon Valley βρίσκεται σε εξαιρετικά διογκωμένες αποτιμήσεις πολύ πριν υπάρξουν παραδοτέα και προϊόντα που μπορούν να χρησιμοποιηθούν. Αυτό έχει γίνει τόσο κανονικοποιημένο.Â

Είναι εύκολο να απορρίψουμε αυτό που συμβαίνει στην τεχνητή νοημοσύνη ως μέρος αυτής της μηχανής διαφημιστικής εκστρατείας, αλλά τότε το ερώτημα είναι εάν οι ανησυχίες απορρίπτονται επίσης, επειδή οι ανησυχίες διαφημίζονται επίσης. Και νομίζω ότι ίσως αυτό που φέρνει στο φως η αναφορά σας είναι το γεγονός ότι βρισκόμαστε αυτή τη στιγμή όπου πραγματικά πρέπει να αντιμετωπίσουμε αυτές τις ανησυχίες κατά μέτωπο.

Νομίζω ότι αυτό είναι ακριβώς σωστό, και το κομμάτι διερευνά και παρουσιάζει το εύρος των απόψεων. Οι οπαδοί της ασφάλειας που λένε, «Ναι, αυτό συνεχίζει να είναι πραγματικό, αυτό θα μπορούσε να μας σκοτώσει όλους τελικά». Το γεγονός ότι είχαμε ήδη επαληθευμένη, αξιολογημένη βιβλιογραφία σχετικά με το πόσο γρήγορα αυτά τα μοντέλα μπορούν να παράγουν χημικούς παράγοντες όπλων. Ο κατάλογος συνεχίζεται και με ανησυχίες οικονομικού, πρακτικού και ασφάλειας που έχουν φτάσει.

Μιλάμε για το ρήγμα με [Anthropic founder] Ο Dario Amodei και ο τρόπος με τον οποίο ο Amodei, και ένα σωρό άλλοι, άφησαν το OpenAI επειδή δεν εμπιστεύονταν τον Sam και δεν εμπιστεύονταν την ανάπτυξη της τεχνολογίας και τον τρόπο με τον οποίο προχωρούσε στο OpenAI. Ήθελαν να διατηρήσουν αυτή την αρχική αποστολή ασφάλειας. Αναγνωρίζουμε στο άρθρο ότι η Anthropic έχει, από ορισμένες απόψεις, περισσότερο υλικό για δεσμεύσεις ασφάλειας. Αλλά έχουμε δει επίσης το Anthropic Water να καταρρίπτει πολλές από τις βασικές δεσμεύσεις τους για την ασφάλεια. Και τους βλέπουμε να συμμετέχουν με κάποιους τρόπους με τον ίδιο, όπως λένε οι κριτικοί, να τρέχουν προς τα κάτω. Έτσι, υπάρχει απλώς συρρίκνωση του χώρου για όποιον πιστεύει στους κινδύνους και θέλει να δομήσει μια επιχείρηση κυρίως γι’ αυτό.

«Για αυτό που αξίζει» βγήκα από το κομμάτι αρκετά πεπεισμένος, είτε πιστεύετε τα μακρινά σενάρια είτε όχι, για τους κινδύνους που υλοποιούνται αυτή τη στιγμή για τις θέσεις εργασίας, την ασφάλειά μας, την οικονομία.

Και όχι μόνο η οικονομία, σωστά; Εννοώ, είναι επίσης το κοινωνικό και ψυχολογικό υλικό όπου οι άνθρωποι βασίζονται σε αυτά τα chatbot για να θεραπεύσουν τη μοναξιά τους και δεν καλούν τους φίλους τους. Θέλω να πω, αυτά είναι τα πράγματα που συμβαίνουν τώρα.

Βαθιά. Ένα εξαιρετικό παράδειγμα είναι τα δίδυμα προβλήματα της συκοφάνειας και των παραισθήσεων σε αυτά τα μοντέλα AI. Το Sycophancy, είναι ο τρόπος που ρουφούν και αντικατοπτρίζουν ό,τι πιστεύει και θέλει να ακούσει ο χρήστης. Ψευδαίσθηση είναι όταν παράγουν απαντήσεις και προβλέπουν την επόμενη λέξη που θα ακολουθήσει. Υπάρχει αυτή η ισχυρή επιτακτική ανάγκη να επινοήσεις μερικές φορές πράγματα.Â

Άρα έχετε εκπαίδευση ενισχυμένη με ανθρώπους που χρησιμοποιούν αυτά τα εργαστήρια όπου γνωρίζουν σε αυτό το σημείο ότι το πρόβλημα της ψευδαίσθησης δεν έχει λυθεί. Και ότι η ανθρώπινη ενισχυμένη μάθηση ενισχύει τη συκοφάνεια, σωστά; Στους ανθρώπους αρέσουν οι ευχάριστες απαντήσεις. Άρα τα βαθμολογούν υψηλότερα. Έτσι τα μοντέλα μαθαίνουν να λένε πίσω αυτό που θα ευχαριστήσει περισσότερο το άτομο ή την εν λόγω ομάδα.

Και πηγαίνει πίσω σε αυτά τα ευρύτερα διαρθρωτικά ζητήματα. Δεν πρόκειται για τον Σαμ Άλτμαν. Πρόκειται για έναν κλάδο χωρίς προστατευτικά κιγκλιδώματα, χωρίς ουσιαστική εποπτεία και πολλά διακυβεύματα που είναι ήδη στο παιχνίδι για τους υπόλοιπους από εμάς.

Θα ήμασταν παραμελημένοι αν δεν επισημάναμε ότι αυτά τα ζητήματα που μόλις θίξατε σχετικά με τη συκοφάνεια και τις παραισθήσεις μου θυμίζουν αυτά που λένε οι άνθρωποι ισχύουν και για την προσωπικότητα του Sam Altman – ότι είναι ένας ευχάριστος λαός που έχει χαλαρή σχέση με την αλήθεια.

Λοιπόν, παραθέτουμε τον Sam Altman που είπε ότι θα μπορούσατε να δημιουργήσετε «κατά την άποψή του» ένα μοντέλο που ήταν πιο πραγματικό, αλλά που θα έλειπε λίγη από τη μαγεία που αγαπούν οι άνθρωποι.

Νομίζω ότι αυτό μιλάει από μόνο του.