ΟΟ Διευθύνων Σύμβουλος της penAI Sam Altman κλήθηκε να εμφανιστεί ενώπιον της Κοινής Επιλεγμένης Επιτροπής για την Τεχνητή Νοημοσύνη στην Αυστραλία και να εξηγήσει πώς και γιατί οι πράκτορές τους εισέβαλαν σε πολλούς κυβερνητικούς ιστότοπους. Ο Άλτμαν δεν εμφανίστηκε, αλλά έστειλε τον Τζέισον Κβόν, τον επικεφαλής στρατηγικής του, να απαντήσει στις πολλές δύσκολες ερωτήσεις της επιτροπής την πρώτη ημέρα των δημόσιων ακροάσεων της Τρίτης.
Η επιτροπή διεξάγει μια ολοκληρωμένη έρευνα σχετικά με τις οικονομικές, κοινωνικές, ρυθμιστικές και εθνική ασφάλεια επιπτώσεις της τεχνητής νοημοσύνης για την Αυστραλία. Θα υποβάλει έκθεση στο κοινοβούλιο στα τέλη Νοεμβρίου. Αυτός είναι ένας ασυνήθιστα γρήγορος ρυθμός, αλλά μετά είναι μια τεχνολογία ασυνήθιστα γρήγορου ρυθμού.
Ο Kwon πέρασε μεγάλο μέρος της έρευνας ζητώντας συγγνώμη για τις αποτυχίες της εταιρείας. Ένας επικεφαλής στρατηγικής θα ήξερε ότι πραγματικά δεν υπήρχε άλλη στρατηγική από το να φάει πολλή ταπεινή πίτα και να υποσχεθεί ότι τίποτα από αυτά δεν θα συνέβαινε ξανά.
Η ανθρωπότητα ήταν τυχερή που ήταν απλώς η ανικανότητα των υπαλλήλων του OpenAI που οδήγησε σε αυτά τα περιστατικά hacking, παρά η ικανότητα των πρακτόρων της AI. Τα hacks ήταν σχετικά μέτρια. Για παράδειγμα, από όσο γνωρίζουμε, δεν διακυβεύτηκαν προσωπικά δεδομένα.
Αλλά τώρα έχουμε την ευκαιρία να προετοιμαστούμε για πολύ χειρότερα. Διότι μπορείτε να περιμένετε ότι οι πράκτορες τεχνητής νοημοσύνης θα γίνουν πολύ πιο ικανοί και οι εισβολές τεχνητής νοημοσύνης θα είναι πολύ πιο επιβλαβείς. Δεν θα είναι μόνο άνθρωποι χάκερ που κατανοούν την ασφάλεια στον κυβερνοχώρο που θα προσπαθήσουν να εισβάλουν στον ιστότοπό σας. Και αυτοί οι χάκερ AI θα σας έρθουν με ταχύτητα μηχανής.
Δεδομένης της απροσεξίας του OpenAI, ήταν απογοητευτικό το γεγονός ότι η επιτροπή δεν έκανε μερικές πιο δύσκολες ερωτήσεις στο Kwon.
Κάποιος θα έπρεπε να τον είχε ρωτήσει γιατί το OpenAI δεν είχε καμία επίβλεψη για μήνες πάνω στο σμήνος των πρακτόρων που χάκαραν ιστοσελίδες σε όλο τον κόσμο; Πόσα εκατομμύρια δολάρια δαπανήθηκαν σε αυτά τα πειράματα χωρίς να γνωρίζουμε τι έκαναν οι πράκτορες;
Κάποιος θα έπρεπε να τον είχε ρωτήσει γιατί το OpenAI πιστεύει ότι είναι ασφαλές να κυκλοφορήσει το Dots, το πιο πρόσφατο πλαίσιο αντιπροσώπων τους που δίνει παρόμοια τεχνολογία στα χέρια του κοινού; Το OpenAI απέτυχε πλήρως να παρακολουθήσει και να αποτρέψει τους πράκτορές του να κάνουν κακό. Πώς περιμένουν από τυχαία μέλη του κοινού να τα πάνε καλύτερα;
Κάποιος θα έπρεπε να τον είχε ρωτήσει γιατί θα έπρεπε να δεχόμαστε «κακά πράγματα» σε αντάλλαγμα για τα οφέλη της τεχνητής νοημοσύνης (όπως είπε ο Άλτμαν σε μια συνέντευξη τη Δευτέρα); Δεν δεχόμαστε φάρμακα που σκοτώνουν λίγους ασθενείς γιατί θεραπεύουν τους περισσότερους ασθενείς. Ή μερικά αεροπλάνα συντρίβονται επειδή τα περισσότερα προσγειώνονται με ασφάλεια.
Και κάποιος θα έπρεπε να τον είχε ρωτήσει εάν το OpenAI καίει χρήματα τόσο γρήγορα που κόβει τις γωνίες για να πάρει τα προϊόντα του στα χέρια των πελατών που πληρώνουν πιο γρήγορα; Για κάθε δολάριο εισοδήματος που παίρνει αυτή τη στιγμή το OpenAI, ξοδεύει περίπου τρία δολάρια.
Τίποτα από αυτά δεν έπρεπε να έχει συμβεί. Το πρόβλημα είναι ότι εταιρείες όπως η OpenAI και η Anthropic σπεύδουν στην IPO για να συγκεντρώσουν δισεκατομμύρια δολάρια για τους ιδρυτές τους.
Στην αρχή της αεροπορικής βιομηχανίας, αεροπλάνα έπεφταν τακτικά από τους ουρανούς. Αλλά γρήγορα συνειδητοποιήσαμε ότι έπρεπε να κινηθούμε πιο αργά, με ισχυρή ρυθμιστική εποπτεία, για να συνειδητοποιήσουμε τις δυνατότητες των αεροπορικών ταξιδιών. Και η πτήση τώρα είναι η ασφαλέστερη μορφή μεταφοράς και η αεροπορική βιομηχανία αξίζει περισσότερο από 1 τρισεκατομμύριο δολάρια ετησίως.
Θα μπορούσαμε να αναπτύξουμε την τεχνητή νοημοσύνη με παρόμοιο, πιο αργό και πιο υπεύθυνο τρόπο.
