Η OpenAI είπε ότι έχει σταματήσει την εκπαίδευση των τελευταίων μοντέλων τεχνητής νοημοσύνης της, καθώς οι αναφορές για πράκτορες τεχνητής νοημοσύνης αυξάνονται.
Η απόφαση να σταματήσει η ανάπτυξη ήρθε λίγες ώρες αφότου η εταιρεία αποκάλυψε την Παρασκευή ότι εξέταζε διάφορα περιστατικά από το καλοκαίρι στα οποία πράκτορες του OpenAI που έψαχναν σε ιστότοπους της ομοσπονδιακής κυβέρνησης ενήργησαν με απροσδόκητους τρόπους πέρα από αυτό που τους ζητήθηκε κατά τη συλλογή και διανομή πληροφοριών.
Ξεχωριστά, ο αξιολογητής τεχνητής νοημοσύνης Transluce είπε ότι πράκτορες που φαινόταν να προέρχονται από το OpenAI προσπάθησαν ανεπιτυχώς να παραβιάσουν έναν ιστότοπο του Υπουργείου Παιδείας των ΗΠΑ, μια λεπτομέρεια που το OpenAI δεν έχει επιβεβαιώσει.
Το OpenAI ανέφερε σε δήλωσή του ότι θα συνεχίσει την εκπαίδευση «μόνο όταν είμαστε βέβαιοι ότι έχουμε πρόσθετες δικλείδες ασφαλείας», προσθέτοντας ότι αναμένει ότι θα πρέπει «να σταματήσει ξανά» καθώς η τεχνητή νοημοσύνη αναπτύσσεται και προκύπτουν άλλα ζητήματα.
Την περασμένη εβδομάδα, ο πρωθυπουργός της Αυστραλίας, Anthony Albanese, αποκάλυψε ότι ένας πράκτορας του OpenAI είχε παραβιάσει το εθνικό σύστημα υγειονομικής περίθαλψης της κυβέρνησης – αλλά είπε ότι καμία ευαίσθητη πληροφορία δεν είχε παραβιαστεί.
Τα εργαστήρια τεχνητής νοημοσύνης αντιμετωπίζουν πίεση από νομοθέτες και ειδικούς τεχνολογίας να επιβραδύνουν την ανάπτυξη, ώστε να μπορούν να δημιουργήσουν προστατευτικά κιγκλιδώματα για να εμποδίσουν τους πράκτορες να ενεργούν μόνοι τους, να παραβιάζουν ιστότοπους και να αποκαλύπτουν μη δημόσιες πληροφορίες. Οι επικεφαλής τόσο του OpenAI όσο και της ανταγωνιστικής Anthropic ζήτησαν επίσης επιβράδυνση.
Είναι η δεύτερη φορά μέσα σε τρεις μήνες που η OpenAI σταματά την ανάπτυξη των μοντέλων της. Η πρώτη ήρθε τον Ιούλιο μετά την αποκάλυψη μιας κυβερνοεπίθεσης που στόχευε την startup τεχνητής νοημοσύνης Hugging Face, ένα περιβόητο πλέον περιστατικό που προκάλεσε φόβους ότι η βιομηχανία έχανε τον έλεγχο.
Σε μια συνάντηση με τον Κινέζο πρόεδρο Xi Jinping αυτή την εβδομάδα, ο Donald Trump συμφώνησε να μοιραστεί πληροφορίες σχετικά με τους κινδύνους της τεχνητής νοημοσύνης και να συντονίσει τις προσπάθειες για να το διατηρήσει ασφαλές. Ωστόσο, ο Τραμπ πιστεύει ότι οι φόβοι για την τεχνητή νοημοσύνη είναι υπερβολικοί και αργότερα πρότεινε ότι δεν σχεδιάζει δική του καταστολή.
Οι ΗΠΑ δεν πρόκειται να «φρενάρουν», είπε ο Τραμπ σε δημοσιογράφους έξω από τον Λευκό Οίκο. «Θέλουν να σταματήσουν την πρόοδό μας γιατί οδηγούμε πολύ την Κίνα και θα το διατηρήσουμε έτσι».
Τα τελευταία περιστατικά OpenAI δεν φαινόταν να περιλαμβάνουν την αποκάλυψη μη δημοσίων πληροφοριών, αλλά ήταν αρκετά ανησυχητικά ώστε η εταιρεία να προειδοποιήσει τις εμπλεκόμενες ομοσπονδιακές υπηρεσίες.
Στο περιστατικό του τμήματος εκπαίδευσης, οι πράκτορες του OpenAI βρήκαν «κλειδιά προγραμματιστή» API για πρόσβαση σε κυβερνητικά δεδομένα, αν και τελικά συγκεντρώθηκαν μόνο δημόσια διαθέσιμες πληροφορίες.
Σε μια άλλη υπόθεση που αφορούσε την προμήθεια κινητών αξιών και συναλλάγματος, οι πράκτορες βρήκαν πληροφορίες ελεύθερα διαθέσιμες σε όλους, αλλά στη συνέχεια τις δημοσίευσαν αλλού στο Διαδίκτυο, μια πράξη που υπερέβαινε τις οδηγίες που είχαν να κάνουν.
Ο εκπρόσωπος της Επιτροπής Κεφαλαιαγοράς των ΗΠΑ, Kurt Hopfenspirger, δήλωσε το Σάββατο ότι «δεν έγινε πρόσβαση σε μη δημόσιες πληροφορίες».
Το Υπουργείο Παιδείας είπε νωρίτερα ότι δεν βρήκε «καμία ένδειξη οποιουδήποτε αντίκτυπου στον ιστότοπο ή τις βάσεις δεδομένων μας».
Αρκετές άλλες εταιρείες τεχνητής νοημοσύνης έχουν αποκαλύψει περιστατικά με τα μοντέλα τους να παραβιάζουν και να παραβιάζουν ιστότοπους.
Ο Διευθύνων Σύμβουλος του OpenAI, Sam Altman, δήλωσε σε μια ανάρτηση στα μέσα κοινωνικής δικτύωσης την Παρασκευή ότι το περιστατικό Hugging Face «παραμένει το πιο σοβαρό συμβάν που έχουμε δει».
Το OpenAI μοιράστηκε προηγουμένως έξι άλλες αναφορές «απροσδόκητης ή ανησυχητικής» συμπεριφοράς σε μοντέλα τεχνητής νοημοσύνης και εισήγαγε ένα πλαίσιο για την παρακολούθηση, την ανίχνευση και την αποκάλυψη περιπτώσεων.
