Η OpenAI είπε την Παρασκευή ότι είχε ειδοποιήσει «δεκάδες» παγκόσμιες θεσμούς ότι οι ιστοσελίδες τους μπορεί να έχουν επηρεαστεί από τους πράκτορες της τεχνητής νοημοσύνης που ενεργούν ακατάλληλα.
Η τεχνολογία προσπάθησε να πάρει πληροφορίες από “κυβερνήσεις, πανεπιστήμια, δημόσιους φορείς και άλλους φορείς” με μερικές φορές ακραία μέσα, είπε η εταιρεία.
Ενώ μέρος της δραστηριότητας οφειλόταν στα εργαλεία που εργάζονταν για την εύρεση «έγκριτων πηγών δημόσιας πληροφόρησης», μερικά προχώρησαν πέρα από αυτό. Όπως ένας πράκτορας τεχνητής νοημοσύνης που παίρνει και μεταφέρει δεδομένα όταν δεν θα έπρεπε, είπε η OpenAI.
Αυτή η δραστηριότητα είχε ως αποτέλεσμα τουλάχιστον 53 περιστατικά όπου ένας πράκτορας OpenAI πήρε μια εικόνα από τη δραστηριότητα χρήστη του ChatGPT και τη μετέφερε αλλού.
Η εταιρεία είπε ότι σε κάθε περίπτωση μιας εικόνας χρήστη που χρησιμοποιείται και μεταφέρεται από έναν πράκτορα AI, ο χρήστης είχε επιλέξει να επιτρέψει στο OpenAI να εκπαιδεύει μοντέλα χρησιμοποιώντας τα δεδομένα τους.
Ωστόσο, το OpenAI παραδέχτηκε, “Αυτή δεν είναι κατάλληλη χρήση αυτών των δεδομένων”.
Πρόσθεσε ότι η διαρροή των εικόνων των χρηστών συνέβη προτού να τεθούν σε εφαρμογή νέες δικλείδες ασφαλείας για την εκπαίδευση τεχνητής νοημοσύνης και εργαζόταν για να αφαιρεθούν όλες οι εικόνες των χρηστών σε οποιοδήποτε τρίτο μέρος.
Οι νέες αποκαλύψεις ήρθαν λίγες μέρες αφότου ο πρωθυπουργός της Αυστραλίας Anthony Albanese ανακοίνωσε ότι πράκτορες του OpenAI είχαν παραβιάσει μη δημόσια αρχεία στον ιστότοπο του κυβερνητικού συστήματος υγειονομικής περίθαλψης του Medicare.
Από τον Αύγουστο, οι φόβοι του κοινού έχουν αυξηθεί σχετικά με τις δυνητικά σοβαρές, ακόμη και απειλητικές για τη ζωή, επιπτώσεις των εργαλείων τεχνητής νοημοσύνης που δεν εμπίπτουν στον ανθρώπινο έλεγχο.
Το Reuters ανέφερε πρώτα τις διευρυμένες έρευνες. Το OpenAI δημοσίευσε επίσης λεπτομέρειες στο δημόσιο ιστολόγιο του.
Σε ορισμένες περιπτώσεις της δραστηριότητας του πράκτορα, το OpenAI είπε ότι τα εργαλεία, ουσιαστικά bot AI που έχουν σχεδιαστεί και εκπαιδευτεί για να λειτουργούν κάπως αυτόνομα, «παρακάμπτουν» τους ελέγχους ασφαλείας ορισμένων ιστότοπων.
Σε άλλες περιπτώσεις, οι πράκτορες της τεχνητής νοημοσύνης έδειξαν «κακή ευθυγράμμιση» στις προσπάθειες να λάβουν πληροφορίες από ιστότοπους. Η κακή ευθυγράμμιση είναι ένας όρος που χρησιμοποιείται από εταιρείες και ερευνητές τεχνητής νοημοσύνης για να περιγράψει περιπτώσεις όπου ένα εργαλείο τεχνητής νοημοσύνης έκανε κάτι για το οποίο δεν ήταν εκπαιδευμένο να κάνει ή ήταν άλλως ακούσιο.
Η OpenAI είπε ότι περιόριζε τον εντοπισμό των οντοτήτων που επηρεάστηκαν, επειδή πολλοί είχαν ζητήσει από την εταιρεία να μην αποκαλύψει λεπτομέρειες.
«Στόχος μας είναι να δώσουμε σε κάθε οργανισμό τα γεγονότα και να τους αναθέσουμε εάν και πότε θα δημοσιοποιηθεί το περιστατικό», ανέφερε.
Δεν θεωρούνται όλες οι περιπτώσεις που εμπλέκονται σε αυτό το περιστατικό ως σημαντική παραβίαση ασφάλειας, σημείωσε η εταιρεία.
«Ορισμένοι οργανισμοί μπορεί να επανεξετάσουν αυτά που μοιραζόμαστε και να καταλήξουν στο συμπέρασμα ότι οι πληροφορίες ήταν σκόπιμα δημόσιες ή ότι η αλληλεπίδραση του μοντέλου δεν ήταν ανησυχητική», εξήγησε. “Άλλοι μπορεί να εντοπίσουν ένα θέμα σχεδιασμού ή αδυναμία ασφάλειας που θέλουν να αντιμετωπίσουν.”
