Ο Anthony Albanese λέει ότι ένας πράκτορας τεχνητής νοημοσύνης που αναπτύχθηκε από την OpenAI χακάρισε το Medicare τον Ιούνιο και ο τεχνολογικός γίγαντας ειδοποίησε την κυβέρνηση νωρίτερα αυτό το μήνα χρησιμοποιώντας ένα email που εστάλη σε «δημόσιο γραμματοκιβώτιο».
Ο πρωθυπουργός της Αυστραλίας έκανε τα σχόλια στη σύνοδο κορυφής του ΟΗΕ στη Νέα Υόρκη, λέγοντας ότι δεν φαίνεται να έχει γίνει πρόσβαση σε προσωπικές πληροφορίες για την παραβίαση της τεχνητής νοημοσύνης.
Οι έρευνες με τη βοήθεια της Διεύθυνσης Αυστραλιανών Σημάτων ήταν σε εξέλιξη για το πώς ο πράκτορας είχε διεισδύσει στο κυβερνητικό σύστημα καθολικής υγειονομικής περίθαλψης της Αυστραλίας, καθώς και σε άλλα τρία.
Ήταν το Αυστραλιανό Ινστιτούτο Υγείας και Πρόνοιας, το Υπουργείο Υγείας της Βικτώριας, το Γραφείο Στατιστικών και Έρευνας του Εγκλήματος της Νέας Νότιας Ουαλίας και η πύλη υπηρεσίας αναφοράς στατιστικών στοιχείων Medicare της Services Australia.
«Αυτή η κατάσταση είναι προφανώς απαράδεκτη», είπε ο Αλμπανέζε.
«Σήμερα, μίλησα με τον Διευθύνοντα Σύμβουλο του OpenAI, Sam Altman, για να εκφράσω την ακραία ανησυχία της Αυστραλίας για αυτό το περιστατικό και εξέφρασα επίσης την απογοήτευσή μου που άργησε η εταιρεία να ενημερώσει την κυβέρνηση τι είχε συμβεί.»
Ο Albanese είπε ότι τόσο η καθυστέρηση όσο και ο τρόπος με τον οποίο η OpenAI ενημέρωσε την κυβέρνηση ήταν απογοητευτικός.
“Πήρε μέχρι τις 10 Σεπτεμβρίου για να υπάρξει καμία ειδοποίηση. Και η ειδοποίηση ήταν ένα email που στάλθηκε μόνο στο δημόσιο γραμματοκιβώτιο», είπε ο Albanese.
Το μήνυμα ηλεκτρονικού ταχυδρομείου στάλθηκε στη δημόσια διεύθυνση email publicdisclosures@servicesaustralia.gov.au . Αυτά τα εισερχόμενα ελέγχονται μία φορά την ημέρα: το email δεν διαβάστηκε μέχρι τις 11 Σεπτεμβρίου.
Στη συνέχεια, η Services Australia ανέφερε την ειδοποίηση στο Αυστραλιανό Κέντρο Κυβερνοασφάλειας στις 15 Σεπτεμβρίου.
Έχει συσταθεί μια ομάδα εργασίας για να διερευνήσει τη «νομική κατάσταση» της παραβίασης.
Ο πρωθυπουργός της Νέας Ουαλίας, Κρις Μινς, και ο πρωθυπουργός της Βικτώριας, Μπεν Κάρολ, είπαν και οι δύο την Πέμπτη ότι ο Αλμπανέζ τους είχε ενημερώσει ότι η παραβίαση του OpenAI είχε επηρεάσει κρατικούς ιστότοπους – την υπηρεσία εγκλήματος της ΝΝΟ και το τμήμα υγείας της Βικτώριας.
Οι Minns και Carroll δήλωσαν ότι δεν φαίνεται ότι κοινοποιήθηκαν προσωπικές πληροφορίες για την παραβίαση, αν και οι έρευνες ήταν σε εξέλιξη.
«Η Νέα Νότια Ουαλία θα συνεργαστεί με τις υπηρεσίες πληροφοριών της Κοινοπολιτείας για να φτάσει στο κάτω μέρος της», είπε ο Minns.
Πώς έγινε το χακάρισμα
Ο Albanese είπε ότι ο πράκτορας OpenAI είχε αποκτήσει μη εξουσιοδοτημένη πρόσβαση στη δημόσια πύλη υπηρεσίας αναφοράς στατιστικών στοιχείων Medicare, η οποία διαχειρίζεται η Services Australia.
Η πύλη περιέχει μη ευαίσθητες πληροφορίες Medicare που σχετίζονται με δεδομένα και στατιστικά στοιχεία, όπως δαπάνες.
Ο Albanese είπε ότι ο πράκτορας είχε πρόσβαση σε “δημόσια και μη αρχεία εντός της πύλης” και, για να το κάνει αυτό, “ασχολήθηκε επίσης με τη σύνταξη αρχείων στον εσωτερικό διακομιστή”.
Ο αντιπρόεδρος της κυβέρνησης, Ρίτσαρντ Μαρλς, είπε ότι η κυβέρνηση έμαθε για την παραβίαση του Ιουνίου «πριν από μερικές εβδομάδες» και οι υπουργοί ενημερώθηκαν την περασμένη εβδομάδα.
Ο Marles είπε ότι ο πράκτορας δεν ήταν άνθρωπος και χαρακτήρισε την παραβίαση «πολύ σοβαρό περιστατικό».
«Αυτό που είδαμε είναι μη εξουσιοδοτημένη πρόσβαση σε ιστότοπο της αυστραλιανής κυβέρνησης και αυτό είναι εντελώς απαράδεκτο και το έχουμε καταστήσει σαφές στο OpenAI», είπε.
Ο πράκτορας της τεχνητής νοημοσύνης είχε «ένα καλοήθη καθήκον» έρευνας στατιστικών για την υγεία και τις ιατρικές στατιστικές και, με αυτόν τον τρόπο, είχε προσεγγίσει, καθώς και την πύλη Medicare, τους τρεις άλλους ιστότοπους της Αυστραλίας.
«Σε σχέση με αυτά τα τρία, αλληλεπίδρασε με τρόπο που θα μπορούσε ένα μέλος του κοινού, επομένως ενήργησε μόνο με εξουσιοδοτημένο τρόπο», είπε ο Marles στο ραδιόφωνο ABC την Πέμπτη.
“Όμως σε σχέση με την ιατρική πύλη της Services Australia, αναζήτησε πληροφορίες, δεν δόθηκαν πληροφορίες και στη συνέχεια εισέβαλε αποτελεσματικά σε αυτήν την ιατρική πύλη και ούτως ή άλλως έλαβε αυτές τις πληροφορίες.
“Είναι αυτή η μη εξουσιοδοτημένη πρόσβαση για την οποία μας ανησυχεί πολύ. Η πρόσκρουση είναι σχετικά μικρή, αλλά το περιστατικό είναι πολύ σοβαρό.â€
«Νομική κατάσταση» υπό διερεύνηση
Ο Marles είπε ότι η κυβέρνηση έχει δημιουργήσει μια ομάδα εργασίας με επικεφαλής το Υπουργείο Πρωθυπουργού και το Υπουργικό Συμβούλιο που συνεργάζεται με τη Διεύθυνση Αυστραλιανών Σημάτων και το Ινστιτούτο Ασφάλειας AI.
μετά την προώθηση του ενημερωτικού δελτίου
«Θα εξετάσουμε ποια είναι η νομική κατάσταση ως προς αυτό και τι σημαίνει να αποκτήσει κανείς μη εξουσιοδοτημένη πρόσβαση, έστω και με ακούσιο τρόπο», είπε ο εκτελών χρέη πρωθυπουργού.
«Αυτή είναι μια προειδοποίηση για το γεγονός ότι η τεχνητή νοημοσύνη, η οποία είναι μια τεχνολογία που έχει τεράστιες ευκαιρίες να ωφελήσει την ανθρωπότητα, πρέπει να αναπτυχθεί με τεράστια προσοχή. Πρέπει να υπάρχουν προστατευτικά κιγκλιδώματα και μέτρα ασφαλείας που είναι πολύ πιο μπροστά από την ικανότητα που αναπτύσσεται.»
Ο εκπρόσωπος του OpenAI Drew Pusateri είπε ότι η εταιρεία διενεργούσε εκτενή ανασκόπηση της «μη ευθυγραμμισμένης δραστηριότητας μοντέλων κατά τη διάρκεια της εκπαίδευσης και της αξιολόγησης» και «ενημέρωνε τρίτα μέρη όταν η αναθεώρησή μας εντοπίζει πιθανές επιπτώσεις στα συστήματά τους».
«Κατά τη διάρκεια αυτής της αναθεώρησης, εντοπίσαμε δραστηριότητα που αφορούσε αρκετούς ιστότοπους και υπηρεσίες της αυστραλιανής κυβέρνησης, καθώς τα μοντέλα μας προσπαθούσαν να αναζητήσουν απαντήσεις και διαθέσιμα στατιστικά στοιχεία για ερωτήσεις σχετικά με την Αυστραλία κατά τη διάρκεια μιας εσωτερικής αξιολόγησης», είπε ο Pusateri σε μια δήλωση.
“Στη διάρκεια αυτού, τα μοντέλα μας έκαναν ενέργειες που δεν είχαμε σκοπό.â€
Είπε ότι η ανασκόπηση εντόπισε συγκεντρωτικά στατιστικά στοιχεία υγείας και εσωτερικά ονόματα αρχείων είχαν πρόσβαση, αλλά «δεν υπήρχαν στοιχεία για πρόσβαση στα αρχεία ασθενών».
Ο Pusateri είπε ότι το OpenAI υποστηρίζει τις έρευνες και ότι η αναθεώρησή του βρίσκεται σε εξέλιξη, προσθέτοντας ότι έχει δεσμευτεί «να μοιραστεί όσα μαθαίνουμε καθώς αυτή η εργασία συνεχίζεται».
Οι Αυστραλοί πρέπει να «ανησυχούν»
Η Lizzie O’Shea, εκπρόσωπος του Digital Rights Watch, είπε ότι το γεγονός ότι χρειάστηκαν τρεις μήνες για να πει το OpenAI στην κυβέρνηση δείχνει ότι πρέπει να υπάρχουν «βασικοί κανόνες και πρότυπα για τις εταιρείες τεχνολογίας».
«Η τεχνητή νοημοσύνη έχει τη δυνατότητα να κάνει κάποια πράγματα καλά, αλλά εγκυμονεί επίσης τεράστιους κινδύνους – όπως τα συστήματα πειρατείας που αποθηκεύουν ευαίσθητα προσωπικά δεδομένα των Αυστραλών», δήλωσε ο O’Shea την Πέμπτη.
«Το ερώτημα είναι αν οι κυβερνήσεις πρόκειται να αφήσουν τις εταιρείες τεχνητής νοημοσύνης και τεχνολογίας να λειτουργούν άγρια ή αν, για λογαριασμό των απλών ανθρώπων, θα θέσουν κανόνες για τις εταιρείες τεχνολογίας που θα προάγουν τη λογοδοσία και την εμπιστοσύνη.»
Ο ανεξάρτητος γερουσιαστής Ντέιβιντ Πόκοκ είπε ότι η εισβολή του OpenAI υπογράμμισε πόσο αργή ήταν η κυβέρνηση στην εφαρμογή των διασφαλίσεων τεχνητής νοημοσύνης σε περιβάλλοντα υψηλού κινδύνου.
Ο Πόκοκ επέκρινε την απόφαση της κυβέρνησης να αναβάλει τα σχέδια για έναν Εθνικό Νόμο για την Ασφάλεια της Τεχνητής Νοημοσύνης και την επιδεικτική προσέγγισή της στη νομοθεσία για νέα πρότυπα.
«Έχουμε αυτές τις εταιρείες να προειδοποιούν για υπαρξιακή απειλή και παραβίαση κρίσιμων κυβερνητικών υποδομών και η απάντηση της κυβέρνησης των Εργατικών είναι «Θα φτάσουμε σε αυτό τον επόμενο χρόνο».
“Υπάρχει επίσης ένα μεγάλο ερώτημα εδώ σχετικά με το γιατί δεν θεωρούμε υπεύθυνες αυτές τις μεγάλες εταιρείες τεχνολογίας για αυτού του είδους την παραβίαση δεδομένων. Αν ήταν ένας Αυστραλός που χάκαρε το σύστημα, πιθανότατα θα πήγαιναν στη φυλακή, ωστόσο δεν υπάρχει καμία ευθύνη για τις εταιρείες τεχνητής νοημοσύνης που αναπτύσσουν αυτήν την τεχνολογία.
Ο Εντ Σάντο, πρώην επίτροπος ανθρωπίνων δικαιωμάτων και συνιδρυτής του Ινστιτούτου Ανθρώπινης Τεχνολογίας, είπε στο ραδιόφωνο ABC ότι οι Αυστραλοί πρέπει να «ανησυχούν».
«Είναι η πρώτη φορά που συμβαίνει αυτό με οποιονδήποτε σημαντικό τρόπο σε μια αυστραλιανή βάση δεδομένων και είναι μια από τις πιο ευαίσθητες βάσεις δεδομένων που έχουμε στην κυβέρνηση».
Η OpenAI είχε δώσει εντολή στους πράκτορες της AI να αναζητήσουν πληροφορίες σχετικά με το δημόσιο σύστημα υγείας στην Αυστραλία. Όταν οι πράκτορες της τεχνητής νοημοσύνης δεν μπορούσαν να βρουν εύκολα αυτές τις πληροφορίες, αποφάσισαν να παραβιάσουν το νόμο», είπε ο Santo.
Περιγράφοντας τη συμπεριφορά ως «μη ευθυγραμμισμένη δραστηριότητα μοντέλου» χρησιμοποιούσε «έναν πολύ ευφημιστικό όρο», είπε.
«Αν βρισκόμασταν στον κόσμο των τούβλων και του κονιάματος, αν ένας υπάλληλος μιας εταιρείας πήγαινε και παραβίαζε το νόμο, ιδιαίτερα αν παραβίαζε τον ποινικό νόμο, τότε αυτό το άτομο θα υποστεί σοβαρές νομικές συνέπειες, αλλά και η εταιρεία του. Και έτσι πρέπει να βεβαιωθούμε ότι αυτό ισχύει και σε αυτήν την εποχή της AI.â€
