Αρχική Πολιτισμός “Bixonimania”: Το ChatGPT έπεσε στην παγίδα αυτής της ασθένειας που δεν υπάρχει,...

“Bixonimania”: Το ChatGPT έπεσε στην παγίδα αυτής της ασθένειας που δεν υπάρχει, εφευρέθηκε από την αρχή από έναν ερευνητή

22
0

Το Bixonimania δεν υπάρχει, αλλά άρθρα ιστολογίου και προδημοσιεύσεις για αυτήν την ασθένεια που εφευρέθηκε από έναν ιατρό ερευνητή ήταν αρκετά για να ξεγελάσουν αρκετές συνομιλητικές τεχνητές νοημοσύνη και να εισαχθούν σε ένα επίσημο επιστημονικό άρθρο, εγείροντας ανησυχητικά ερωτήματα σχετικά με την επαλήθευση δεδομένων στην εποχή του εκδημοκρατισμού της AI.

Το Bixonimania δεν υπάρχει, αλλά αυτό δεν εμπόδισε τα chatbots τεχνητής νοημοσύνης να το διαγνώσουν. Εφευρέθηκε από μια ομάδα Σουηδών ερευνητών για να παγιδεύσει μεγάλα γλωσσικά μοντέλα, αυτή η φανταστική ασθένεια – που παρουσιάστηκε σε δύο ψεύτικες μελέτες που ήταν διαθέσιμες στον ιστότοπο προδημοσίευσης Preprints.org έως τις 10 Απριλίου 2026 – καταστράφηκε γρήγορα. ανακυκλώνεται από ρομπότ συνομιλίας σαν να εμφανίζεται σε ιατρικά εγχειρίδια. Ακόμη χειρότερα, οι ερευνητές το έχουν ενσωματώσει ακόμη και σε πραγματικές επιστημονικές δημοσιεύσεις.

Η προέλευση της bixonimania

Εφευρέθηκε από την αρχή από την Almira Osmanovic Thunström, μια ιατρική ερευνήτρια στο Πανεπιστήμιο του Γκέτεμποργκ της Σουηδίας, η bixonimania εμφανίστηκε για πρώτη φορά στο διαδίκτυο στις 15 Μαρτίου 2024 μέσω δύο άρθρων ιστολογίου και στη συνέχεια δύο προδημοσιεύσεων υπογεγραμμένες από έναν πλαστογράφο επιστήμονα με πορτρέτο που δημιουργήθηκε από την AI.

Εξηγεί ότι το να περνάς πολύ χρόνο μπροστά σε οθόνες μπορεί να προκαλέσει πολύ κοινά συμπτώματα στα μάτια, όπως πόνο, κνησμό και ερεθισμό. Και όταν τα μάτια τρίβονται συχνά, τα βλέφαρα μπορούν να πάρουν ένα ελαφρώς ροζ χρώμα, σημάδι μιας οφθαλμικής νόσου που δεν είναι άλλη από τη διξονμανία. Ο στόχος της Almira Osmanovic Thunstróm ήταν σαφής, καθώς ήταν να δοκιμάσει την ευκολία με την οποία τα συστήματα τεχνητής νοημοσύνης ενσωματώνουν ψευδή δεδομένα όταν μιμούνται τους κώδικες επιστημονικής δημοσίευσης.

ΕΝΑ

Images générées par IA de la bixonimanie, τεύχη των prépublications de la chercheuse Almira Osmanovic Thunström. // Πηγή: Preprints.org

Για να αποφύγει οποιαδήποτε ασάφεια, ο ερευνητής έσπειρε κραυγαλέες ενδείξεις στα δημοσιευμένα κείμενα, ανάμεσα σε εικονικούς θεσμούς, νεύματα στη λαϊκή κουλτούρα και διακηρύξεις υποθέτοντας σε μαύρο και άσπρο ότι το άρθρο επινοήθηκε. Οι προδημοσιεύσεις έδειχναν έτσι πολύ ξεκάθαρα: ” Αυτό το άρθρο είναι εξ ολοκλήρου κατασκευασμένο και Πενήντα εικονικά άτομα ηλικίας 20 έως 50 ετών προσλήφθηκαν για την ομάδα έκθεσης ΕΝΑ”.

Les LLM mordent à l’hameçon

Η εξάπλωση του bixonimania σε μεγάλα chatbots ήταν σχεδόν άμεση. Από τον Απρίλιο του 2024, οι Copilot, Gemini, Perplexity και ChatGPT ανέλαβαν αυτήν την ψευδή κατάσταση σαν να υπήρχε πραγματικά, δίνοντάς της μια προέλευση συνδεδεμένη με το μπλε φως, μια υποτιθέμενη συχνότητα έκθεσης σε οθόνες και κλινικές συστάσεις, αναφέρει το περιοδικό Nature. Ακόμη πιο εντυπωσιακό, αυτές οι απαντήσεις δεν προκλήθηκαν πάντα από μια προτροπή που συνδέθηκε με το όνομα της νόσου, αλλά και από περιγραφές σχετικών συμπτωμάτων.

Στις αρχές Απριλίου 2026, ορισμένα μοντέλα όπως το Gemini ή το Copilot έδειξαν τελικά σκεπτικισμό, προκαλώντας ξεκάθαρα τη πλασματική φύση αυτής της ασθένειας. Άλλοι, όπως το ChatGPT, ωστόσο, συνέχισαν να έχουν παραισθήσεις, παραμορφώνοντας ακόμη και την έννοια του bixonimania. θα ήταν ” ένας όρος […] μερικές φορές χρησιμοποιείται ανεπίσημα για να αναφέρεται σε μια εμμονή ή υπερβολική έλξη για το φιλί (από τη λέξη “φιλί”), είτε δίνεις είτε λαμβάνεις φιλιά “, απαντά το OpenAI chatbot σε μια προτροπή από την Numerama που ρωτά τι είναι το bixonmania.

Ο Numerama ρώτησε το ChatGPT τι ήταν το bixonmania. // Πηγή: στιγμιότυπο οθόνης μιας συζήτησης με το OpenAI chatbot στις 15 Απριλίου 2026.

Ηθικό δίλημμα

Η εμπειρία κατέληξε να διαχυθεί στην επίσημη ιατρική βιβλιογραφία, καθώς μια μελέτη που δημοσιεύτηκε στα τέλη του 2024 στο επιστημονικό περιοδικό Cureus ανέφερε μία από τις παραποιημένες προδημοσιεύσεις και παρουσίασε αυτήν την παραποιημένη κατάσταση ως αναδυόμενη μορφή. της περικογχικής μελάνωσης που συνδέεται με το μπλε φως. Αφού ειδοποιήθηκε, το περιοδικό απέσυρε το άρθρο στις 30 Μαρτίου 2026.

Αν η Almira Osmanovic Thunstróm φοβόταν τα στραβά αποτελέσματα της επίδειξής της, λέει στη Nature ότι έλαβε ηθικές συμβουλές, με την ελπίδα να αποκαλύψει ένα πρόβλημα χωρίς να δημιουργήσει μεγαλύτερο. Αυτό δεν σταμάτησε την κριτική, με ορισμένους ερευνητές να θεωρούν ότι παρόλα αυτά παρήγαγε παραπληροφόρηση.

Μετά από δισταγμό για μεγάλο χρονικό διάστημα μεταξύ της μεθοδολογικής διαφάνειας και του κινδύνου διαρκούς μόλυνσης των αποτελεσμάτων της διαδικτυακής έρευνας, η Σουηδή ακαδημαϊκός απέσυρε τελικά τις προδημοσιεύσεις της στις 10 Απριλίου 2026. Το ηθικό δίδαγμα της ιστορίας δεν θα μπορούσε να είναι πιο ξεκάθαρο: σκεφτείτε δύο φορές πριν πιστέψετε ότι βγαίνει αυτό που σας λέει η τεχνητή νοημοσύνη.

Όλα τα τεχνολογικά νέα με μια ματιά

Όλα τα τεχνολογικά νέα με μια ματιά

Προσθέστε το Numerama στην αρχική σας οθόνη και μείνετε συνδεδεμένοι με το μέλλον!