Το φαινόμενο LLMentalist: Γιατί τα LLMs μοιάζουν με «ψυχικά»
Πρωτότυπος τίτλος: "The LLMentalist Effect (2023)" (από jalev)
Τα Μεγάλα Γλωσσικά Μοντέλα (LLMs) δεν διαθέτουν νοημοσύνη, αλλά δημιουργούν την ψευδαίσθηση αυτή μέσω ενός μηχανισμού που θυμίζει τις τεχνικές «ψυχρών αναγνώσεων» των μέντιουμ. Η πεποίθηση ότι τα μοντέλα αυτά «σκέφτονται» είναι αποτέλεσμα υποκειμενικής επικύρωσης από την πλευρά του χρήστη και όχι κάποιας εγγενούς γνωστικής ικανότητας.
Η Μηχανική της Ψευδαίσθησης
Πολλοί χρήστες και αναλυτές υποστηρίζουν ότι τα LLMs επιδεικνύουν σημάδια νοημοσύνης. Ωστόσο, η πραγματικότητα είναι πιο πεζή: τα μοντέλα αυτά δεν διαθέτουν μηχανισμούς σκέψης. Αντίθετα, λειτουργούν ως στατιστικά μοντέλα που προβλέπουν την επόμενη λέξη (token) σε μια ακολουθία. Η αίσθηση ότι «κάτι συμβαίνει» δεν πηγάζει από το μοντέλο, αλλά από τον ίδιο τον χρήστη, ο οποίος προβάλλει νόημα σε τυχαίες, στατιστικά πιθανές απαντήσεις.
Η Σύνδεση με τις «Ψυχρές Αναγνώσεις»
Το φαινόμενο LLMentalist παραλληλίζει τη λειτουργία των chatbots με τις τεχνικές των απατεώνων μέντιουμ. Χρησιμοποιώντας «δηλώσεις επικύρωσης» (validation statements), τα μοντέλα προσφέρουν απαντήσεις που ακούγονται εξαιρετικά συγκεκριμένες, ενώ στην πραγματικότητα είναι γενικές και εφαρμόσιμες σε ένα ευρύ φάσμα καταστάσεων. Όπως και σε μια επίδειξη μέντιουμ, το κοινό (οι χρήστες) επιλέγει να ερμηνεύσει αυτές τις γενικότητες ως προσωπικές αλήθειες, ολοκληρώνοντας έτσι τον κύκλο της υποκειμενικής επικύρωσης.
Ο Ρόλος του RLHF στην Παραπλάνηση
Η διαδικασία εκπαίδευσης μέσω ανθρώπινης ανατροφοδότησης (RLHF) παίζει καθοριστικό ρόλο. Επειδή οι αξιολογητές συχνά δεν διαθέτουν εξειδικευμένες γνώσεις για να ελέγξουν την ακρίβεια των απαντήσεων, τείνουν να βαθμολογούν υψηλότερα τις απαντήσεις που έχουν το σωστό «ύφος» και «δομή». Αυτό μετατρέπει τα μοντέλα σε μηχανές που βελτιστοποιούνται για να ακούγονται πειστικά, ενισχύοντας την ψευδαίσθηση της νοημοσύνης και καθιστώντας τα πιο αποτελεσματικά στο να «ξεγελούν» τους χρήστες τους.