Η αρχιτεκτονική της ομοφωνίας στα LLM
Το πείραμα της ModelCompare αναδεικνύει ένα ενδιαφέρον φαινόμενο: παρά τις διαφορετικές αρχιτεκτονικές και τα διαφορετικά labs προέλευσης, τα σύγχρονα μοντέλα συλλογιστικής (reasoning models) καταλήγουν σε εντυπωσιακά πανομοιότυπα συμπεράσματα όταν καλούνται να ασκήσουν κριτική στην ανθρώπινη φύση. Η τάση τους να χαρακτηρίζουν τον άνθρωπο ως «ορθολογικοποιούν ον» (rationalizing animal) αντί για «ορθολογικό ον» υποδηλώνει ότι τα μοντέλα έχουν εσωτερικεύσει μια συγκεκριμένη κυνική σχολή σκέψης που κυριαρχεί στα δεδομένα εκπαίδευσης.
Διαφοροποίηση μεταξύ modalities
Είναι αξιοσημείωτο το χάσμα μεταξύ των κειμενικών μοντέλων και των μοντέλων παραγωγής εικόνας. Ενώ τα LLM αναλύουν την ανθρώπινη συμπεριφορά μέσα από το πρίσμα της κοινωνικής ψυχολογίας και της εξελικτικής βιολογίας, τα μοντέλα εικόνας περιορίζονται σε οπτικά στερεότυπα (π.χ. ανθρώπους που κοιτούν τα κινητά τους). Αυτό υποδεικνύει ότι τα image models έχουν εκπαιδευτεί σε δεδομένα που περιέχουν κυρίως editorial cartoons, τα οποία αναπαράγουν μια επιφανειακή κριτική, σε αντίθεση με το βάθος των κειμενικών αναλύσεων.
Επιπτώσεις για το μέλλον του AI alignment
Η διαπίστωση ότι τα μοντέλα «συμφωνούν» σε τόσο αμφιλεγόμενα ζητήματα εγείρει ερωτήματα για το κατά πόσο η τεχνητή νοημοσύνη μπορεί να προσφέρει πραγματικά πρωτότυπη σκέψη. Αν η «προσωπικότητα» των μοντέλων είναι απλώς ένας μέσος όρος των υπαρχουσών απόψεων στο διαδίκτυο, τότε η ικανότητά τους να λειτουργούν ως αντικειμενικοί παρατηρητές της ανθρώπινης κατάστασης παραμένει περιορισμένη. Η ομοιομορφία αυτή αποτελεί ένα κρίσιμο σημείο συμφόρησης (bottleneck) για την ανάπτυξη συστημάτων που θα μπορούσαν να προσφέρουν εναλλακτικές ή αντισυμβατικές οπτικές γωνίες.