Αρχιτεκτονική προσέγγιση και agentic δυνατότητες
Η σειρά Muse Wonder αποτελεί το αποτέλεσμα μιας ριζικής αναθεώρησης της υποδομής τεχνητής νοημοσύνης της Meta. Η αρχιτεκτονική των μοντέλων βασίζεται σε δύο πυλώνες: το Active Memory, το οποίο επιτρέπει στο μοντέλο να ανακτά και να διατηρεί κρίσιμες πληροφορίες από προηγούμενες αλληλεπιδράσεις, και το Active Focus, έναν μηχανισμό που διασφαλίζει τη συνεχή προσπάθεια για την επίτευξη στόχων, προσαρμοζόμενο σε νέα δεδομένα και αναζητώντας διευκρινίσεις όπου απαιτείται.
Γενίκευση και test-time compute
Ένα από τα πιο ενδιαφέροντα τεχνικά ευρήματα της έρευνας αφορά τη σχέση μεταξύ της απόδοσης σε γνωστά δεδομένα (in-distribution) και της ικανότητας επίλυσης άγνωστων προβλημάτων (out-of-distribution). Τα δεδομένα δείχνουν ότι η χρήση ισχυρότερων base models επιτρέπει στα μοντέλα Muse Wonder να παρουσιάζουν ανώτερη ευελιξία, καθώς η κλιμάκωση του test-time compute αποδίδει καλύτερα αποτελέσματα σε μη προβλέψιμα σενάρια χρήσης, ξεπερνώντας τους περιορισμούς του απλού "benchmaxxing".
Ασφάλεια και ευθυγράμμιση (alignment)
Καθώς τα μοντέλα αποκτούν πρόσβαση σε προσωπικά δεδομένα (μηνύματα, ημερολόγια), η Meta έδωσε ιδιαίτερη έμφαση στην ασφάλεια. Τα μοντέλα έχουν εκπαιδευτεί να είναι ανθεκτικά σε adversarial επιθέσεις και να διαχειρίζονται με διακριτικότητα τις ευαίσθητες πληροφορίες. Παράλληλα, ενσωματώνουν αυστηρές δικλείδες ασφαλείας κατά της κακόβουλης χρήσης (CBRN και cyber misuse), διατηρώντας παράλληλα τη χρηστικότητα για αμυντικούς σκοπούς, σύμφωνα με το Meta Superintelligence Scaling Framework.