Αρχιτεκτονική και βελτιστοποίηση για το edge
Το LFM2.5-24B-A2B αποτελεί την κορύφωση της σειράς LFM2.5, υιοθετώντας μια υβριδική αρχιτεκτονική που συνδυάζει gated short convolutions και Grouped Query Attention (GQA). Με 40 επίπεδα και 64 experts ανά MoE block, το μοντέλο επιτυγχάνει υψηλή αποδοτικότητα, καθώς ενεργοποιεί μόνο 2 δισεκατομμύρια παραμέτρους ανά token. Η μετάβαση σε ένα μοντέλο που παράγει ρητά chain-of-thought πριν από την τελική απάντηση ενισχύει την ποιότητα των αποτελεσμάτων σε σύνθετες εργασίες.
Εκπαίδευση και agentic ικανότητες
Η διαδικασία εκπαίδευσης κλιμακώθηκε στα 33T tokens, με μια στρατηγική δύο φάσεων στο mid-training που δίνει έμφαση στη συλλογιστική, τον κώδικα και τα μαθηματικά. Το post-training pipeline περιλαμβάνει πέντε στάδια, με αποκορύφωμα το Agentic Reinforcement Learning (Agentic RL), όπου το μοντέλο εκπαιδεύεται εντός εξειδικευμένων harnesses όπως το OpenClaw. Αυτή η προσέγγιση επιτρέπει στο μοντέλο να διαχειρίζεται αποτελεσματικά multi-turn trajectories και tool-calling χωρίς την ανάγκη για cloud API calls.
Επιδόσεις και διαθεσιμότητα
Στα benchmarks, το LFM2.5-24B-A2B υπερέχει σε εργασίες που απαιτούν χρήση εργαλείων (tool-use) και ακολουθία οδηγιών (instruction following), ξεπερνώντας συχνά μεγαλύτερα μοντέλα. Η ταχύτητα inference είναι εντυπωσιακή, φτάνοντας τα 184 tokens/s σε Apple M5 Max και πάνω από 21K tokens/s σε NVIDIA B300 GPU. Το μοντέλο είναι διαθέσιμο με open-weight άδεια στο Hugging Face, προσφέροντας στους developers τη δυνατότητα για τοπικό fine-tuning και deployment σε ποικίλο hardware.