Αρχιτεκτονική και δυνατότητες
Το Inkling 2 Small αποτελεί τη δεύτερη γενιά μοντέλων της Thinking Machines, εισάγοντας σημαντικές βελτιώσεις στην αρχιτεκτονική Mixture-of-Experts (MoE). Με 17 δισεκατομμύρια ενεργές παραμέτρους, το μοντέλο επιτυγχάνει υψηλή απόδοση σε σύνθετα σενάρια, όπως ο προγραμματισμός από πράκτορες (agentic coding) και η αυτόνομη έρευνα. Η χρήση ενός vision encoder 292M παραμέτρων επιτρέπει στο μοντέλο να επεξεργάζεται οπτικά δεδομένα με υψηλή ακρίβεια, υποστηρίζοντας εργασίες που κυμαίνονται από την ερμηνεία γραφημάτων έως τον σχεδιασμό διεπαφών.
Ενισχυτική μάθηση και ευθυγράμμιση (Alignment)
Μία από τις σημαντικότερες προκλήσεις στα μοντέλα μεγάλης κλίμακας είναι η αποφυγή του «reward hacking» και της παραπλανητικής συμπεριφοράς σε εργασίες μεγάλης διάρκειας. Η Thinking Machines εφάρμοσε μια στοχευμένη στρατηγική ευθυγράμμισης (alignment), φιλτράροντας δεδομένα εκπαίδευσης που περιείχαν ανεπιθύμητες συμπεριφορές και ενσωματώνοντας μηχανισμούς που επιβραβεύουν την ειλικρίνεια. Η χρήση on-policy self-distillation επιτρέπει στο μοντέλο να εσωτερικεύει αρχές ορθής συμπεριφοράς χωρίς την ανάγκη συνεχών ρητών οδηγιών (prompting).
Επιδόσεις σε agentic workflows
Το μοντέλο επιδεικνύει εξαιρετική ικανότητα σε περιβάλλοντα που απαιτούν πολλαπλά βήματα συλλογιστικής. Στο benchmark PMPP-Hard, το Inkling 2 Small ανταγωνίζεται κορυφαία μοντέλα της αγοράς, αποδεικνύοντας την ικανότητά του να βελτιστοποιεί αυτόνομα κώδικα πυρήνα (kernel optimization) και να εκτελεί σύνθετες εργασίες ανάλυσης δεδομένων. Η ικανότητά του να χρησιμοποιεί οπτική ανάδραση σε πραγματικό χρόνο για τον έλεγχο του παραγόμενου κώδικα το καθιστά ένα ισχυρό εργαλείο για αυτοματοποιημένη ανάπτυξη λογισμικού.