Αρχιτεκτονική και διαφοροποίηση από τα LLMs
Σε αντίθεση με τα παραδοσιακά Large Language Models (LLMs) που είναι μη ντετερμινιστικά και παράγουν κείμενο token-by-token, τα μοντέλα Clef εστιάζουν στην παραγωγή δομημένων, πιθανοτικών απαντήσεων. Η αρχιτεκτονική τους βασίζεται στο Qwen, όπου η διαδικασία inference περιλαμβάνει ένα prefill-only πέρασμα, ακολουθούμενο από παράλληλη βαθμονόμηση (scoring) των επιλογών του σχήματος. Αυτή η προσέγγιση εξαλείφει το overhead της παραγωγής ενδιάμεσου κειμένου, καθιστώντας τα ιδανικά για κρίσιμα μονοπάτια (hot paths) σε agentic συστήματα.
Τεχνική υπεροχή και benchmarks
Τα Clef και Clef-flash επιδεικνύουν εξαιρετική απόδοση σε benchmarks όπως το Jev Decision Index, υπερέχοντας σε latency και ακρίβεια. Η χρήση ενός εξειδικευμένου two-stage attention routing επιτρέπει στα μοντέλα να συσχετίζουν παραμέτρους πεδίων με το αρχικό payload πριν από το τελικό scoring. Με p95 latency που αγγίζει τα 122.4ms για το Clef-flash, τα μοντέλα αυτά αποτελούν μια ισχυρή λύση για εφαρμογές που απαιτούν άμεση απόκριση, όπως η ταξινόμηση απειλών (threat intelligence) και η δρομολόγηση αιτημάτων υποστήριξης.
Οικοσύστημα και Reinforcement Learning (RL)
Η Cloudflare δεν περιορίζεται μόνο στη διάθεση των μοντέλων, αλλά εισάγει μια ολοκληρωμένη πλατφόρμα για fine-tuning. Αξιοποιώντας το Workers AI και το AI Gateway, οι χρήστες μπορούν να συλλέγουν δεδομένα από την κίνηση των εφαρμογών τους και να εκπαιδεύουν εξειδικευμένα μοντέλα. Η χρήση Reinforcement Learning for Calibrated Decisions (RLCD) διασφαλίζει ότι τα μοντέλα παραμένουν ακριβή και γενικεύσιμα, αποφεύγοντας το distribution shift κατά την προσαρμογή σε συγκεκριμένα domain-specific use cases.