Η μέθοδος LoRA distillation για απομάκρυνση AI στυλ
Ο Erik Kannike χρησιμοποίησε έναν τριών φάσεων distillation pipeline για να εκπαιδεύσει το Qwen3-4B-Instruct. Ο teacher δημιουργεί απαντήσεις που περνάνε αυστηρές ελέγχους (slop score < 12, task-fit checks, damage checks), και ένας LoRA adapter (rank-16, 126 MB) μαθαίνει να τιμηθεί από αυτές. Η προσθήκη neuron edits (αναστροφή 4 MLP νευρώνων) βοήθησε στην απομάκρυνση συγκεκριμένων στυλ συνηθειών.
Αποτελέσματα και αξιολόγηση
Σε 40 prompts που δεν είδε κατά την εκπαίδευση, το μοντέλο μειώνει το slop score από 121 σε 12.5 ανά 1000 λέξεις, με em dash από 20.5 σε 0. Το 68% των απαντήσεων βρίσκονται στο εύρος ανθρώπινης γραφής. Η γνωστική ακρίβεια παραμένει αμετάβλητη: 30/30 σωστές απαντήσεις. Ωστόσο, το μοντέλο επινοεί ακόμα ονόματα και τόπους, και γράφει σε πλατιά, απλοϊκό στυλ.
Τεχνικές λεπτομέρειες και περιορισμοί
Το μοντέλο εκπαιδεύτηκε σε MacBook Air M2 για 1-3 ώρες ανά φάση, χρησιμοποιώντας bf16 ακρίβεια. Η GGUF έκδοση (Q4_K_M, 2.5 GB) τρέχει με Ollama ή llama.cpp. Οι περιορισμοί περιλαμβάνουν την επινόηση ονομάτων/τόπων, την πλατιά γραφή και την έλλειψη blind test με ανθρώπινους αναγνώστες. Τα επόμενα βήματα περιλαμβάνουν εκπαίδευση σε μεγαλύτερα μοντέλα (7-8B, 30B) και χρήση ανθρώπινων κειμένων ως βάση.