Η πρόκληση της εμπιστοσύνης στην εποχή των LLMs
Στο τρέχον οικοσύστημα της παραγωγικής τεχνητής νοημοσύνης (Generative AI), οι χρήστες δεν διαθέτουν μηχανισμούς για να επαληθεύσουν ότι η απάντηση που λαμβάνουν προέρχεται όντως από το μοντέλο που ισχυρίζεται ο πάροχος. Αυτό δημιουργεί κινδύνους όπως η υποκατάσταση μοντέλων για μείωση κόστους ή η αλλοίωση της ροής των tokens από κακόβουλους δρώντες. Η αποδείξιμη συναγωγή (provable inference) έρχεται να γεφυρώσει αυτό το χάσμα εμπιστοσύνης.
Αρχιτεκτονική του FlashProve
Το FlashProve βασίζεται σε μια κρυπτογραφική κατασκευή τύπου zkSNARK (zero-knowledge succinct argument of knowledge). Η διαδικασία χωρίζεται σε δύο φάσεις:
- Offline φάση: Ο πάροχος δεσμεύεται (commitment) στα βάρη του μοντέλου, δημιουργώντας ένα ψηφιακό αποτύπωμα χωρίς να αποκαλύπτει την εσωτερική δομή των βαρών.
- Online φάση: Κατά τη συναγωγή, ο prover παράγει μια απόδειξη ότι τα tokens που παρήχθησαν είναι το αποτέλεσμα της εκτέλεσης του δεσμευμένου μοντέλου πάνω στο συγκεκριμένο prompt.
Η αρχιτεκτονική είναι βελτιστοποιημένη για μοντέλα Mixture-of-Experts (MoE), όπου ο υπολογιστικός φόρτος της απόδειξης είναι ανάλογος μόνο των ενεργών παραμέτρων (experts) που χρησιμοποιήθηκαν ανά token, αντί για το σύνολο των παραμέτρων του μοντέλου.
Τυπική επαλήθευση και ασφάλεια
Η Anthropic δίνει ιδιαίτερη έμφαση στην αξιοπιστία του κώδικα μέσω της τυπικής επαλήθευσης (formal verification). Χρησιμοποιώντας τον proof assistant Lean, οι προγραμματιστές απέδειξαν μαθηματικά τις ιδιότητες πληρότητας (completeness), ορθότητας (soundness) και μηδενικής γνώσης (zero-knowledge) του πρωτοκόλλου. Αυτό προσφέρει μια επιπλέον δικλείδα ασφαλείας, καθώς ο κώδικας του verifier μπορεί να ελεγχθεί ανεξάρτητα από τον prover, διασφαλίζοντας ότι δεν υπάρχει δυνατότητα πλαστογραφίας της απόδειξης.