Η αρχιτεκτονική της μνήμης στα σύγχρονα AI agents
Καθώς τα αυτόνομα συστήματα (AI agents) κλήθηκαν να διαχειριστούν εργασίες μεγάλης χρονικής κλίμακας (long-horizon tasks), έγινε φανερό ότι η προσωρινή μνήμη εντός του context window δεν επαρκεί. Η Anthropic μελετά τη διαίρεση εργασίας μεταξύ της άμεσης καταγραφής logs και μιας φάσης offline επεξεργασίας, γνωστής ως sleep-time compute ή dreaming. Αυτή η προσέγγιση επιτρέπει στα μοντέλα να οργανώνουν τη γνώση τους, να διορθώνουν σφάλματα και να δομούν αναπαραστάσεις χωρίς να δεσμεύουν υπολογιστικούς πόρους κατά την εκτέλεση της κύριας εργασίας.
Η πρόβλεψη μέλλοντος και η κρίση σπουδαιότητας
Η αποθήκευση πληροφοριών στη μνήμη ισοδυναμεί με μια πρόβλεψη για το τι θα χρειαστεί στο μέλλον. Κατά τη διάρκεια αξιολογήσεων σε περιβάλλοντα όπως το Continual Learning Bench (CL-Bench) και σύνθετα σενάρια παιχνιδιών (όπως το Pokémon Red), φάνηκε ότι τα λιγότερο ώριμα μοντέλα τείνουν να καταγράφουν αδιάκριτα κάθε λεπτομέρεια, προκαλώντας σημεία συμφόρησης (bottlenecks) και ξεπερασμένα δεδομένα. Αντίθετα, τα προηγμένα μοντέλα αποδεικνύουν ικανότητα αυτοαξιολόγησης, αποθηκεύοντας μόνο στρατηγικούς κανόνες, δοκιμασμένες υποθέσεις και δομές καταγραφής σφαλμάτων.
Διόρθωση και δόμηση γνώσης μέσω του «Dreaming»
Το dreaming λειτουργεί ως μηχανισμός αναδρομικής ανάλυσης (thinking backward, looking forward). Επιτρέπει στο agent να συγκρίνει τις σημειώσεις μνήμης του με τα πραγματικά transcripts συνεδριών, εντοπίζοντας ψευδαισθήσεις ή εσφαλμένες υποθέσεις πλοήγησης. Παράλληλα, διευκολύνει τη δημιουργία δομών τύπου wiki και ιεραρχιών μνήμης (context injection), επιτρέποντας στα agents να πλοηγούνται σε τεράστιους όγκους δεδομένων με ελάχιστη κατανάλωση tokens και υψηλή ακρίβεια.