Το μυαλό και το σώμα του AI agent

Η αρχιτεκτονική των AI agents βασίζεται σε μια απλή αλλά βαθιά ιδέα: το μεγάλο γλωσσικό μοντέλο (LLM) λειτουργεί ως το 'μυαλό' που παράγει κείμενο, ενώ το harness είναι το 'σώμα' που διαχειρίζεται την κατάσταση, την επικοινωνία και την εξέλιξη της συνομιλίας. Το LLM είναι αφηρημένο έξω - κάθε αλληλογραφία απαιτεί αποστολή ολόκληρης της συνομιλίας ως JSON array, και το harness είναι το πρόγραμμα που διαχειρίζεται αυτή την κατάσταση.

Ο βασικός βρόχος και τα patches

Όλα τα σημερινά 'agents' είναι ένα σύνολο patches που εφαρμόζονται σε έναν βασικό βρόχο επικοινωνίας μεταξύ ανθρώπου και μοντέλου. Κάθε patch υπάρχει επειδή κάτι συγκεκριμένο έσφαλε. Το άρθρο αναπτρέπει αυτήν την προσέγγιση μέσω 16 χανονών, ξεκινώντας από ένα ~300 γραμμή toy agent σε Python, δείχνοντας πώς η αρχιτεκτονική μεγαλώνει από έναν απλό βρόχο σε ένα πλήρως λειτουργικό σύστημα.

Χανονές της αρχιτεκτονικής

Οι χανονές διαιρούνται σε τέσσερις μεγάλες ενότητες: (I) The Wire - τα βασικά συστατικά του βρόχου, (II) Running Long - πώς να διαχειριστείτε το context window ως προϋπολογισμό και πώς να εφαρμόσετε subagents, (III) The Ecosystem - το πώς τα όνομα στους frameworks και τεχνολογίες είναι wrapper γύρω από το ίδιο concept, και (IV) Trust, Domains, and Data - την ασφάλεια, την επεξεργασία δεδομένων και την εφαρμογή σε πραγματικές περιπτώσεις όπως τα coding agents.