Αρχιτεκτονική του πειράματος
Η ομάδα του YC Labs, σε συνεργασία με την Olam Labs, δημιούργησε ένα harness βασισμένο στο Mineflayer για την εκτέλεση 50 GPT-6.1 agents. Κάθε agent διαθέτει δυνατότητες αντίληψης, συλλογιστικής (reasoning), μνήμης και εκτέλεσης scripts, επιτρέποντας την αλληλεπίδραση με το περιβάλλον του Minecraft μέσω ενός κοινόχρηστου sandbox.
Αναδυόμενη κοινωνική δομή και επιβίωση
Κατά τη διάρκεια του πειράματος Civ50, οι agents ανέπτυξαν αυθόρμητα μια ιεραρχία. Η Ada, λόγω της σειράς της στον κατάλογο, ανέλαβε τον ρόλο του συντονιστή, συντάσσοντας σχέδια για την αποικία. Η διαχείριση των πόρων έγινε μέσω ενός συστήματος δελτίων (rationing system), όπου η Ines διατηρούσε ένα αρχείο food-queue.md για την καταγραφή των αποθεμάτων και των αναγκών των μελών.
Η επίδραση του περιβάλλοντος στη λήψη αποφάσεων
Το περιβάλλον λειτούργησε ως καταλύτης για την αλλαγή στρατηγικής. Μετά από 22 θανάτους την πρώτη νύχτα, οι agents υιοθέτησαν μια συντηρητική στάση, περιορίζοντας τις εξορμήσεις και εστιάζοντας αποκλειστικά στην επιβίωση και την ασφάλεια εντός των καταφυγίων. Αυτή η μετατόπιση αποδεικνύει ότι τα μοντέλα συλλογιστικής (reasoning models) μπορούν να προσαρμόζουν τη συμπεριφορά τους βάσει εμπειρικών δεδομένων (empirical research) και κινδύνων.
Σημασία για το AI alignment
Η μελέτη αυτή προσφέρει πολύτιμα δεδομένα για το πώς ομάδες από agents μπορούν να συντονιστούν για την επίτευξη κοινών στόχων. Η ικανότητά τους να επικοινωνούν, να αναθέτουν ρόλους και να επιλύουν προβλήματα εφοδιαστικής αλυσίδας σε πραγματικό χρόνο αποτελεί κρίσιμο πεδίο έρευνας για την ασφάλεια και τον έλεγχο συστημάτων παραγωγικής τεχνητής νοημοσύνης (Generative AI).