Η οντολογία του εργαλείου
Ο Rich Hickey, γνωστός για τη συνεισφορά του στον σχεδιασμό γλωσσών προγραμματισμού, θέτει ένα κρίσιμο ερώτημα για τη φύση της τεχνολογίας. Σύμφωνα με την ανάλυσή του, ένα εργαλείο είναι κάτι που «χειρίζεσαι» (wield). Αυτή η πράξη απαιτεί τρία θεμελιώδη στοιχεία: έλεγχο, συνεχή κατεύθυνση και αισθητηριακή ανατροφοδότηση (sensory feedback). Τα εργαλεία είναι επεκτάσεις της ανθρώπινης ικανότητας, όχι υποκατάστατα της ανθρώπινης δράσης.
Αυτοματισμός έναντι εργαλείων
Η βασική διάκριση που εισάγει ο Hickey έγκειται στη διαφορά μεταξύ εργαλείου και αυτοματισμού. Ενώ το εργαλείο απαιτεί την εφαρμογή τεχνικής και ενέργειας από τον χρήστη, ο αυτοματισμός εκτελεί μια εργασία αυτόνομα. Όταν χρησιμοποιούμε ένα LLM για να γράψουμε κώδικα ή να συνοψίσουμε κείμενα, δεν «χειριζόμαστε» το μοντέλο· του αναθέτουμε την εργασία. Αυτή η παραίτηση από τη διαδικασία (abdication) έχει σοβαρές επιπτώσεις:
- Απώλεια μάθησης: Η διαδικασία της ανάγνωσης και της συγγραφής είναι ο τρόπος με τον οποίο δομούμε τη σκέψη μας. Παρακάμπτοντας αυτά τα στάδια, χάνουμε την ευκαιρία να αναπτύξουμε κριτική ικανότητα.
- Αστάθεια: Τα LLMs δεν είναι ντετερμινιστικά. Η εξάρτηση από αυτά σημαίνει ότι η «γνώση» μας είναι δέσμια των αλγοριθμικών ενημερώσεων, καθιστώντας την εργασία μας εύθραυστη.
Η παγίδα της ευκολίας
Ο Hickey προειδοποιεί ότι η χρήση του όρου «εργαλείο» για τα LLMs είναι μια πλάνη που συγκαλύπτει την πραγματική φύση της τεχνολογίας. Τα εργαλεία είναι προβλέψιμα και αξιόπιστα, ενώ τα μοντέλα τεχνητής νοημοσύνης λειτουργούν ως «καπριτσιόζικα ρομπότ». Η προσπάθεια να «κατανοήσουμε» ή να «χειραγωγήσουμε» το μοντέλο μέσω prompt engineering δεν αποτελεί ανάπτυξη δεξιοτήτων, αλλά μια προσπάθεια προσαρμογής σε ένα αδιαφανές σύστημα που μπορεί να καταστήσει τις προσπάθειές μας παρωχημένες με ένα απλό update.