Η πρόκληση της ουδετερότητας στα LLM
Η πρόσφατη παρατήρηση ότι το AI Mode της Google αποφεύγει να απαντήσει άμεσα στο ερώτημα «ποιος κέρδισε τις εκλογές του 2020» αποτελεί ένα ενδιαφέρον case study για τη διαχείριση της παραγωγικής τεχνητής νοημοσύνης (Generative AI) σε πολιτικά ευαίσθητα περιβάλλοντα. Αντί για μια ευθεία απάντηση, το σύστημα επιλέγει να παραπέμψει τον χρήστη σε επίσημα δεδομένα της Federal Election Commission (FEC).
Αρχιτεκτονική φίλτρων και γεωγραφικοί περιορισμοί
Από τεχνική σκοπιά, το φαινόμενο υποδεικνύει την ύπαρξη ενός επιπέδου φιλτραρίσματος (safety layer) που παρεμβάλλεται μεταξύ του prompt του χρήστη και της παραγωγής του κειμένου. Είναι αξιοσημείωτο ότι η συμπεριφορά αυτή δεν είναι καθολική: μέσω VPN, παρατηρήθηκε ότι το μοντέλο παρέχει άμεσες απαντήσεις όταν το αίτημα προέρχεται από διαφορετικές γεωγραφικές περιοχές. Αυτό υποδηλώνει ότι το σύστημα ενορχήστρωσης (orchestration) των απαντήσεων ενσωματώνει κανόνες που εξαρτώνται από το context του χρήστη.
Η δυσκολία της αυτο-αναφοράς στα μοντέλα
Η Google αναγνώρισε το ζήτημα ως «τεχνικό κενό» και δεσμεύτηκε για τη διόρθωσή του. Ωστόσο, η περίπτωση αυτή επιβεβαιώνει ότι τα μοντέλα συλλογιστικής (reasoning models) δυσκολεύονται να εξηγήσουν τις εσωτερικές τους διαδικασίες. Όταν το AI κλήθηκε να εξηγήσει την αποφυγή του, επικαλέστηκε αυστηρά φίλτρα ασφαλείας, μια εξήγηση που συχνά στερείται ακρίβειας, καθώς τα μοντέλα δεν έχουν πλήρη επίγνωση των κανόνων που επιβάλλονται από το fine-tuning ή το system prompt τους.