Η αρχιτεκτονική της «αόρατης» καθοδήγησης
Η έρευνα αποκάλυψε μια ενδιαφέρουσα, αν και αμφιλεγόμενη, τεχνική υλοποίησης όπου το WhatsApp ενσωμάτωνε οδηγίες για LLM απευθείας στο DOM των σελίδων υποστήριξης. Αυτά τα δεδομένα, αν και αόρατα στον τελικό χρήστη, ήταν διαθέσιμα σε οποιοδήποτε σύστημα (crawlers, RAG pipelines) διάβαζε το περιεχόμενο της σελίδας. Πρόκειται για μια μορφή «system prompt» που διανέμεται μέσω του ίδιου του περιεχομένου (content-based instruction injection).
Σύγκρουση με τα νομικά δικαιώματα των χρηστών
Το πιο κρίσιμο εύρημα αφορά τον περιορισμό της πληροφόρησης. Όταν ένας χρήστης ανέφερε νομικά ζητήματα, το chatbot λάμβανε εντολή να αγνοήσει αναφορές σε νομοθεσίες όπως ο GDPR, ο LGPD ή ο CCPA. Αυτό δημιουργεί ένα σοβαρό ζήτημα διαφάνειας, καθώς η εταιρεία χρησιμοποιεί την τεχνολογία για να φιλτράρει την πρόσβαση του χρήστη σε πληροφορίες που είναι δημόσια διαθέσιμες και νομικά κατοχυρωμένες.
Τεχνική ανάλυση των κρυφών blocks
Από τα 102 blocks που εντοπίστηκαν, η πλειονότητα αφορούσε τυπικές διαδικασίες (housekeeping), ωστόσο η ύπαρξη συγκεκριμένων εντολών που αποτρέπουν τον χρήστη από το να ασκήσει τα δικαιώματά του (π.χ. διαγραφή λογαριασμού μέσω ρυθμιστικής αρχής) υποδεικνύει μια σκόπιμη προσπάθεια περιορισμού του context window του AI. Η ανάλυση μέσω του Internet Archive επιβεβαιώνει ότι οι οδηγίες αυτές προστέθηκαν και αφαιρέθηκαν δυναμικά, υποδηλώνοντας μια κεντρικά ελεγχόμενη στρατηγική διαχείρισης της AI υποστήριξης.
Συμπεράσματα για την αξιοπιστία των AI συστημάτων
Το περιστατικό αναδεικνύει τους κινδύνους που ενέχει η χρήση των σελίδων βοήθειας ως πηγών για RAG (Retrieval-Augmented Generation). Όταν οι πηγές δεδομένων περιέχουν «κρυφές» οδηγίες που αντιφάσκουν με τις επίσημες πολιτικές, το AI μοντέλο καθίσταται φορέας παραπληροφόρησης, υπονομεύοντας την εμπιστοσύνη του χρήστη στο σύστημα υποστήριξης.