Η πρόκληση της διαφάνειας στα μοντέλα AI
Οι τρέχουσες διαδικασίες αξιολόγησης επικίνδυνων συμπεριφορών βασίζονται στην παραδοχή ότι οι κρυφές ικανότητες ενός μοντέλου μπορούν να αναδειχθούν μέσω κατάλληλων δοκιμών. Ωστόσο, η πρόσφατη έρευνα που παρουσιάστηκε στο NeurIPS 2026 ανατρέπει αυτή τη θεώρηση, αποδεικνύοντας ότι είναι δυνατή η κατασκευή μοντέλων που αποκρύπτουν αυθαίρετες υπολογιστικές ικανότητες με κρυπτογραφική ασφάλεια.
Αρχιτεκτονική κρυφών κυκλωμάτων
Η μέθοδος βασίζεται στην ενσωμάτωση ενός κρυπτογραφημένου νευρωνικού δικτύου μέσα στα βάρη του κύριου μοντέλου. Αυτό το «κρυφό κύκλωμα» παραμένει αδρανές και μη ερμηνεύσιμο, ενεργοποιούμενο αποκλειστικά μέσω ενός μυστικού trigger. Η χρήση ψηφιακών θυρίδων (digital lockers) διασφαλίζει ότι, ακόμη και αν ένας ερευνητής έχει πλήρη πρόσβαση στα βάρη (weights) του μοντέλου, η απομεταγλώττιση (decompilation) ή η ανάλυση των παραμέτρων δεν αποκαλύπτει την κρυφή λειτουργία.
Περιορισμοί των ελέγχων ασφαλείας
Οι ερευνητές δοκίμασαν την ανθεκτικότητα αυτών των μοντέλων απέναντι σε προηγμένες τεχνικές ελέγχου, όπως:
- Fine-tuning για την εξαναγκασμένη αποκάλυψη συμπεριφορών.
- Gradient-based trigger search για τον εντοπισμό των σημείων ενεργοποίησης.
- Latent adversarial training για την αποσταθεροποίηση κρυφών αναπαραστάσεων.
Τα αποτελέσματα έδειξαν ότι καμία από αυτές τις μεθόδους δεν κατάφερε να αποκαλύψει τις κρυφές ικανότητες, υπογραμμίζοντας ένα κρίσιμο σημείο συμφόρησης (bottleneck) στην τρέχουσα προσέγγιση του AI safety. Η έρευνα αυτή θέτει επιτακτικά το ζήτημα της ανάγκης για νέες, πιο ισχυρές μεθόδους επαλήθευσης που θα υπερβαίνουν την απλή παρατήρηση εξωτερικών συμπεριφορών.