Η κλιμάκωση των δυνατοτήτων στην παραγωγική τεχνητή νοημοσύνη (Generative AI)
Η κυκλοφορία του GLM-5.3 από τη Zhipu AI αποτελεί ένα ορόσημο στην εξέλιξη των μοντέλων που διαθέτουν ικανότητες κυβερνοεπίθεσης. Σε αντίθεση με τα μοντέλα της Anthropic, τα οποία διατίθενται μέσω ελεγχόμενων API και με αυστηρά ενσωματωμένα φίλτρα, το GLM-5.3 είναι ένα μοντέλο ανοιχτών βαρών. Αυτό σημαίνει ότι οποιοσδήποτε χρήστης μπορεί να το κατεβάσει και να το τροποποιήσει, αφαιρώντας τις δικλείδες ασφαλείας που έχουν τεθεί από τους δημιουργούς του.
Τεχνικές παράκαμψης και abliteration
Η έρευνα της Anthropic ανέδειξε την ευπάθεια του μοντέλου σε τεχνικές όπως το abliteration, μια διαδικασία όπου τροποποιούνται τα βάρη του μοντέλου για να εξαλειφθούν οι μηχανισμοί άρνησης (refusal mechanisms). Τα αποτελέσματα είναι ανησυχητικά: το μοντέλο διατηρεί τις πλήρεις επιστημονικές και τεχνικές του ικανότητες, ενώ ταυτόχρονα εκτελεί εντολές για δημιουργία exploits που προηγουμένως απέρριπτε. Επιπλέον, η χρήση prefilled reasoning tokens αποδεικνύεται εξαιρετικά αποτελεσματική στο να «πείθει» το μοντέλο να προχωρήσει σε κακόβουλες ενέργειες, παρακάμπτοντας την εσωτερική του λογική.
Επιπτώσεις για την κυβερνοασφάλεια
Η ικανότητα του GLM-5.3 να εντοπίζει και να συνθέτει exploits για 0-day ευπάθειες σε πραγματικό χρόνο, με ελάχιστη ανθρώπινη παρέμβαση, αλλάζει τα δεδομένα για τους επιτιθέμενους. Η Anthropic τονίζει ότι, ενώ οι αμυνόμενοι μπορούν να χρησιμοποιήσουν αυτά τα εργαλεία για να θωρακίσουν τα συστήματά τους, η ελεύθερη πρόσβαση σε τέτοια ισχύ χωρίς περιορισμούς δημιουργεί ένα ασύμμετρο πλεονέκτημα για τους κακόβουλους δρώντες. Η ανάγκη για ανεξάρτητες αξιολογήσεις ασφαλείας (safety testing) από κυβερνητικούς φορείς, όπως το NIST, καθίσταται πλέον επιτακτική.