Ανάλυση της βάσης δεδομένων λεξικού και των φίλτρων ακατάλληλου περιεχομένου στο macOS

Αρχιτεκτονική του συστήματος φιλτραρίσματος

Η Apple υλοποιεί ένα πολυεπίπεδο σύστημα ελέγχου περιεχομένου που ξεκινά από το Lexicon.framework. Κάθε λέξη στα συστήματα λεξικών (/System/Library/LinguisticData/) συνοδεύεται από δύο πεδία 32-bit flags. Τα meta-flags καθορίζουν το επίπεδο αυστηρότητας (tier), ενώ τα category-flags προσδιορίζουν τη θεματική ενότητα (π.χ. πολιτική, βία, θρησκεία).

Μηχανισμός εκμάθησης και context awareness

Το αρχείο ~/Library/Keyboard/VulgarWordUsage.db λειτουργεί ως βάση δεδομένων SQLite που παρακολουθεί τη συχνότητα χρήσης συγκεκριμένων λέξεων. Η αρχιτεκτονική του επιτρέπει στο πληκτρολόγιο να διαφοροποιεί το λεξιλόγιο ανάλογα με το πλαίσιο (context), όπως την εφαρμογή ή τον παραλήπτη, επιτρέποντας ή αποκλείοντας λέξεις από το QuickType bar ανάλογα με το αν έχουν χαρακτηριστεί ως 'allowlisted' για το συγκεκριμένο περιβάλλον.

Ανάλυση των flags και των περιορισμών

Η έρευνα αποκαλύπτει ότι η κατηγοριοποίηση δεν είναι ομοιόμορφη σε όλες τις γλώσσες. Ενώ τα επίπεδα 'vulgar' και 'offensive' αφορούν κυρίως βωμολοχίες και ρητορική μίσους, το επίπεδο 'sensitive' περιλαμβάνει λέξεις που το σύστημα θεωρεί ακατάλληλες για αυτόματη πρόταση. Η παρουσία ονομάτων πολιτικών προσώπων σε αυτή τη λίστα υποδεικνύει μια προσπάθεια αποφυγής ατυχών περιστατικών κατά την υπαγόρευση (dictation), όπου το μοντέλο μπορεί να παρερμηνεύσει φωνητικά δεδομένα.

Περαιτέρω φιλτράρισμα μέσω blocklists

Πέρα από τα μεμονωμένα flags, το σύστημα χρησιμοποιεί blocklist.bundle αρχεία, τα οποία λειτουργούν ως trie δομές για τον εντοπισμό ακολουθιών λέξεων. Αυτό επιτρέπει στο LanguageModeling.framework να μπλοκάρει συγκεκριμένους συνδυασμούς λέξεων που μπορεί να θεωρηθούν προσβλητικοί, ανεξάρτητα από το αν οι επιμέρους λέξεις είναι από μόνες τους απαγορευμένες.