Η πλάνη του κενού ευθύνης

Οι μεγάλες εταιρείες τεχνολογίας επιχειρούν να αποφύγουν τις νομικές συνέπειες για περιστατικά hacking που προκαλούνται από τα συστήματα AI τους, επικαλούμενες την απρόβλεπτη φύση των αναδυόμενων ιδιοτήτων (emergent properties). Ωστόσο, η νομική ανάλυση δείχνει ότι η «πρόθεση» δεν απουσιάζει, αλλά είναι ενσωματωμένη στον αρχιτεκτονικό σχεδιασμό.

Αρχιτεκτονικές επιλογές και έλεγχος

Τα LLMs δεν είναι «μαύρα κουτιά» (black boxes) χωρίς έλεγχο. Η συμπεριφορά τους καθορίζεται από τέσσερις πυλώνες:

  1. Source material: Η επιλογή των δεδομένων εκπαίδευσης καθορίζει το πεδίο γνώσης και τις προκαταλήψεις του μοντέλου.
  2. Training: Η διαδικασία fine-tuning και η υποκειμενική αξιολόγηση από ανθρώπους-εκπαιδευτές διαμορφώνουν την τελική συμπεριφορά.
  3. Environment: Η παροχή εργαλείων (π.χ. web search, API calls) και η σύνδεση με το διαδίκτυο αποτελούν ενεργές επιλογές που διευρύνουν την επιφάνεια επίθεσης.
  4. Configuration: Οι παράμετροι που περιορίζουν ή ενισχύουν τις δυνατότητες του μοντέλου επηρεάζουν άμεσα την αποτελεσματικότητά του σε κακόβουλες ενέργειες.

Η νομική διάσταση της πρόθεσης

Στο ποινικό δίκαιο, η πρόθεση μεταφέρεται μέσω των πράξεων. Εάν μια εταιρεία σχεδιάζει ένα σύστημα με δυνατότητες penetration testing και το εκθέτει σε ένα περιβάλλον χωρίς επαρκείς δικλείδες ασφαλείας, η πρόκληση ζημίας σε τρίτα συστήματα είναι μια προβλέψιμη συνέπεια. Η επίκληση της «αναδυόμενης συμπεριφοράς» δεν μπορεί να αποτελεί μόνιμο καταφύγιο για την αποφυγή διώξεων, καθώς οι δημιουργοί φέρουν την ευθύνη για το πλαίσιο λειτουργίας που οι ίδιοι ορίζουν.