Η κατάρρευση του kill chain
Η τραγωδία στο Minab δεν ήταν αποτέλεσμα ενός μεμονωμένου σφάλματος, αλλά μιας συστημικής αποτυχίας κατά τη διαδικασία στοχοποίησης (kill chain). Το σύστημα Maven, το οποίο σχεδιάστηκε για να συνθέτει δεδομένα από 150 διαφορετικές πηγές, λειτούργησε ως «μαύρο κουτί» για τους χειριστές. Η πίεση για ταχεία εκτέλεση των πληγμάτων ανάγκασε το προσωπικό να συμπυκνώσει διαδικασίες εβδομάδων σε λίγα λεπτά, παρακάμπτοντας την απαραίτητη επαλήθευση από ειδικούς.
Το πρόβλημα της ποιότητας των δεδομένων
Παρά τις δυνατότητες του AI, η ποιότητα των αποτελεσμάτων περιορίζεται από την ποιότητα των δεδομένων εισόδου. Στην περίπτωση του σχολείου Shajarah Tayyebeh, το Πεντάγωνο βασίστηκε σε παρωχημένες πληροφορίες που κατέτασσαν την τοποθεσία ως στρατιωτική εγκατάσταση, παρά τις εμφανείς αλλαγές που είχαν καταγραφεί σε δορυφορικές εικόνες εδώ και χρόνια. Η αποτυχία της Defense Intelligence Agency να επικαιροποιήσει τη βάση δεδομένων κατέδειξε ότι η αυτοματοποίηση χωρίς σωστή συντήρηση των δεδομένων (data hygiene) είναι επικίνδυνη.
Η αποδυνάμωση της ανθρώπινης εποπτείας
Η απόφαση για δραστική μείωση του προσωπικού στις ομάδες μετριασμού πολιτικών απωλειών (CHM) αποδείχθηκε καταλυτική. Χωρίς την ανθρώπινη κρίση να αμφισβητεί τις προτάσεις του αλγορίθμου, το σύστημα δεν μπόρεσε να εντοπίσει τις ασυνέπειες που θα είχαν αποτρέψει το πλήγμα. Η περίπτωση αυτή αποτελεί ένα σκληρό μάθημα για τη βιομηχανία σχετικά με τα όρια της παραγωγικής τεχνητής νοημοσύνης (Generative AI) σε περιβάλλοντα υψηλού ρίσκου.