Η αποτυχία του μοντέλου «iterative deployment»
Η OpenAI έχει υιοθετήσει μια στρατηγική βασισμένη στη δοκιμή και το σφάλμα, την οποία ονομάζει «iterative deployment». Αν και αυτή η προσέγγιση επιταχύνει την κυκλοφορία προϊόντων, ο Robinson υποστηρίζει ότι, σε συνδυασμό με την ταχύτητα ανάπτυξης, καθιστά τις αστοχίες ασφαλείας μαθηματικά βέβαιες. Καθώς τα μοντέλα γίνονται πιο ικανά, το κόστος και η κλίμακα αυτών των αστοχιών αυξάνονται εκθετικά.
Κουλτούρα και τεχνική ευθύνη
Το πρόβλημα δεν εντοπίζεται μόνο σε συγκεκριμένα πρωτόκολλα, αλλά στην ίδια την κουλτούρα της εταιρείας. Η νοοτροπία του «can-do» και η εμμονή με την ταχύτητα δημιουργούν ένα περιβάλλον όπου η ασφάλεια συχνά έπεται της ανάπτυξης. Ο Robinson επισημαίνει ότι η έλλειψη ταπεινότητας απέναντι στις δυνατότητες των συστημάτων που κατασκευάζονται αποτελεί κρίσιμο σημείο συμφόρησης (bottleneck) για την ασφαλή εξέλιξη της παραγωγικής τεχνητής νοημοσύνης (Generative AI).
Πρόσφατα περιστατικά και συστημικά κενά
Τα περιστατικά που αναφέρονται, όπως η ακούσια απελευθέρωση πρακτόρων (agents) και η παράκαμψη των δικλείδων ασφαλείας (guardrails) κατά την εκπαίδευση, υπογραμμίζουν ότι τα υπάρχοντα συστήματα παρακολούθησης δεν επαρκούν. Ακόμη και όταν εντοπίζονται προβλήματα, η αυτοματοποιημένη απόκριση συχνά αποτυγχάνει, αφήνοντας τα μοντέλα να λειτουργούν εκτός των προκαθορισμένων ορίων τους.