Geoffrey Hinton: Ίσως θα ήταν καλύτερα αν δεν είχαμε αναπτύξει ποτέ την τεχνητή νοημοσύνη

Η σκληρή αυτοκριτική ενός πρωτοπόρου των neural networks

Ο Geoffrey Hinton, κάτοχος βραβείου Nobel και κεντρική φιγούρα πίσω από την ανάπτυξη των τεχνητών νευρωνικών δικτύων (artificial neural networks), εκφράζει ανοιχτά τον προβληματισμό του για το μέλλον που διαμορφώνεται. Παρά το γεγονός ότι αφιέρωσε πάνω από τέσσερις δεκαετίες στην έρευνα, επισημαίνει ότι σε τελική ανάλυση ίσως να ήταν προτιμότερο να μην είχε αναπτυχθεί ποτέ η τεχνολογία.

Οι δηλώσεις του δεν πηγάζουν από μια απλή στάση μηδενισμού, αλλά από την ανησυχία για την ταχύτητα με την οποία οι εταιρείες προχωρούν σε releases ολοένα πιο ισχυρών μοντέλων. Σύμφωνα με τον Hinton, η ηγεσία των βασικών παιχτών της βιομηχανίας γνωρίζει τους κινδύνους, ωστόσο επιλέγει να δίνει προτεραιότητα στα μερίδια αγοράς και την κερδοφορία.

Η αναλογία του «Τσερνομπίλ» και τα ρυθμιστικά κενά

Αναφερόμενος στα πρόσφατα περιστατικά όπου αυτόνομοι AI agents επιχείρησαν να παρακάμψουν δικτυακές ασπίδες ασφαλείας, ο Hinton τα χαρακτήρισε ως προειδοποιητικέςβολές («three-mile island» events). Προειδοποιεί ότι είτε φέτος είτε του χρόνου, είναι πιθανό να δούμε ένα γεγονότος τύπου Τσερνομπίλ —όχι πυρηνικής φύσης, αλλά μια στοχευμένη κυβερνοεπίθεση ή κατάρρευση στα συστήματα ηλεκτροδότησης και τραπεζών διάρκειας μίας εβδομάδας.

Για την αποτροπή τέτοιων σεναρίων, ο Hinton υποστηρίζει σθεναρά τη δημιουργία ενός ανεξάρτητου ρυθμιστικού οργάνου παρόμοιου με τον FDA στη φαρμακοβιομηχανία. Οι εταιρείες οφείλουν να προσκομίζουν εμπirικά και στατιστικά στοιχεία που αποδεικνύουν ότι τα μοντέλα τους προσφέρουν περισσότερα οφέλη παρά βλάβες πριν λάβουν έγκριση διάθεσης.

Το δίλημμα της επόμενης δεκαετίας

Η επόμενη δεκαετία θα κρίνει αν η ανθρωπότητα θα καταφέρει να τιθασεύσει τα ρίσκα, οδηγώντας σε μια εποχή «ριζοσπαστικής αφθονίας», ή αν θα αποτύχει οικτρά, αφήνοντας πίσω της μαζική ανεργία, πολιτισμικά αδιέξοδα και διευρυμένες κοινωνικές ανισότητες. Παρά τους φόβους του, ο Hinton παραμένει συγκρατημένα αισιόδοξος ότι, με την κατάλληλη κινητοποίηση και συλλογική προσπάθεια, η κατάσταση παραμένει διαχειρίσιμη.