Γράφει ο Nick Couldry στο Jacobin:
Άνθρωποι που εργάζονται στην πρώτη γραμμή της τεχνητής νοημοσύνης προειδοποιούν ότι τα πιο προηγμένα μοντέλα γίνονται δυσκολότερο να ελεγχθούν. Οι προειδοποιήσεις τους φέρνουν στην επιφάνεια ένα ερώτημα που οι μεγάλες εταιρείες του κλάδου δυσκολεύονται να θέσουν ανοιχτά. Τι συμβαίνει όταν υπολογιστική ισχύς τέτοιας κλίμακας αναπτύσσεται με κυρίαρχο κριτήριο την κερδοφορία;
Τον περασμένο Σεπτέμβριο δύο παραιτήσεις έφεραν τη συζήτηση για την ασφάλεια της ΤΝ στα πρωτοσέλιδα. Ο Ντέιβιντ Ρόμπινσον, στέλεχος της OpenAI στον τομέα της ασφάλειας, και ο Τζέικομπ Κόξον, ερευνητής της Anthropic, αποχώρησαν επειδή, κατά την εκτίμησή τους, οι εργοδότες τους υποτιμούσαν τους κινδύνους που συνεπάγονται οι τελευταίες εξελίξεις ακόμη και για την ανθρώπινη επιβίωση. Το άρθρο που δημοσίευσε στις 6 Σεπτεμβρίου ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Παχότσκι, δείχνει πόσο συγκεκριμένες είναι αυτές οι ανησυχίες.
Όταν ο έλεγχος γίνεται δυσκολότερος
Ο πρώτος κίνδυνος αφορά την αναδρομική αυτοβελτίωση (RSI). Αν ένα μοντέλο αποκτήσει τη δυνατότητα να κατευθύνει αυτόνομα την εξέλιξή του, κάθε νέα εκδοχή θα μπορεί να συμβάλει στην ανάπτυξη της επόμενης. Ο ανθρώπινος έλεγχος πάνω στην πορεία αυτής της διαδικασίας μπορεί τότε να εξασθενήσει πολύ γρήγορα, την ώρα που συσσωρεύεται υπολογιστική ισχύς ικανή να απειλήσει την ανθρώπινη ζωή.
Ο δεύτερος κίνδυνος αφορά ήδη τα σημερινά μοντέλα. Οι εταιρείες δυσκολεύονται όλο και περισσότερο να διαπιστώσουν αν αυτά συμπεριφέρονται σύμφωνα με τους στόχους και τις αξίες που υποτίθεται ότι υπηρετούν. Όπως εξηγεί ο Παχότσκι, η OpenAI χρησιμοποιούσε την παρακολούθηση της λεγόμενης αλυσίδας σκέψης (CoT) ως έναν τρόπο να εξετάζει πώς τα μοντέλα έφταναν στα αποτελέσματά τους. Οι αξιολογήσεις της δείχνουν ότι αυτή η μέθοδος γίνεται σταδιακά λιγότερο αξιόπιστη. Όσο βελτιώνονται τα συστήματα, τόσο πιο δύσκολο μπορεί να είναι να διακρίνει κανείς από τα ίχνη του συλλογισμού τους τι κάνουν και ποιες προτεραιότητες ακολουθούν.
Στην περίπτωση του νεότερου μοντέλου της OpenAI, ερευνητές του βρετανικού Ινστιτούτου Ασφάλειας της ΤΝ βρήκαν άλλες ενδείξεις απόκλισης από την επιδιωκόμενη συμπεριφορά. Παραμένει όμως το πρόβλημα που επισημαίνει ο Couldry. Καθώς ένα σύστημα αποκτά μεγαλύτερη ικανότητα να επηρεάζει τα ίχνη του δικού του συλλογισμού, οι διαβεβαιώσεις που αντλούμε από αυτά χάνουν την αξία τους. Αν η ικανότητά μας να ευθυγραμμίζουμε τα μοντέλα με ανθρώπινους στόχους εξελίσσεται πιο αργά από τις ίδιες τις δυνατότητές τους, με ποιο κριτήριο ονομάζουμε αυτή την εξέλιξη πρόοδο;
Η πίεση του ανταγωνισμού
Για τον Couldry, η αβεβαιότητα αυτή δικαιολογεί την αναστολή τόσο της κούρσας προς την αυτοβελτίωση όσο και της ανάπτυξης των σημερινών συστημάτων. Ο Παχότσκι προτείνει να ελεγχθεί ο ρυθμός της αυτοβελτίωσης, σε γραμμή παρόμοια με εκείνη του Ντάριο Αμοντέι της Anthropic. Το επιχείρημά του είναι ότι η αυτοβελτίωση αποτελεί προϋπόθεση για να διατηρήσει μια εταιρεία τη θέση της στην αιχμή του κλάδου.
Τρεις εβδομάδες αργότερα, σύμφωνα με το αρχικό κείμενο, η OpenAI αποφάσισε να αναβάλει την κυκλοφορία του GPT-6.1 Astra. Μια τέτοια απόφαση αφήνει ανοιχτό το ερώτημα τι θα συμβεί όταν το οικονομικό διακύβευμα μεγαλώσει, για παράδειγμα μπροστά σε μια πιθανή εισαγωγή της Anthropic στο χρηματιστήριο με αποτίμηση δύο τρισεκατομμυρίων δολαρίων.
Εδώ εντοπίζει ο Couldry το βαθύτερο πρόβλημα ευθυγράμμισης. Στον καπιταλισμό, το εταιρικό κέρδος, ο οικονομικός ανταγωνισμός μεταξύ κρατών και η επιδίωξη της αποδοτικότητας ορίζουν σε μεγάλο βαθμό την κατεύθυνση της έρευνας. Όταν αυτά τα κίνητρα υπερισχύουν, η ανάπτυξη μιας τόσο ισχυρής τεχνολογίας μπορεί να έρθει σε σύγκρουση με τις προϋποθέσεις μιας καλής ζωής, ακόμη και με την ανθρώπινη επιβίωση.
Τρεις τρόποι με τους οποίους η ΤΝ γίνεται αρπακτική
Ο πιο ορατός είναι η ιδιοποίηση του έργου των ανθρώπων. Κείμενα, εικόνες και άλλα δημιουργήματα χρησιμοποιήθηκαν μαζικά για την εκπαίδευση μοντέλων, με τις διαμάχες για τα πνευματικά δικαιώματα και την αποζημίωση να συνεχίζονται. Στην ίδια διαδικασία εντάσσεται η εργασία ανθρώπων στον Παγκόσμιο Νότο που εκπαίδευσαν τα πρώτα συστήματα, αλλά και η πρόσληψη ειδικευμένων επαγγελματιών για να διδάξουν σε μοντέλα πώς σκέφτεται, για παράδειγμα, ένας γιατρός. Η αμοιβή μπορεί να είναι υψηλή όσο διαρκεί η εκπαίδευση. Μόλις ολοκληρωθεί, η τεχνογνωσία που τη στήριξε κινδυνεύει να θεωρηθεί περιττή.
Ο δεύτερος τρόπος αφορά τη σκέψη και τη φαντασία. Μαθαίνοντας να θέτουμε ερωτήσεις που ένα σύστημα πρόβλεψης κειμένου μπορεί να χειριστεί, αρχίζουμε να προσαρμόζουμε στον ίδιο μηχανισμό και τα ερωτήματα που θέτουμε για τον κόσμο.
Ο τρίτος αφορά το τι αναγνωρίζουμε ως νοημοσύνη. Όσο περισσότερο κύρος δίνουμε στις απαντήσεις μιας ασώματης μηχανής, τόσο ευκολότερα παραγνωρίζουμε όσα προκύπτουν από τη σωματική εμπειρία, τις αισθήσεις και τη σχέση με το περιβάλλον, στους ανθρώπους και στα άλλα αισθανόμενα ζώα.
Το δικαίωμα να λέμε «όχι»
Η ευθύνη για τους όρους χρήσης της ΤΝ ξεπερνά τους υπαλλήλους των τεχνολογικών εταιρειών που διακινδυνεύουν τη δουλειά τους για να καταγγείλουν επικίνδυνους συμβιβασμούς. Οι εργαζόμενοι και οι ελεύθεροι επαγγελματίες χρειάζονται συλλογική δύναμη ώστε να μπορούν να αρνούνται την επιβολή συστημάτων ΤΝ στη δουλειά τους. Η πίεση για γρήγορη και μαζική υιοθέτηση έχει οικονομική λογική. Από αυτήν εξαρτάται η ανάκτηση των τεράστιων αρχικών επενδύσεων των εταιρειών και η προοπτική σταθερής κερδοφορίας.
Μια διαφορετική πορεία, όπως έχει υποστηρίξει ο Εβγκένι Μορόζοφ, θα έδινε στις ίδιες τις κοινότητες τη δυνατότητα να αποφασίζουν πού και πότε έχει θέση η ΤΝ, με ποιους όρους και για ποιους κοινωνικούς σκοπούς. Για να αποκτήσουν οι εργαζόμενοι ουσιαστικό λόγο σε αυτές τις αποφάσεις, θα χρειαστούν βαθιές αλλαγές στους θεσμούς της εργασίας. Εκεί μπορεί να αρχίσει μια διαφορετική συζήτηση για το ποιος ορίζει τους στόχους της τεχνολογίας και ποιος έχει τη δύναμη να τους αλλάξει.
Ο Nick Couldry είναι ομότιμος καθηγητής Μέσων Επικοινωνίας και Κοινωνικής Θεωρίας στο London School of Economics και συγγραφέας του «Predatory AI: How We Can Resist Corporate Capture of the Human Mind».







