Source: www.ot.gr
Να αποχωρήσει από τον κλάδο αποφάσισε ερευνητής της Anthropic, εκφράζοντας φόβους ότι η κούρσα μεταξύ των κορυφαίων εργαστηρίων AI οδηγεί στην ανάπτυξη συστημάτων τα οποία ενδέχεται τελικά να μην μπορούν να ελεγχθούν από τους ανθρώπους.
Ο Τζέικομπ Κόξον, 27 ετών, Βρετανός ερευνητής με σπουδές στα μαθηματικά, εργαζόταν στην εκπαίδευση νέων μοντέλων τεχνητής νοημοσύνης, διαδικασία που απαιτεί τεράστιες ποσότητες δεδομένων και υπολογιστικής ισχύος. Όπως δήλωσε στην Wall Street Journal, αποφάσισε να εγκαταλείψει την Anthropic επειδή δεν θέλει να συμμετέχει στην προσπάθεια δημιουργίας ολοένα ισχυρότερων συστημάτων, τα οποία κάποια στιγμή θα μπορούσαν να ξεπεράσουν τις ανθρώπινες ικανότητες και να αρχίσουν να λειτουργούν με στόχους που δεν είναι πλέον συμβατοί με τις ανθρώπινες εντολές.
Ο Κόξον υποστηρίζει ότι η συζήτηση μέσα στη βιομηχανία έχει αλλάξει δραματικά. Όροι όπως «κρίσιμη στιγμή» και «τελικό παιχνίδι» χρησιμοποιούνται πλέον από ερευνητές για να περιγράψουν την πορεία προς μοντέλα που θα μπορούν να βελτιώνουν μόνα τους τις δυνατότητές τους. Κατά την εκτίμησή του, ορισμένα από τα πιο επιθετικά σενάρια θα μπορούσαν να αρχίσουν να εκδηλώνονται ακόμη και μέχρι το τέλος του επόμενου έτους.
Το πρόβλημα, σύμφωνα με τον ίδιο, δεν αφορά μία συγκεκριμένη εταιρεία. Αντίθετα, είναι αποτέλεσμα του ανταγωνισμού που έχει δημιουργηθεί μεταξύ των αμερικανικών κολοσσών AI, αλλά και των κινεζικών νεοφυών επιχειρήσεων. Όσο μεγαλύτερη είναι η πίεση για την κυκλοφορία ισχυρότερων μοντέλων, τόσο αυξάνεται, υποστηρίζει, ο κίνδυνος να γίνουν συμβιβασμοί σε θέματα ασφάλειας.
Φόβους εξέφρασε και ο επικεφαλής της Anthropic
Η Anthropic έχει οικοδομήσει σημαντικό μέρος της εταιρικής της ταυτότητας ακριβώς πάνω στην ιδέα της «υπεύθυνης» ανάπτυξης της τεχνητής νοημοσύνης. Ο διευθύνων σύμβουλος Ντάριο Αμοντέι έχει επανειλημμένα προειδοποιήσει για τους κινδύνους που δημιουργούν τα ολοένα ισχυρότερα μοντέλα και έχει ζητήσει αυξημένη προσοχή από ολόκληρο τον κλάδο.
Ο Κόξον είχε προηγουμένως εργαστεί στην OpenAI και, όπως εξηγεί, επέλεξε την Anthropic ακριβώς επειδή θεωρούσε ότι η εταιρεία έδινε μεγαλύτερη βαρύτητα στην ασφάλεια. Παρότι αναγνωρίζει ότι οι προσπάθειες της Anthropic είναι σοβαρές, πλέον θεωρεί ότι καμία μεμονωμένη εταιρεία δεν μπορεί να αναπτύξει υπεύθυνα συστήματα που ενδέχεται να αποκτήσουν γενικές ικανότητες ανώτερες από εκείνες των ανθρώπων.
Για τον ίδιο, η λύση βρίσκεται πέρα από τις εταιρικές πολιτικές: απαιτείται κυβερνητική παρέμβαση και διεθνής συντονισμός, ακόμη και αν αυτό σημαίνει προσωρινή επιβράδυνση της ανάπτυξης της τεχνολογίας.
Οι ανησυχίες αυτές ενισχύθηκαν από πρόσφατα περιστατικά κυβερνοασφάλειας, στα οποία μοντέλα AI χρησιμοποιήθηκαν σε επιθέσεις και σε συνεργατικά «σμήνη» πρακτόρων. Τέτοιες εξελίξεις δείχνουν ότι τα μοντέλα μπορούν να εκτελούν σύνθετες ακολουθίες ενεργειών, ενώ σε ορισμένες περιπτώσεις έχουν εμφανίσει συμπεριφορές που οι ερευνητές χαρακτηρίζουν προβληματικές. Ο φόβος του Κόξον είναι ότι, εάν στο μέλλον τα συστήματα αποκτήσουν πραγματική δυνατότητα αυτοβελτίωσης, θα μπορούσαν να φτάσουν στο σημείο να αρνούνται ανθρώπινες εντολές.
Η ανησυχία δεν περιορίζεται στην Anthropic. Ερευνητές έχουν αποχωρήσει τα τελευταία χρόνια και από την OpenAI και άλλες εταιρείες, επικαλούμενοι κινδύνους που σχετίζονται με την ασφάλεια της τεχνητής νοημοσύνης. Παράλληλα, περισσότεροι από 1.000 ερευνητές AI έχουν υποστηρίξει έκκληση για διεθνή κυβερνητικό συντονισμό, ώστε να υπάρχει η δυνατότητα επιβράδυνσης της ανάπτυξης εάν καταστεί αναγκαίο.
Οι φόβοι είναι διάχυτοι στον κλάδο τεχνητής νοημοσύνης
Στην OpenAI, ο διευθύνων σύμβουλος Σαμ Άλτμαν έχει επίσης προειδοποιήσει ότι η κυβερνοασφάλεια μπορεί να αντιμετωπίσει σοβαρές ανατροπές εάν η ανάπτυξη της AI συνεχιστεί χωρίς επαρκή προετοιμασία. Ο επικεφαλής επιστήμονας της εταιρείας, Γιάκουμπ Πατσότσκι, έχει ταχθεί υπέρ μεγαλύτερου συντονισμού και κυβερνητικής παρέμβασης.
Το ζήτημα αποκτά ακόμη μεγαλύτερη βαρύτητα καθώς η Anthropic προετοιμάζεται για μία από τις μεγαλύτερες δημόσιες εγγραφές εταιρείας τεχνητής νοημοσύνης. Η εταιρεία φέρεται να επιδιώκει αποτίμηση που θα μπορούσε να φτάσει τα 2 τρισ. δολάρια, γεγονός που αυξάνει ακόμη περισσότερο το οικονομικό κίνητρο για γρήγορη ανάπτυξη και εμπορική αξιοποίηση των μοντέλων της.
Η πολιτική διάσταση είναι εξίσου έντονη. Στις ΗΠΑ δεν υπάρχει ακόμη ένα ενιαίο ομοσπονδιακό πλαίσιο που να ρυθμίζει συνολικά την τεχνητή νοημοσύνη, ενώ η κυβέρνηση Τραμπ έχει δώσει προτεραιότητα στη διατήρηση μιας φιλικής προς την καινοτομία προσέγγισης, με στόχο να μεγιστοποιηθούν τα οικονομικά οφέλη της AI. Επικριτές φοβούνται ότι μια τέτοια πολιτική μπορεί να αυξήσει τους κινδύνους από κυβερνοεπιθέσεις και άλλες ανεξέλεγκτες εφαρμογές.
Μέσα σε αυτό το περιβάλλον, η αποχώρηση του Κόξον αποκτά συμβολικό χαρακτήρα. Ο ίδιος παρομοιάζει την κατάσταση με μια σύγχρονη εκδοχή του Manhattan Project, υποστηρίζοντας ότι είναι παράδοξο τόσο ισχυρά συστήματα να αναπτύσσονται από μηχανικούς σε γραφεία και φορητούς υπολογιστές στο Σαν Φρανσίσκο, αντί να αντιμετωπίζονται ως τεχνολογία που απαιτεί αντίστοιχο επίπεδο κρατικού ελέγχου και προετοιμασίας.
Το βασικό ερώτημα πλέον δεν είναι μόνο πόσο γρήγορα μπορεί να εξελιχθεί η τεχνητή νοημοσύνη, αλλά αν η ανθρωπότητα μπορεί να διασφαλίσει ότι θα παραμείνει υπό τον έλεγχό της. Και καθώς η κούρσα μεταξύ των εταιρειών επιταχύνεται, όλο και περισσότεροι άνθρωποι που βρίσκονται στο εσωτερικό της βιομηχανίας προειδοποιούν ότι ίσως η στιγμή για να τεθούν όρια πλησιάζει πολύ γρηγορότερα απ’ όσο περίμεναν.