Ερευνητής αποχωρεί από την Anthropic και προειδοποιεί: «Η τεχνητή νοημοσύνη μπορεί να μας σκοτώσει όλους»

Ανησυχία για την ανεξέλεγκτη εξέλιξη της τεχνητής νοημοσύνης προκαλεί η παραίτηση ενός 27χρονου ερευνητή από την Anthropic, ο οποίος καταγγέλλει ότι οι μεγαλύτερες εταιρείες του κλάδου έχουν μπει σε μια επικίνδυνη κούρσα για την ανάπτυξη συστημάτων που θα μπορούν να βελτιώνουν αυτόνομα τις ικανότητές τους.

Ο Τζέικομπ Κόξον, ο οποίος έχει εργαστεί τόσο στην OpenAI όσο και στην Anthropic, αποφάσισε να εγκαταλείψει τη δεύτερη, υποστηρίζοντας ότι δεν επιθυμεί να συμμετέχει στην ανάπτυξη ολοένα ισχυρότερων μοντέλων προτού διασφαλιστεί ότι θα παραμείνουν υπό ουσιαστικό ανθρώπινο έλεγχο.

Ο ερευνητής, που ειδικεύεται στην προεκπαίδευση μοντέλων τεχνητής νοημοσύνης με τη χρήση τεράστιων όγκων δεδομένων, ανακοίνωσε την απόφασή του μέσω ανάρτησης στην πλατφόρμα Χ.

Όπως ανέφερε, τα τελευταία τρία χρόνια εργάστηκε στην έρευνα προεκπαίδευσης και στις δύο εταιρείες, καταλήγοντας στο συμπέρασμα ότι καμία από τις δύο δεν κινείται πλέον με τον βαθμό υπευθυνότητας που απαιτείται από τους κινδύνους της τεχνολογίας.

Κατά τον ίδιο, OpenAI και Anthropic κατευθύνονται με μεγάλη ταχύτητα προς την ανάπτυξη μιας μορφής «υπερνοημοσύνης» που θα μπορεί να αυτοβελτιώνεται, ενώ προειδοποίησε ότι οι συνέπειες μιας τέτοιας εξέλιξης ενδέχεται να είναι ακραίες.

«Πιστεύουν πραγματικά ότι μπορεί να μας σκοτώσει όλους»

Ιδιαίτερα ανησυχητική είναι η εκτίμησή του ότι άνθρωποι που βρίσκονται στην πρώτη γραμμή της ανάπτυξης της AI θεωρούν πραγματικό το ενδεχόμενο η τεχνολογία να καταστεί υπαρξιακή απειλή για την ανθρωπότητα μέσα στην επόμενη δεκαετία.

Την άποψη αυτή επιβεβαίωσε δημόσια και ο Έβαν Χάμπιντζερ, στέλεχος της Anthropic που ασχολείται με θέματα ασφάλειας. Σε απάντησή του προς τον Κόξον, ανέφερε ότι η εταιρεία πράγματι θεωρεί υπαρκτό το ενδεχόμενο η τεχνητή νοημοσύνη να οδηγήσει ακόμη και στην εξόντωση της ανθρωπότητας.

Ο Χάμπιντζερ εκτίμησε μάλιστα ότι η πιθανότητα ενός τέτοιου σεναρίου υπερβαίνει το 10% μέσα στην τρέχουσα δεκαετία.

Παράλληλα, παραδέχθηκε ότι η Anthropic δεν έχει ακόμη ένα ολοκληρωμένο σχέδιο που να εγγυάται πως ένα σύστημα τεχνητής νοημοσύνης, όταν ξεπεράσει τις ανθρώπινες γνωστικές δυνατότητες, θα συνεχίσει να ακολουθεί τις εντολές των δημιουργών του.

Ο ίδιος πάντως διευκρίνισε ότι, με βάση τις δυνατότητες των σημερινών μοντέλων, θεωρεί μικρή την πιθανότητα να συμβεί ένα τέτοιο ενδεχόμενο άμεσα.

Η κούρσα προς την «αυτοβελτιούμενη» AI

Στο επίκεντρο της αντιπαράθεσης βρίσκεται το λεγόμενο επόμενο στάδιο στην εξέλιξη της τεχνητής νοημοσύνης: ένα σύστημα που δεν θα περιορίζεται στην εκτέλεση εντολών, αλλά θα μπορεί να σχεδιάζει και να αναπτύσσει τον διάδοχό του.

Πρόκειται για ένα σημείο που ορισμένοι ερευνητές του κλάδου περιγράφουν ως «endgame», ενώ άλλοι μιλούν για «crunchtime» — την κρίσιμη φάση κατά την οποία η ανάπτυξη των συστημάτων θα μπορούσε να επιταχυνθεί δραματικά.

Ο Κόξον αναγνωρίζει ότι η Anthropic καταβάλλει σοβαρές προσπάθειες στον τομέα της ασφάλειας. Ωστόσο, θεωρεί ότι η ίδια η λογική του ανταγωνισμού μεταξύ των εταιρειών καθιστά εξαιρετικά δύσκολη μια πραγματικά ασφαλή ανάπτυξη της τεχνολογίας.

Κατά την άποψή του, δεν αρκεί η εθελοντική αυτοσυγκράτηση μιας εταιρείας. Χρειάζεται είτε κυβερνητική παρέμβαση είτε συντονισμένη προσπάθεια ολόκληρου του κλάδου, ώστε να υπάρξουν σαφή όρια στην ανάπτυξη των πιο ισχυρών συστημάτων.

Η Anthropic, όπως υποστηρίζει, γνωρίζει το μέγεθος του κινδύνου, αλλά ταυτόχρονα βρίσκεται σε έναν αγώνα δρόμου με τους ανταγωνιστές της για το ποιος θα φτάσει πρώτος στην επόμενη γενιά AI.

Οι αλλαγές στην πολιτική ασφαλείας

Η συζήτηση αποκτά ακόμη μεγαλύτερο βάρος μετά την αλλαγή που έκανε η Anthropic τον περασμένο Φεβρουάριο στην πολιτική ασφαλείας της.

Η εταιρεία αφαίρεσε τότε τη δέσμευση ότι θα σταματούσε την ανάπτυξη ενός μοντέλου εάν δεν μπορούσε να διαχειριστεί επαρκώς τους κινδύνους του.

Το επιχείρημα ήταν ότι μια μονομερής διακοπή της ανάπτυξης θα μπορούσε να αφήσει χώρο σε ανταγωνιστές με χαμηλότερα πρότυπα ασφαλείας να αποκτήσουν πλεονέκτημα.

Η παραίτηση του Κόξον έρχεται, επίσης, σε μια κρίσιμη περίοδο για την Anthropic, καθώς η εταιρεία προετοιμάζεται για την είσοδό της στο χρηματιστήριο, ενώ το τελευταίο διάστημα έχουν καταγραφεί περιστατικά κατά τα οποία εργαλεία τεχνητής νοημοσύνης χρησιμοποιήθηκαν χωρίς εξουσιοδότηση σε επιθέσεις στον κυβερνοχώρο.

Η προειδοποίηση έρχεται από το εσωτερικό του κλάδου

Η παρέμβαση του Κόξον δεν αποτελεί μεμονωμένη περίπτωση. Το τελευταίο διάστημα πληθαίνουν οι φωνές ερευνητών και στελεχών της βιομηχανίας που ζητούν μεγαλύτερη δυνατότητα ελέγχου του ρυθμού με τον οποίο αναπτύσσονται τα προηγμένα συστήματα.

Τον Ιούλιο, ερευνητές και κορυφαία στελέχη του χώρου υπέγραψαν τη διακήρυξη «Pacing the Frontier», ζητώντας να παραμείνει ανοιχτό το ενδεχόμενο επιβράδυνσης της ανάπτυξης των πιο προηγμένων μοντέλων.

Μεταξύ εκείνων που υπέγραψαν βρίσκονται συνιδρυτές της Anthropic, ο επικεφαλής επιστήμονας της OpenAI και ο επικεφαλής επιστήμονας της Meta AI.

Το βασικό ερώτημα που πλέον τίθεται όλο και πιο έντονα μέσα στον ίδιο τον κλάδο δεν είναι μόνο πόσο γρήγορα μπορεί να εξελιχθεί η τεχνητή νοημοσύνη, αλλά αν οι άνθρωποι θα προλάβουν να δημιουργήσουν τους απαραίτητους μηχανισμούς ασφαλείας πριν η τεχνολογία αποκτήσει δυνατότητες που θα είναι εξαιρετικά δύσκολο να ελεγχθούν.