Leopold Aschenbrenner: Η Δεκαετία Μπροστά: Η αφανής κούρσα για την Υπερ-νοημοσύνη
Συγγραφέας: Leopold Aschenbrenner -Πηγή: Situational-Awareness.ai (Ιούνιος 2024)
Στους κύκλους της τεχνολογίας, και ειδικά στο Σαν Φρανσίσκο, η συζήτηση έχει μετατοπιστεί από επενδύσεις δισεκατομμυρίων σε «τρισεκατομμύρια δολάρια» για τη δημιουργία συμπλεγμάτων υπολογιστών (compute clusters). Πίσω από τις κλειστές πόρτες, η κούρσα για την τεχνητή γενική νοημοσύνη (AGI) έχει ξεκινήσει, με στόχο τη δημιουργία μηχανών που μπορούν να σκέφτονται και να συλλογίζονται. Σύμφωνα με τον Leopold Aschenbrenner, πρώην στέλεχος της OpenAI, αυτές οι μηχανές θα ξεπεράσουν τους πτυχιούχους κολλεγίων μέχρι το 2025/26 και θα είναι εξυπνότερες από τον άνθρωπο μέχρι το τέλος της δεκαετίας.
Αν και οι περισσότεροι παραμένουν εγκλωβισμένοι στην ιδέα ότι η τεχνητή νοημοσύνη «απλώς προβλέπει την επόμενη λέξη», μια μικρή ομάδα ανθρώπων, κυρίως στα εργαστήρια τεχνητής νοημοσύνης του Σαν Φρανσίσκο, έχει «συναίσθηση της κατάστασης» και βλέπει τι πρόκειται να συμβεί. Ο Aschenbrenner υποστηρίζει ότι οι τάσεις είναι σαφείς και η πρόοδος είναι απλώς θέμα εξέλιξης των υφιστάμενων γραμμικών τάσεων.
- Η πορεία προς την AGI: Μετρώντας τις τάξεις μεγέθους
Ο συγγραφέας εξηγεί ότι η πρόοδος από το GPT-2 (2019) στο GPT-4 (2023) ήταν ένα τεράστιο άλμα, παρομοιάζοντας τις ικανότητες των μοντέλων με την εξέλιξη από έναν «νηπιακό» σε έναν «έξυπνο μαθητή λυκείου». Αυτή η εξέλιξη επιτεύχθηκε μέσω της αύξησης της υπολογιστικής ισχύος (compute), των αλγοριθμικών βελτιώσεων και των κερδών από τη βελτίωση της λειτουργικότητας των μοντέλων («unhobbling»).
Η πρόβλεψη για την επίτευξη της AGI μέχρι το 2027 βασίζεται στην απλή αριθμητική της εξέλιξης αυτών των τάσεων. Συγκεκριμένα, οι τάσεις υποδεικνύουν ότι θα πρέπει να αναμένεται ένα νέο «κβαντικό άλμα» παρόμοιο με αυτό από το GPT-2 στο GPT-4, το οποίο θα οδηγήσει σε μοντέλα τόσο έξυπνα όσο οι ειδικοί ή οι κάτοχοι διδακτορικού τίτλου. Αυτό δεν απαιτεί πίστη σε επιστημονική φαντασία, αλλά απλώς σε μια γραμμική προέκταση των υφιστάμενων τάσεων.
- Από την AGI στην Υπερ-νοημοσύνη: Η έκρηξη νοημοσύνης
Ο Aschenbrenner τονίζει ότι η πρόοδος της τεχνητής νοημοσύνης δεν θα σταματήσει στο ανθρώπινο επίπεδο. Εφόσον τα συστήματα AGI αποκτήσουν την ικανότητα να αυτοματοποιήσουν την έρευνα για την τεχνητή νοημοσύνη, θα μπορούσαν να συμπιέσουν μια δεκαετία αλγοριθμικής προόδου σε μόλις ένα έτος. Αυτό θα οδηγήσει σε μια «έκρηξη νοημοσύνης», όπου θα περάσουμε πολύ γρήγορα από συστήματα ανθρώπινου επιπέδου σε συστήματα που θα είναι δραματικά υπεράνθρωπα.
III. Οι Τεράστιες Προκλήσεις
Η έλευση της υπερ-νοημοσύνης δεν είναι χωρίς τεράστιες προκλήσεις:
- Αγώνας για τα Συμπλέγματα Υπολογιστών Τρισεκατομμυρίων Δολαρίων: Η επίτευξη της AGI θα απαιτήσει πρωτοφανή οικονομική και βιομηχανική κινητοποίηση, με τρισεκατομμύρια δολάρια να επενδύονται σε μονάδες GPU, data centers και παραγωγή ενέργειας. Μέχρι το τέλος της δεκαετίας, η παραγωγή ηλεκτρικής ενέργειας στις ΗΠΑ θα αυξηθεί κατά δεκάδες τοις εκατό.
- Ασφάλεια των Εργαστηρίων: Τα κορυφαία εργαστήρια τεχνητής νοημοσύνης αντιμετωπίζουν την ασφάλεια ως δευτερεύον ζήτημα, με αποτέλεσμα να παραδίδουν τα μυστικά της AGI στην Κίνα σε «ασημένιο δίσκο». Η προστασία αυτών των μυστικών από τις απειλές κρατικών παραγόντων θα είναι μια τεράστια προσπάθεια, στην οποία επί του παρόντος δεν είμαστε προετοιμασμένοι.
- Ευθυγράμμιση (Superalignment): Ο έλεγχος και η αξιόπιστη καθοδήγηση συστημάτων που είναι πολύ πιο έξυπνα από εμάς παραμένει ένα άλυτο τεχνικό πρόβλημα. Μια αποτυχία σε αυτόν τον τομέα θα μπορούσε να είναι καταστροφική.
- Διεθνής Κυριαρχία: Η υπερ-νοημοσύνη θα προσφέρει ένα αποφασιστικό οικονομικό και στρατιωτικό πλεονέκτημα. Η επιβίωση του «ελεύθερου κόσμου» βρίσκεται σε κίνδυνο, καθώς η Κίνα παραμένει ενεργά στη κούρσα.
- Το Σχέδιο: Η εμπλοκή του κράτους
Ο συγγραφέας προβλέπει ότι καθώς η κούρσα για την AGI θα εντείνεται, το κράτος εθνικής ασφάλειας των ΗΠΑ θα εμπλακεί. Καμία ιδιωτική εταιρεία δεν μπορεί να διαχειριστεί την υπερ-νοημοσύνη. Ένα κυβερνητικό σχέδιο για την AGI θα ξεκινήσει, συγκεντρώνοντας τους πόρους του έθνους σε αυτό που θα αποτελέσει το πιο σημαντικό εθνικό αμυντικό πρόγραμμα της χώρας. Αυτό κρίνεται απαραίτητο τόσο για την ασφάλεια απέναντι σε ξένους παράγοντες όσο και για την διαχείριση των σοβαρών κινδύνων.
Τελικές σκέψεις
Το έγγραφο καταλήγει με την αίσθηση του επικείμενου και του απτού. Αυτό που κάποτε ήταν αφηρημένες θεωρίες, γίνεται πλέον μια απτή πραγματικότητα. Ο συγγραφέας ισχυρίζεται ότι μπορεί ήδη να δει πώς θα κατασκευαστεί η AGI, ποιοι αλγόριθμοι θα χρησιμοποιηθούν και ποιοι άνθρωποι θα έχουν σημασία. Η δεκαετία μπροστά μας αναμένεται να είναι μια περίοδος ριζικών αλλαγών και πρωτοφανών προκλήσεων, όπου η ανθρώπινη ικανότητα για «συναίσθηση της κατάστασης» θα κρίνει την έκβαση.
mywaypress.gr –Περιεχόμενο αξίας με την υποστήριξη υβριδικής νοημοσύνης.
Για αναγνώστες με μεγάλο εύρος προσοχής.
