10 takeaways από ένα hot paper- AI από τώρα έως το 2034

“Η πρόοδος του AI δεν θα σταματήσει σε ανθρώπινο επίπεδο”

 
Ο Leopold Aschenbrenner — πρώην μέλος της ομάδας Superalignment του OpenAI, τώρα ιδρυτής μιας επενδυτικής εταιρείας που επικεντρώνεται στην τεχνητή γενική νοημοσύνη (AGI) — δημοσίευσε ένα τεράστιο, προκλητικό δοκίμιο που βάζει ένα μακρύ φακό για το μέλλον της AI.

• Γιατί έχει σημασία: Ο Aschenbrenner, με έδρα το Σαν Φρανσίσκο, βασίζεται σε πολλές εικασίες και προβολές. Τίποτα από όλα αυτά λοιπόν δεν είναι πέτρινο. Αλλά το έργο του είναι μια χρήσιμη, εντυπωσιακή σύνθεση συνομιλιών υψηλού επιπέδου στη Silicon Valley.

 Εδώ είναι αυτό που ξεπήδησε στον Mike στο έγγραφο 50.000 λέξεων, 165 σελίδων του Aschenbrenner, “Επίγνωση κατάστασης: Η δεκαετία μπροστά”:

1. «Εμπιστευτείτε τις γραμμές τάσης… Οι γραμμές τάσης είναι έντονες και είχαν δίκιο».

• «Η μαγείατης βαθιάς μάθησης είναι ότι λειτουργεί απλά – και οι γραμμές τάσης ήταν εκπληκτικά συνεπείς, παρά τους αρνητές σε κάθε βήμα».

2. «Ξανά και ξανά,χρόνο με τον χρόνο, οι σκεπτικιστές ισχυρίστηκαν ότι «η βαθιά μάθηση δεν θα μπορέσει να κάνει το Χ» και γρήγορα αποδείχτηκε ότι έκαναν λάθος.

• «Αν υπάρχει ένα μάθημαπου μάθαμε από την τελευταία δεκαετία της τεχνητής νοημοσύνης, είναι ότι δεν πρέπει ποτέ να ποντάρετε ενάντια στη βαθιά μάθηση».
• «Κυριολεκτικά ξεμένουμε από σημεία αναφοράς».

3. Είναι «εκπληκτικά εύλογο ότι μέχρι το 2027, τα μοντέλα θα μπορούν να κάνουν τη δουλειά ενός ερευνητή/μηχανικού AI».
4. «Μέχρι το 2027,αντί για ένα chatbot, θα έχετε κάτι που θα μοιάζει περισσότερο με πράκτορα, με συνάδελφο».
5. Ο τοίχος δεδομένων:“Υπάρχει μια δυνητικά σημαντική πηγή διακύμανσης για όλα αυτά: εξαντλούμε δεδομένα στο διαδίκτυο. Αυτό θα μπορούσε να σημαίνει ότι, πολύ σύντομα, η αφελής προσέγγιση για την προεκπαίδευση μεγαλύτερων γλωσσικών μοντέλων σε πιο επεξεργασμένα δεδομένα θα μπορούσε να αρχίσει να χτυπά σοβαρά σημεία συμφόρησης».

 
-“Η πρόοδος του AI δεν θα σταματήσει σε ανθρώπινο επίπεδο”

Περισσότερα στοιχεία από το κεφάλαιο 50.000 λέξεων του Leopold Aschenbrenner « Συναίσθηση της κατάστασης : Η δεκαετία που ακολουθεί»:

6. Θα μπορούσαμε να«περάσουμε γρήγορα από ανθρώπινο επίπεδο σε εξαιρετικά υπεράνθρωπα συστήματα τεχνητής νοημοσύνης».

• Superintelligence (Υπερνοημοσύνη ) έρχεται το 2030 μ.Χ.

7. Τα προϊόντα τεχνητής νοημοσύνηςείναι πιθανό να γίνουν “ο μεγαλύτερος μοχλός εσόδων για τις μεγαλύτερες εταιρείες της Αμερικής και μακράν ο μεγαλύτερος τομέας ανάπτυξής τους. Οι προβλέψεις για τη συνολική αύξηση των εσόδων για αυτές τις εταιρείες θα εκτοξευθούν στα ύψη”.

• “Οι χρηματιστηριακές αγορές θα ακολουθούσαν. Μπορεί να δούμε την πρώτη μας εταιρεία 10 τρισεκατομμυρίων δολαρίων λίγο αργότερα. Η μεγάλη τεχνολογία σε αυτό το σημείο θα ήταν πρόθυμη να τα δώσει όλα, επενδύοντας η καθεμία πολλές εκατοντάδες δισεκατομμύρια (τουλάχιστον) σε περαιτέρω κλιμάκωση της τεχνητής νοημοσύνης. Πιθανότατα θα δούμε την πρώτη μας πώληση εταιρικών ομολόγων πολλών εκατοντάδων δισεκατομμυρίων δολαρίων».

8. «Η αποτυχία μας σήμερανα υψώσουμε επαρκή εμπόδια γύρω από την έρευνα για την τεχνητή γενική νοημοσύνη» θα είναι μη αναστρέψιμη σύντομα: τους επόμενους 12-24 μήνες, θα διαρρεύσουμε βασικές ανακαλύψεις της AGI στο [Κινεζικό Κομμουνιστικό Κόμμα]. Θα είναι η μεγαλύτερη λύπη του κατεστημένου εθνικής ασφάλειας πριν τελειώσει η δεκαετία».
9. Υπερνοημοσύνη «θα είναι το πιο σημαντικό έργο εθνικής άμυνας των Ηνωμένων Πολιτειών».
10. Δεν υπάρχει “καμία ομάδα ρωγμών που έρχεται να το χειριστεί… Αυτή τη στιγμή, υπάρχουν ίσως μερικές εκατοντάδες άνθρωποι στον κόσμο που συνειδητοποιούν τι πρόκειται να μας χτυπήσει, που καταλαβαίνουν πόσο τρελά πρόκειται να γίνουν, που έχουν επίγνωση της κατάστασης .”

Έλεγχος πραγματικότητας: Ο Aschenbrenner, με ρίζες στο αποτελεσματικό κίνημα του αλτρουισμού , είναι επενδυτής τεχνητής νοημοσύνης — όχι ένα αδιάφορο μέρος.

• Η άποψή του για το AGIείναι μια μειοψηφία στον κλάδο, μου λέει ο διευθυντής της Axios για την τεχνολογία Scott Rosenberg. Ο Aschenbrenner, και πολλοί στο OpenAI και αλλού, πιστεύουν ότι το AGI θα αναπτυχθεί αναπόφευκτα από τα σημερινά μοντέλα και bots   Η ευρύτερη συναίνεση μεταξύ των  εμπειρογνωμόνων είναι ότι δεν θα το κάνει.
• Αυτό δεν είναι απαισιοδοξία:Η συναίνεση βλέπει τόσο μεγάλη αξία και χρησιμότητα στο AI όπου είναι τώρα και όπου κατευθύνεται πολύ πριν φτάσει στο AGI, που το AGI δεν είναι πραγματικά το σημείο.

Αυτή τη στιγμή, οι μεγαλύτεροι παίκτες επικεντρώνονται περισσότερο στην απόδειξη της αξίας και της χρησιμότητας της σημερινής τεχνητής νοημοσύνης παρά στην αναγκαστική πορεία προς την υπερευφυΐα.

 Πηγή: axios.com