Sam Altman: Αντανακλάσεις

Τα δεύτερα γενέθλια του ChatGPT ήταν μόλις πριν από λίγο περισσότερο από ένα μήνα και τώρα έχουμε μεταβεί στο επόμενο παράδειγμα μοντέλων που μπορούν να κάνουν πολύπλοκους συλλογισμούς. Τα νέα χρόνια φέρνουν τους ανθρώπους σε μια στοχαστική διάθεση και ήθελα να μοιραστώ μερικές προσωπικές σκέψεις για το πώς έχει πάει μέχρι τώρα και μερικά από τα πράγματα που έμαθα στην πορεία.

Καθώς πλησιάζουμε στο AGI, είναι μια σημαντική στιγμή να δούμε την πρόοδο της εταιρείας μας. Υπάρχουν ακόμα τόσα πολλά να καταλάβουμε, ακόμα τόσα που δεν γνωρίζουμε, και είναι ακόμα τόσο νωρίς. Αλλά ξέρουμε πολλά περισσότερα από όσα ξέραμε όταν ξεκινήσαμε.

Ξεκινήσαμε το OpenAI πριν από σχεδόν εννέα χρόνια, επειδή πιστεύαμε ότι το AGI ήταν δυνατό και ότι θα μπορούσε να είναι η πιο εντυπωσιακή τεχνολογία στην ανθρώπινη ιστορία. Θέλαμε να καταλάβουμε πώς να το φτιάξουμε και να το κάνουμε ευρέως επωφελές. ‘Ημασταν ενθουσιασμένοι που προσπαθήσαμε να αφήσουμε το στίγμα μας στην ιστορία. Οι φιλοδοξίες μας ήταν εξαιρετικά υψηλές, όπως και η πεποίθησή μας ότι το έργο θα μπορούσε να ωφελήσει την κοινωνία με εξίσου εξαιρετικό τρόπο.

Εκείνη την εποχή, πολύ λίγοι άνθρωποι νοιάζονταν, και αν το έκαναν, ήταν κυρίως επειδή πίστευαν ότι δεν είχαμε καμία πιθανότητα επιτυχίας.

Το 2022, το OpenAI ήταν ένα ήσυχο ερευνητικό εργαστήριο που εργαζόταν σε κάτι που προσωρινά ονομάζεται «Chat With GPT-3.5». (Είμαστε πολύ καλύτεροι στην έρευνα παρά στο να ονομάζουμε πράγματα.) Παρακολουθούσαμε ανθρώπους να χρησιμοποιούν τη λειτουργία παιδικής χαράς του API μας και γνωρίζαμε ότι οι προγραμματιστές απολάμβαναν πραγματικά να μιλούν με το μοντέλο. Σκεφτήκαμε ότι η δημιουργία μιας επίδειξης γύρω από αυτήν την εμπειρία θα έδειχνε στους ανθρώπους κάτι σημαντικό για το μέλλον και θα μας βοηθούσε να κάνουμε τα μοντέλα μας καλύτερα και ασφαλέστερα.

Καταλήξαμε να το ονομάζουμε ChatGPT και το κυκλοφορήσαμε στις 30 Νοεμβρίου 2022.

Πάντα ξέραμε, αφηρημένα, ότι κάποια στιγμή θα χτυπούσαμε σε ένα σημείο καμπής και η επανάσταση της τεχνητής νοημοσύνης θα ξεκινούσε. Αλλά δεν ξέραμε ποια θα ήταν η στιγμή. Προς έκπληξή μας, αποδείχθηκε ότι ήταν αυτό.

Το λανσάρισμα του ChatGPT ξεκίνησε μια καμπύλη ανάπτυξης που δεν έχουμε δει ποτέ – στην εταιρεία μας, στον κλάδο μας και στον κόσμο γενικότερα. Βλέπουμε επιτέλους μερικά από τα τεράστια ανοδικά της πορείας που πάντα ελπίζαμε από την τεχνητή νοημοσύνη και μπορούμε να δούμε πόσα περισσότερα θα έρθουν σύντομα.

Δεν ήταν εύκολο. Ο δρόμος δεν ήταν ομαλός και οι σωστές επιλογές δεν ήταν προφανείς.

Τα τελευταία δύο χρόνια, έπρεπε να φτιάξουμε μια ολόκληρη εταιρεία, σχεδόν από την αρχή, γύρω από αυτή τη νέα τεχνολογία. Δεν υπάρχει τρόπος να εκπαιδεύσετε τους ανθρώπους για αυτό, εκτός από το να το κάνετε, και όταν η κατηγορία τεχνολογίας είναι εντελώς νέα, δεν υπάρχει κανένας που να μπορεί να σας πει ακριβώς πώς πρέπει να γίνει.

Η δημιουργία μιας εταιρείας με τόσο υψηλή ταχύτητα με τόσο λίγη εκπαίδευση είναι μια ακατάστατη διαδικασία. Είναι συχνά δύο βήματα μπροστά, ένα βήμα πίσω (και μερικές φορές, ένα βήμα μπροστά και δύο βήματα πίσω). Τα λάθη διορθώνονται καθώς προχωράτε, αλλά στην πραγματικότητα δεν υπάρχουν εγχειρίδια ή οδηγοί όταν κάνετε πρωτότυπη εργασία. Η κίνηση με ταχύτητα σε αχαρτογράφητα νερά είναι μια απίστευτη εμπειρία, αλλά είναι επίσης απίστευτα αγχωτικό για όλους τους παίκτες. Οι συγκρούσεις και οι παρεξηγήσεις αφθονούν.

Αυτά τα χρόνια ήταν τα πιο ανταποδοτικά, διασκεδαστικά, καλύτερα, ενδιαφέροντα, εξαντλητικά, αγχωτικά και —ιδιαίτερα τα δύο τελευταία— δυσάρεστα χρόνια της ζωής μου μέχρι στιγμής. Το συντριπτικό συναίσθημα είναι η ευγνωμοσύνη. Ξέρω ότι κάποια μέρα θα αποσυρθώ στο ράντσο μας βλέποντας τα φυτά να μεγαλώνουν, θα βαρεθώ λίγο και θα σκεφτώ πόσο ωραία ήταν που κατάφερα να κάνω τη δουλειά που ονειρευόμουν από μικρό παιδί. Προσπαθώ να το θυμάμαι αυτό κάθε δεδομένη Παρασκευή, όταν επτά πράγματα πάνε άσχημα μέχρι τη 1 μ.μ.

Πριν από λίγο περισσότερο από ένα χρόνο, μια συγκεκριμένη Παρασκευή, το κύριο πράγμα που πήγε στραβά εκείνη την ημέρα ήταν ότι απολύθηκα αιφνιδιαστικά σε μια βιντεοκλήση και στη συνέχεια, αμέσως μετά το κλείσιμο του διοικητικού συμβουλίου, δημοσίευσα μια ανάρτηση ιστολογίου σχετικά με αυτό. Ήμουν σε ένα δωμάτιο ξενοδοχείου στο Λας Βέγκας. Έμοιάζε, σε βαθμό που είναι σχεδόν αδύνατο να εξηγηθεί, σαν ένα όνειρο που πήγε στραβά.

Το να απολυθείς δημόσια χωρίς προειδοποίηση ξεκίνησε   πραγματικά  κάποιες  πολύ τρελές ώρες και για μερικές πολύ τρελές μέρες. Η «ομίχλη του πολέμου» ήταν το πιο περίεργο κομμάτι. Κανείς από εμάς δεν μπόρεσε να πάρει ικανοποιητικές απαντήσεις για το τι είχε συμβεί ή γιατί.

Το όλο γεγονός ήταν, κατά τη γνώμη μου, μια μεγάλη αποτυχία διακυβέρνησης από καλοπροαίρετους ανθρώπους, συμπεριλαμβανομένου και εμένα. Κοιτάζοντας πίσω, σίγουρα θα ήθελα να είχα κάνει τα πράγματα διαφορετικά και θα ήθελα να πιστεύω ότι είμαι καλύτερος, πιο στοχαστικός ηγέτης σήμερα από ό,τι πριν από ένα χρόνο.

Έμαθα επίσης τη σημασία ενός συμβουλίου με διαφορετικές απόψεις και ευρεία εμπειρία στη διαχείριση ενός πολύπλοκου συνόλου προκλήσεων. Η χρηστή διακυβέρνηση απαιτεί μεγάλη εμπιστοσύνη και αξιοπιστία. Εκτιμώ τον τρόπο με τον οποίο τόσο πολλοί άνθρωποι συνεργάστηκαν για να οικοδομήσουμε ένα ισχυρότερο σύστημα διακυβέρνησης για το OpenAI που μας δίνει τη δυνατότητα να συνεχίσουμε την αποστολή μας να διασφαλίσουμε ότι το AGI ωφελεί όλη την ανθρωπότητα.

Η μεγαλύτερη αποδοχή μου είναι για το πόσο πρέπει να είμαι ευγνώμων και σε πόσους ανθρώπους χρωστάω ευγνωμοσύνη: σε όλους όσους εργάζονται στο OpenAI και επέλεξαν να αφιερώσουν τον χρόνο και την προσπάθειά τους ακολουθώντας αυτό το όνειρο, σε φίλους που μας βοήθησαν να ξεπεράσουμε κρίσιμες στιγμές, στους συνεργάτες και τους πελάτες μας που μας στήριξαν και μας εμπιστεύτηκαν να επιτρέψουμε την επιτυχία τους, και στους ανθρώπους στη ζωή μου που μου έδειξαν πόσο νοιάζονται. [1]

Όλοι επιστρέψαμε στη δουλειά με πιο συνεκτικό και θετικό τρόπο και είμαι πολύ περήφανος για την εστίασή μας από τότε. Κάναμε εύκολα αυτά που είναι  μερικές από τις καλύτερες έρευνές μας ποτέ. Μεγαλώσαμε από περίπου 100 εκατομμύρια ενεργούς χρήστες την εβδομάδα σε περισσότερους από 300 εκατομμύρια. Πάνω από όλα, συνεχίσαμε να βγάζουμε στον κόσμο τεχνολογία που οι άνθρωποι φαίνεται να αγαπούν πραγματικά και που λύνει πραγματικά προβλήματα.

Πριν από εννέα χρόνια, πραγματικά δεν είχαμε ιδέα τι επρόκειτο να γίνουμε τελικά. Ακόμα και τώρα, το ξέρουμε μόνο κάπως. Η ανάπτυξη της τεχνητής νοημοσύνης έχει λάβει πολλές ανατροπές και αναμένουμε περισσότερα στο μέλλον.

Μερικές από τις ανατροπές ήταν χαρούμενες. Μερικές ήταν σκληρές. Ήταν διασκεδαστικό να παρακολουθείς μια σταθερή ροή ερευνητικών θαυμάτων και πολλοί αρνητές έχουν γίνει αληθινοί πιστοί. Είδαμε επίσης κάποιους συναδέλφους να χωρίζουν και να γίνονται ανταγωνιστές. Οι ομάδες τείνουν να ανατρέπονται καθώς κλιμακώνονται και το OpenAI κλιμακώνεται πολύ γρήγορα. Νομίζω ότι ορισμένα από αυτά είναι αναπόφευκτα – οι νεοσύστατες επιχειρήσεις συνήθως βλέπουν πολύ τζίρο σε κάθε νέο μεγάλο επίπεδο κλίμακας και στο OpenAI οι αριθμοί αυξάνονται κατά τάξεις μεγέθους κάθε λίγους μήνες. Τα τελευταία δύο χρόνια ήταν σαν μια δεκαετία σε μια κανονική εταιρεία. Όταν μια εταιρεία αναπτύσσεται και εξελίσσεται τόσο γρήγορα, τα συμφέροντα φυσικά διαφέρουν. Και όταν μια εταιρεία σε έναν σημαντικό κλάδο είναι πρωτοπόρος, πολλοί άνθρωποι της επιτίθενται για διάφορους λόγους, ειδικά όταν προσπαθούν να την ανταγωνιστούν.

Το όραμά μας δεν θα αλλάξει. Οι τακτικές μας θα συνεχίσουν να εξελίσσονται. Για παράδειγμα, όταν ξεκινήσαμε δεν είχαμε ιδέα ότι θα έπρεπε να δημιουργήσουμε μια εταιρεία προϊόντων. Πιστεύαμε ότι θα κάνουμε απλώς μεγάλη έρευνα. Επίσης δεν είχαμε ιδέα ότι θα χρειαζόμασταν τόσο τρελό κεφάλαιο. Υπάρχουν νέα πράγματα που πρέπει να πάμε να χτίσουμε τώρα που δεν καταλάβαμε πριν από μερικά χρόνια, και θα υπάρξουν νέα πράγματα στο μέλλον που μετά βίας μπορούμε να φανταστούμε τώρα.

Είμαστε περήφανοι για το ιστορικό μας στην έρευνα και την ανάπτυξη μέχρι στιγμής και δεσμευόμαστε να συνεχίσουμε να προάγουμε τη σκέψη μας σχετικά με την ασφάλεια και την κοινή χρήση οφελών. Συνεχίζουμε να πιστεύουμε ότι ο καλύτερος τρόπος για να γίνει ένα σύστημα AI ασφαλές είναι η επαναληπτική και σταδιακή απελευθέρωσή του στον κόσμο, δίνοντας στην κοινωνία χρόνο να προσαρμοστεί και να συνεξελιχθεί με την τεχνολογία, μαθαίνοντας από την εμπειρία και συνεχίζοντας να κάνει την τεχνολογία ασφαλέστερη. Πιστεύουμε στη σημασία του να είμαστε παγκόσμιοι ηγέτες στην έρευνα για την ασφάλεια και την ευθυγράμμιση, και στην καθοδήγηση αυτής της έρευνας με ανατροφοδότηση από εφαρμογές του πραγματικού κόσμου.

Είμαστε πλέον σίγουροι ότι ξέρουμε πώς να χτίσουμε το AGI όπως το καταλαβαίνουμε παραδοσιακά. Πιστεύουμε ότι, το 2025, μπορεί να δούμε τους πρώτους πράκτορες AI να «εντάσσονται στο εργατικό δυναμικό» και να αλλάζουν ουσιαστικά την παραγωγή των εταιρειών. Συνεχίζουμε να πιστεύουμε ότι η επαναληπτική διάθεση σπουδαίων εργαλείων στα χέρια των ανθρώπων οδηγεί σε εξαιρετικά, ευρέως κατανεμημένα αποτελέσματα.

Αρχίζουμε να στρέφουμε τον στόχο μας πέρα ​​από αυτό, στην υπερευφυΐα με την αληθινή έννοια της λέξης. Αγαπάμε τα τρέχοντα προϊόντα μας, αλλά είμαστε εδώ για το ένδοξο μέλλον. Με την υπερνοημοσύνη, μπορούμε να κάνουμε οτιδήποτε άλλο. Τα υπερέξυπνα εργαλεία θα μπορούσαν να επιταχύνουν μαζικά την επιστημονική ανακάλυψη και την καινοτομία πολύ πέρα ​​από αυτό που είμαστε σε θέση να κάνουμε μόνοι μας, και με τη σειρά τους να αυξήσουν μαζικά την αφθονία και την ευημερία.

Αυτό ακούγεται σαν επιστημονική φαντασία αυτή τη στιγμή, και κάπως τρελό να το συζητάμε. Δεν πειράζει— είμασταν εκεί στο παρελθόν και είμαστε εντάξει με το να είμαστε ξανά εκεί. Είμαστε αρκετά βέβαιοι ότι τα επόμενα χρόνια, όλοι θα δουν αυτό που βλέπουμε και ότι η ανάγκη να ενεργούμε με μεγάλη προσοχή, ενώ παράλληλα μεγιστοποιούμε το ευρύ όφελος και την ενδυνάμωση, είναι τόσο σημαντική. Δεδομένων των δυνατοτήτων της δουλειάς μας, η OpenAI δεν μπορεί να είναι μια κανονική εταιρεία.

Πόσο τυχερό και ταπεινό είναι να μπορείς να παίξεις ρόλο σε αυτό το έργο.

(Ευχαριστώ τον Josh Tyrangiel για την προτροπή . Μακάρι να είχαμε πολύ περισσότερο χρόνο.)

[1] Υπήρχαν πολλοί άνθρωποι που έκαναν απίστευτη και γιγαντιαία δουλειά για να βοηθήσουν την OpenAI, και εμένα προσωπικά, κατά τη διάρκεια αυτών των λίγων ημερών, αλλά δύο άνθρωποι ξεχώρισαν από όλους τους άλλους. Ο Ρον Κόνγουεϊ και ο Μπράιαν Τσέσκι πήγαν τόσο πολύ πάνω και πέρα από το κάλεσμα του καθήκοντος που δεν είμαι καν σίγουρος πώς να το περιγράψω. Φυσικά, έχω ακούσει ιστορίες για την ικανότητα και την επιμονή του Ρον εδώ και χρόνια και έχω περάσει πολύ χρόνο με τον Μπράιαν τα τελευταία δύο χρόνια παίρνοντας τεράστια βοήθεια και συμβουλές. Αλλά δεν υπάρχει τίποτα καλύτερο από το να είσαι στην αλεπότρυπα με τους ανθρώπους για να δεις τι μπορούν πραγματικά να κάνουν. Είμαι αρκετά βέβαιος ότι η OpenAI θα είχε καταρρεύσει χωρίς τη βοήθειά τους. Δούλευαν όλο το εικοσιτετράωρο για μέρες μέχρι να γίνουν τα πράγματα. Αν και εργάστηκαν απίστευτα σκληρά, παρέμειναν ήρεμοι και είχαν σαφή στρατηγική σκέψη και εξαιρετικές συμβουλές καθ ‘όλη τη διάρκεια. Με σταμάτησαν από το να κάνω πολλά λάθη και δεν έκαναν κανένα οι ίδιοι. Χρησιμοποίησαν τα τεράστια δίκτυά τους για όλα όσα χρειάζονταν και ήταν σε θέση να πλοηγηθούν σε πολλές περίπλοκες καταστάσεις. Και είμαι σίγουρος ότι έκαναν πολλά πράγματα που δεν γνωρίζω. Αυτό που θα θυμάμαι περισσότερο, όμως, είναι η φροντίδα, η συμπόνια και η υποστήριξή τους.

Νόμιζα ότι ήξερα πώς ήταν να υποστηρίζεις έναν ιδρυτή και μια εταιρεία, και με κάποια μικρή έννοια το έκανα. Αλλά ποτέ πριν δεν έχω δει, ούτε καν ακούσει, κάτι σαν αυτό που έκαναν αυτοί οι τύποι, και τώρα καταλαβαίνω πληρέστερα γιατί έχουν το θρυλικό στάτους που έχουν. Είναι διαφορετικοί και αξίζουν πλήρως την πραγματικά μοναδική φήμη τους, αλλά είναι παρόμοιοι στην αξιοσημείωτη ικανότητά τους να μετακινούν βουνά και να βοηθούν, και στην ακλόνητη δέσμευσή τους σε περιόδους ανάγκης. Η βιομηχανία τεχνολογίας είναι πολύ καλύτερη για να έχει και τους δύο σε αυτήν. Υπάρχουν και άλλοι σαν αυτούς. Είναι ένα εκπληκτικά ιδιαίτερο πράγμα για τη βιομηχανία μας και κάνει πολύ περισσότερα για να τα κάνει όλα να λειτουργούν από ό, τι συνειδητοποιούν οι άνθρωποι. Ανυπομονώ να το ξεπληρώσω μπροστά. Σε μια πιο προσωπική σημείωση, ευχαριστώ ιδιαίτερα τον Ollie για την υποστήριξή του εκείνο το Σαββατοκύριακο και πάντα. Είναι απίστευτος από κάθε άποψη και κανείς δεν θα μπορούσε να ζητήσει καλύτερο συνεργάτη.

Πηγή: blog.samaltman.com