Ο Sam Altman στα πρώτα δύο χρόνια του ChatGPT, ο Elon Musk και η προοπτική της AGI

Η συνέντευξη αυτή με τον Σαμ Άλτμαν, CEO της OpenAI στο bloomberg.com εξετάζει την ταχεία άνοδο και την εξέλιξη της εταιρείας, από την ίδρυσή της ως μη κερδοσκοπικού οργανισμού μέχρι την επιτυχία του ChatGPT και τις επιχειρηματικές προκλήσεις που ακολούθησαν. Αναφέρεται στην απόλυσή του και την επαναπρόσληψή του, στην σχέση του με τον Ίλον Μασκ, και στην προοπτική της τεχνητής γενικής νοημοσύνης (AGI), ενώ συζητάει για τις προκλήσεις στην κλιμάκωση, την ασφάλεια και τη συνεργασία με την κυβέρνηση.

 
Ποιο ήταν το όραμα της OpenAI κατά την ίδρυσή της και πώς αυτό διαμόρφωσε την εταιρεία;

Το αρχικό όραμα της OpenAI, που διατυπώθηκε σε ένα από τα “ιδρυτικά δείπνα” μεταξύ του Sam Altman και του Ilya Sutskever, ήταν η δημιουργία Τεχνητής Γενικής Νοημοσύνης (AGI) χρησιμοποιώντας την βαθιά μάθηση. Αυτό το όραμα, μαζί με την πεποίθηση ότι η AGI είναι εφικτή και θα έχει τεράστιο αντίκτυπο στην κοινωνία, παραμένει στο επίκεντρο της εταιρείας, διαμορφώνοντας τις τεχνικές της προσεγγίσεις, την έρευνα και τις προσλήψεις. Οι ιδρυτές προσέλκυσαν ταλαντούχους, μη συμβατικούς στοχαστές που πίστευαν στην ιδέα, δημιουργώντας μια ομάδα με ιδιαίτερη δυναμική και κίνητρο.

 
Πώς περιγράφει ο Sam Altman την εμπειρία της δημιουργίας και της ραγδαίας ανάπτυξης του ChatGPT;

Ο Sam Altman περιγράφει τις πρώτες μέρες του ChatGPT ως μια περίοδο απίστευτης έκπληξης και ραγδαίας αλλαγής. Ενώ ο ίδιος πίστευε στην επιτυχία του, η υπόλοιπη ομάδα ήταν πιο επιφυλακτική. Η αυξημένη επισκεψιμότητα και η αλλαγή του μοτίβου χρήσης ήταν ένα σημάδι ότι κάτι σημαντικό συνέβαινε, οδηγώντας σε μια γρήγορη προσπάθεια για την εξασφάλιση των απαραίτητων υπολογιστικών πόρων. Η εμπειρία αυτή του δημιούργησε ανάμεικτα συναισθήματα, καθώς συνειδητοποίησε τη σημασία της επιτυχίας αλλά και το βάρος των αλλαγών που θα ακολουθούσαν. Επιπλέον, τονίζει πως η εταιρεία χρειάστηκε να δημιουργήσει το επιχειρηματικό της μοντέλο εν κινήσει, καταλήγοντας σε μια απλή συνδρομητική υπηρεσία.

 
Τι οδήγησε στην απόλυση του Sam Altman από το διοικητικό συμβούλιο της OpenAI και ποια ήταν η επακόλουθη αναταραχή;

Η απόλυση του Sam Altman προήλθε από ανησυχίες του διοικητικού συμβουλίου σχετικά με την ειλικρίνεια και τη διαφάνειά του στις επικοινωνίες τους. Υπήρχαν επίσης διαφορές απόψεων για τη σχέση μεταξύ ασφάλειας και ικανοτήτων, καθώς και για τον ρόλο του διοικητικού συμβουλίου. Αυτή η απόλυση προκάλεσε σημαντική αναταραχή στην εταιρεία, οδηγώντας σε μαζικές παραιτήσεις και μια περίοδο διαπραγματεύσεων για την επαναφορά του Altman, η οποία τελικά επιτεύχθηκε με μια πλήρη ανανέωση του διοικητικού συμβουλίου. Η κατάσταση αυτή ήταν μια τραυματική εμπειρία για τον Altman, με προσωπικές και επαγγελματικές επιπτώσεις, αλλά τον οδήγησε να δει την σημασία της διαφάνειας και της επικοινωνίας.

 
 Πώς έχει αλλάξει η αντίληψη του Sam Altman για τους κινδύνους της Τεχνητής Νοημοσύνης και ποιες είναι οι προτεραιότητές του για την ασφάλεια;

Η αντίληψη του Sam Altman για τους κινδύνους της Τεχνητής Νοημοσύνης παραμένει σταθερή, με έμφαση σε βραχυπρόθεσμους κινδύνους που σχετίζονται με την κυβερνοασφάλεια και τη βιοτεχνολογία, καθώς και μακροπρόθεσμους κινδύνους που είναι δύσκολο να προβλεφθούν και να μοντελοποιηθούν. Πιστεύει ότι η μόνη κατάλληλη προσέγγιση για την αντιμετώπιση αυτών των κινδύνων είναι η ανάπτυξη προϊόντων και η μάθηση από αυτά. Η OpenAI έχει δημιουργήσει πολλαπλές ομάδες ασφαλείας, συμπεριλαμβανομένης μιας εσωτερικής συμβουλευτικής ομάδας ασφαλείας, μιας επιτροπής ασφάλειας και ασφάλειας του διοικητικού συμβουλίου και ενός συμβουλίου ασφάλειας ανάπτυξης σε συνεργασία με τη Microsoft. Παρ’όλα αυτά, αναγνωρίζει την ανάγκη απλοποίησης των διαδικασιών.

 
Πώς βλέπει ο Sam Altman την έννοια της AGI και πότε πιστεύει ότι θα την επιτύχει η OpenAI;

Ο Sam Altman θεωρεί τον όρο “AGI” ασαφή και χρησιμοποιεί ένα κλιμακωτό σύστημα επιπέδων για να παρακολουθεί την πρόοδο της τεχνητής νοημοσύνης. Για αυτόν, η AGI επιτυγχάνεται όταν ένα σύστημα AI μπορεί να εκτελεί τις εργασίες που κάνουν οι εξειδικευμένοι άνθρωποι σε σημαντικές θέσεις εργασίας. Τονίζει ότι αυτό δεν είναι απλώς η εκτέλεση μέρους της εργασίας, αλλά ολόκληρης. Δεν προσδιορίζει συγκεκριμένη ημερομηνία για την επίτευξη της AGI, αλλά υπογραμμίζει την αξία του κλιμακωτού συστήματος και της εξέλιξης των μοντέλων. Επίσης, τονίζει πως η επόμενη πρόκληση είναι η δημιουργία “υπερνοημοσύνης”, η οποία θα μπορεί να επιταχύνει την επιστημονική ανακάλυψη.

 
Ποιες είναι οι κυριότερες προκλήσεις που αντιμετωπίζει η OpenAI σχετικά με την ανάπτυξη της τεχνητής νοημοσύνης;

Οι κυριότερες προκλήσεις για την ανάπτυξη της τεχνητής νοημοσύνης, σύμφωνα με τον Sam Altman, είναι η κλιμάκωση των μοντέλων, η έλλειψη chip και η έλλειψη ενέργειας. Η OpenAI εργάζεται για την αντιμετώπιση αυτών των προκλήσεων, αναπτύσσοντας δικά της chip, δημιουργώντας συνεργασίες με κατασκευαστές chip και επενδύοντας σε ανανεώσιμες πηγές ενέργειας, συμπεριλαμβανομένης της πυρηνικής σύντηξης, στην οποία θεωρεί ότι θα υπάρξει πρόοδος σύντομα.

 
Πώς η OpenAI λαμβάνει υπόψη τη γνώμη των χρηστών για τη βελτίωση των προϊόντων της;

Η OpenAI δίνει μεγάλη σημασία στα σχόλια και τις ανάγκες των χρηστών, τα οποία χρησιμοποιεί για να διαμορφώσει την ανάπτυξη των προϊόντων της. Η εταιρεία έχει μάθει, για παράδειγμα, ότι οι χρήστες χρησιμοποιούν το ChatGPT για αναζήτηση, κάτι που δεν ήταν αρχικά στοχευμένο. Επίσης, έχουν διαπιστώσει τη μεγάλη ζήτηση για ιατρικές συμβουλές και άλλες σημαντικές εφαρμογές, γεγονός που τους έχει βοηθήσει να προσαρμόσουν την ανάπτυξή τους για να ανταποκριθούν καλύτερα στις ανάγκες των χρηστών.

 
 Ποια είναι η στάση του Sam Altman σχετικά με την πολιτική και την κυβέρνηση, ειδικά ενόψει της νέας προεδρίας;

Ο Sam Altman τονίζει την ανάγκη συνεργασίας με κάθε πρόεδρο των ΗΠΑ, ανεξάρτητα από τις πολιτικές πεποιθήσεις. Αν και δεν συμφωνεί με όλες τις απόψεις του προέδρου Τραμπ, θεωρεί πως η υποστήριξη της χώρας και η επιτυχία της στον τομέα της τεχνητής νοημοσύνης είναι σημαντικότερα από τις πολιτικές διαφορές. Ο Altman πιστεύει πως η ανάπτυξη της AGI είναι ένα τεράστιο γεγονός που πρέπει να ξεπερνά τα πολιτικά ζητήματα και υπογραμμίζει την ανάγκη δημιουργίας περισσότερης υποδομής στις ΗΠΑ, με την παράλληλη προώθηση της πυρηνικής σύντηξης. Ακόμα, δεν πιστεύει ότι ο Elon Musk θα χρησιμοποιήσει την επιρροή του στην κυβέρνηση για να ζημιώσει τον ανταγωνισμό στον τομέα της τεχνητής νοημοσύνης.

 
Ποιες είναι οι προκλήσεις και οι κίνδυνοι για την ανάπτυξη της Τεχνητής Νοημοσύνης;

Οι προκλήσεις και οι κίνδυνοι για την ανάπτυξη της Τεχνητής Νοημοσύνης (ΤΝ) είναι πολύπλοκοι και πολυδιάστατοι, όπως προκύπτει από τις πηγές. Ακολουθούν ορισμένες από τις κυριότερες προκλήσεις και κινδύνους που αναφέρονται:

• Κίνδυνοι ασφαλείας βραχυπρόθεσμα και μακροπρόθεσμα: Σύμφωνα με τον Sam Altman, υπάρχουν βραχυπρόθεσμοι κίνδυνοι που σχετίζονται με την κυβερνοασφάλεια και τα βιολογικά θέματα. Μακροπρόθεσμα, καθώς τα συστήματα ΤΝ αποκτούν αυξημένες δυνατότητες, υπάρχουν κίνδυνοι που είναι δύσκολο να προβλεφθούν και να μοντελοποιηθούν. Συγκεκριμένα, έχουν αναγνωριστεί αυξημένοι κίνδυνοι κακής χρήσης των μοντέλων ΤΝ στη δημιουργία βιολογικών όπλων.
• Ανάγκη για υπολογιστική ισχύ (compute): Η ανάπτυξη της ΤΝ απαιτεί σημαντικούς υπολογιστικούς πόρους. Η εξασφάλιση της απαραίτητης υπολογιστικής ισχύος αποτελεί μια σημαντική πρόκληση, καθώς η ζήτηση αυξάνεται συνεχώς. Η OpenAI έχει αναπτύξει σχέδια για την επέκταση της υποδομής τσιπ και δημιουργία δικών της τσιπ.
• Ενεργειακή επάρκεια: Η ανάπτυξη και λειτουργία των συστημάτων ΤΝ απαιτεί μεγάλες ποσότητες ενέργειας. Η εξασφάλιση επαρκούς ενέργειας για την ανάπτυξη της ΤΝ, χωρίς να υπονομευθούν οι κλιματικοί στόχοι, είναι μία σημαντική πρόκληση. Η πυρηνική σύντηξη θεωρείται μια πιθανή λύση για τη μακροπρόθεσμη κάλυψη των ενεργειακών αναγκών της ΤΝ.
• Διατήρηση της μαγείας της έρευνας: Υπάρχει ο κίνδυνος η εμπορική ανάπτυξη των προϊόντων ΤΝ να επισκιάσει τη σημασία της έρευνας. Η OpenAI προσπαθεί να διατηρήσει την ανεξαρτησία της ερευνητικής ομάδας, προκειμένου να προστατεύσει τη δημιουργικότητα και την καινοτομία.
• Ορισμός και επίτευξη της AGI: Ο όρος “AGI” (Artificial General Intelligence – Γενική Τεχνητή Νοημοσύνη) είναι ασαφής και υπάρχουν διαφορετικές ερμηνείες σχετικά με το πότε θα έχει επιτευχθεί. Ο Altman θεωρεί ότι ένα σύστημα ΤΝ που μπορεί να εκτελέσει τις εργασίες που κάνουν οι εξειδικευμένοι άνθρωποι σε σημαντικές θέσεις, θα μπορούσε να θεωρηθεί AGI.
• Ηθικοί και κοινωνικοί προβληματισμοί: Η γρήγορη ανάπτυξη της ΤΝ εγείρει ηθικά και κοινωνικά ερωτήματα σχετικά με τον τρόπο με τον οποίο θα χρησιμοποιηθεί και τις επιπτώσεις της στην κοινωνία. Η OpenAI αρχικά ιδρύθηκε ως μη κερδοσκοπικός οργανισμός με στόχο να διασφαλίσει ότι η AGI θα ωφελήσει όλη την ανθρωπότητα.
• Σύγκρουση συμφερόντων: Υπήρξαν διαφωνίες μεταξύ του Sam Altman και του προηγούμενου διοικητικού συμβουλίου σχετικά με την ισορροπία μεταξύ ασφάλειας και ικανοτήτων, καθώς και τον ρόλο ενός μη κερδοσκοπικού διοικητικού συμβουλίου. Το διοικητικό συμβούλιο είχε την πεποίθηση ότι θα μπορούσε να καταστρέψει την εταιρεία για να προστατεύσει την αποστολή της, ενώ ο Altman προσπαθούσε να δημιουργήσει μια ανταγωνιστική εταιρεία.
• Ανάγκη για ισχυρή ηγεσία και αποτελεσματική διαχείριση: Η ανάπτυξη και η διαχείριση μιας εταιρείας ΤΝ που αναπτύσσεται ραγδαία, απαιτεί ισχυρή ηγεσία και ικανότητα διαχείρισης. Ο Altman περιέγραψε μια περίοδο που αισθανόταν «κολλημένος σε έναν πύραυλο», και ότι η ζωή του είχε αλλάξει ριζικά μετά την κυκλοφορία του ChatGPT.
• Πολιτικές και Ρυθμιστικές Προκλήσεις: Η σχέση της OpenAI με την κυβέρνηση και την πολιτική επηρεάζουν την ανάπτυξη της ΤΝ. Ο Altman θεωρεί ότι είναι σημαντικό να συνεργαστεί με οποιονδήποτε πρόεδρο των ΗΠΑ για το καλό της χώρας. Υπάρχουν ανησυχίες για τον ρόλο του Elon Musk και τις πιθανές επιπτώσεις των πολιτικών του θέσεων στην ανάπτυξη της ΤΝ.

Αυτές είναι μερικές από τις βασικές προκλήσεις και κινδύνους που σχετίζονται με την ανάπτυξη της ΤΝ όπως παρουσιάζονται στις πηγές.