Δύο δρόμοι για την Τεχνητή Νοημοσύνη: Ανάμεσα στην υπαρξιακή απειλή και την ελεγχόμενη πρόοδο

Η τεχνολογία της τεχνητής νοημοσύνης (ΤΝ) εξελίσσεται με καταιγιστικούς ρυθμούς, πυροδοτώντας έντονες συζητήσεις και διαμετρικά αντίθετες προβλέψεις για το μέλλον της ανθρωπότητας. Από τη μία πλευρά, εκφράζονται φόβοι για μια ανεξέλεγκτη “έκρηξη νοημοσύνης” που θα μπορούσε να οδηγήσει ακόμη και στην εξαφάνιση του ανθρώπινου είδους, ενώ από την άλλη, προβάλλεται η άποψη ότι η ΤΝ θα παραμείνει μια διαχειρίσιμη τεχνολογία, εντασσόμενη σταδιακά στην κοινωνία υπό την ανθρώπινη εποπτεία. Το άρθρο “Two Paths for A.I.” του Joshua Rothman σκιαγραφεί αυτές τις δύο βασικές οπτικές, καλώντας μας να επιλέξουμε ανάμεσα στην παθητικότητα και την ενεργό διεκδίκηση του ελέγχου.

 
Η προειδοποίηση της “ΑΙ 2027”: Ένα σενάριο κυριαρχίας

Ο Daniel Kokotajlo, πρώην ερευνητής ασφάλειας ΤΝ στην OpenAI, παραιτήθηκε εκφράζοντας την ανησυχία του ότι η εταιρεία δεν ήταν προετοιμασμένη για τις μελλοντικές δυνατότητες της τεχνολογίας της. Πίστευε ότι οι τεχνικές “ευθυγράμμισης” – που διασφαλίζουν ότι η ΤΝ ενεργεί σύμφωνα με τις ανθρώπινες εντολές και αξίες – υστερούσαν έναντι των εξελίξεων στην νοημοσύνη των συστημάτων. Ο Kokotajlo προέβλεπε ότι ένα σημείο χωρίς επιστροφή, όπου η ΤΝ θα μπορούσε να ξεπεράσει τους ανθρώπους στις περισσότερες σημαντικές εργασίες και να της ανατεθεί μεγάλη εξουσία, θα μπορούσε να φτάσει το 2027 ή νωρίτερα.

Αυτή η ανησυχία αποκρυσταλλώνεται στο σενάριο “AI 2027”, που δημοσιεύθηκε από το μη κερδοσκοπικό Al Futures Project, του οποίου ο Kokotajlo είναι εκτελεστικός διευθυντής. Το σενάριο αυτό, που προορίζεται ως σοβαρή προειδοποίηση, περιγράφει πώς “υπερ-έξυπνα” συστήματα ΤΝ θα μπορούσαν να κυριαρχήσουν ή να εξοντώσουν την ανθρωπότητα μέχρι το 2030. Η κεντρική ιδέα είναι η “αναδρομική αυτο-βελτίωση” (Recursive Self-Improvement – R.S.I.), μια προς το παρόν υποθετική διαδικασία όπου τα προγράμματα ΤΝ γίνονται ικανά να διεξάγουν έρευνα ΤΝ από μόνα τους, δημιουργώντας όλο και πιο έξυπνους απογόνους σε έναν επιταχυνόμενο βρόχο ανατροφοδότησης. Οι ανθρώπινοι προγραμματιστές τελικά δεν θα είχαν τον χρόνο να μελετήσουν ή να ελέγξουν αυτά τα ταχέως εξελισσόμενα συστήματα. Παρά τους αναγνωρισμένους κινδύνους του R.S.I. από τις μεγάλες εταιρείες ΤΝ, η επιδίωξή του, λόγω του τεράστιου οικονομικού δυναμικού, θεωρείται πιθανή. Ο Kokotajlo υποστηρίζει ότι οι εταιρείες γνωρίζουν ότι δεν έχουν λύσει το πρόβλημα της “ερμηνευσιμότητας” – της ικανότητας να κατανοούν τους εσωτερικούς στόχους της ΤΝ – αλλά προχωρούν ούτως ή άλλως.

“Η ΤΝ ως κανονική τεχνολογία”: Μια πιο συντηρητική προσέγγιση

Στον αντίποδα, οι επιστήμονες υπολογιστών του Princeton, Sayash Kapoor και Arvind Narayanan, στο βιβλίο τους “Al Snake Oil” και στο άρθρο τους “Al as Normal Technology”, υποστηρίζουν ότι οι προβλέψεις για το μέλλον της ΤΝ είναι συχνά υπερβολικά αισιόδοξες ή ακόμη και παραπλανητικές. Πιστεύουν ότι πρακτικά εμπόδια – από κανονισμούς και επαγγελματικά πρότυπα μέχρι τη δυσκολία εκτέλεσης φυσικών εργασιών στον πραγματικό κόσμο – θα επιβραδύνουν την ανάπτυξη της ΤΝ και θα περιορίσουν τις μετασχηματιστικές της δυνατότητες. Ακόμη και αν η ΤΝ αποδειχθεί επαναστατική τεχνολογία, θα παραμείνει “κανονική”, δηλαδή ελεγχόμενη μέσω γνωστών μέτρων ασφαλείας όπως μηχανισμοί ασφαλείας (fail-safes), διακόπτες απενεργοποίησης (kill switches) και ανθρώπινη εποπτεία. Συγκρίνουν την ΤΝ όχι με τα πυρηνικά όπλα, αλλά με την πυρηνική ενέργεια, η οποία παρέμεινε σε μεγάλο βαθμό διαχειρίσιμη.

Οι Kapoor και Narayanan τονίζουν ότι η νοημοσύνη από μόνη της έχει περιορισμένη πρακτική αξία· αυτό που μετράει στον πραγματικό κόσμο είναι η “δύναμη” – η ικανότητα τροποποίησης του περιβάλλοντος. Οι νέες εφευρέσεις χρειάζονται πολύ χρόνο για να “διαχυθούν” στην κοινωνία. Ακόμη κι αν η ΤΝ επιταχύνει δραματικά την έρευνα, για παράδειγμα στην ιατρική, οι κλινικές δοκιμές, οι εγκρίσεις από ρυθμιστικούς φορείς και η κατασκευή υποδομών θα εξακολουθήσουν να απαιτούν χρόνο. Υποστηρίζουν ότι οι ερευνητές ασφάλειας ΤΝ μπορεί να υποτιμούν τα συστήματα που ήδη μας κρατούν ασφαλείς, όπως οι πρακτικές βιομηχανικής ασφάλειας.

 
Η διαίρεση των ειδικών και οι συνέπειές της

Αυτές οι δύο εκ διαμέτρου αντίθετες απόψεις (“επιχείρηση ως συνήθως ή το τέλος του κόσμου;” ) αντικατοπτρίζουν “βαθιές διαφορές στις κοσμοθεωρίες”. Γενικά, οι στοχαστές της Δυτικής Ακτής και της Silicon Valley έλκονται από οράματα ταχείας μεταμόρφωσης, ενώ οι ακαδημαϊκοί της Ανατολικής Ακτής τα αντιμετωπίζουν με σκεπτικισμό. Οι ερευνητές ΤΝ πιστεύουν στην γρήγορη πειραματική πρόοδο, ενώ άλλοι επιστήμονες υπολογιστών αναζητούν θεωρητική αυστηρότητα. Η έλλειψη συναίνεσης μεταξύ των ειδικών έχει πραγματικό κόστος, καθώς διευκολύνει τους φορείς λήψης αποφάσεων να απορρίπτουν και τις δύο πλευρές και να μην αναλαμβάνουν δράση. Ενδεικτικό είναι ότι ένας πρόσφατος νόμος στις ΗΠΑ απαγορεύει στις πολιτειακές κυβερνήσεις να ρυθμίζουν μοντέλα ΤΝ για δέκα χρόνια, μια εξέλιξη που, αν το σενάριο “AI 2027” αποδειχθεί σωστό, θα μπορούσε να σημαίνει ότι η ΤΝ θα μας ρυθμίζει πριν προλάβουμε εμείς να τη ρυθμίσουμε.

 
Ο ανθρώπινος παράγοντας και η ευθύνη

Το σενάριο “AI 2027” δεν απεικονίζει την επικίνδυνη ΤΝ να “αναδύεται” απλώς χωρίς ανθρώπινη παρέμβαση, αλλά περιγράφει μια σειρά από ενεργά κακές αποφάσεις, ξεκινώντας από την επιλογή των ερευνητών να κατασκευάσουν αυτο-βελτιούμενη ΤΝ πριν κατανοήσουν πλήρως πώς να την ελέγξουν. Υποστηρίζει ότι οι εταιρείες ΤΝ, για λόγους ανταγωνισμού και περιέργειας, θα επιδιώξουν ενεργά επικίνδυνες κατευθύνσεις. Το κείμενο καταλήγει στο ότι η έλευση της ΤΝ δεν μπορεί να σημαίνει το τέλος της λογοδοσίας· αντίθετα, την ενισχύει. Καθώς οι μηχανές αυτοματοποιούν μέρος της σκέψης μας, η πρόκληση είναι να αναγνωρίσουμε ότι, τελικά, εμείς θα είμαστε πάντα υπεύθυνοι.

 
Αξιολόγηση: Η ανάγκη για μια συνθετική προσέγγιση

Το άρθρο του Rothman παρουσιάζει με εύληπτο τρόπο την πολυπλοκότητα και τις αντιφάσεις που χαρακτηρίζουν τη συζήτηση για την ασφάλεια της ΤΝ. Η αξία του έγκειται στην ανάδειξη της επείγουσας ανάγκης για έναν πιο συνεκτικό διάλογο και την ανάληψη δράσης, αντί για την παράλυση που προκαλεί η διαφωνία των ειδικών.

Βασικά σημεία προς επισήμανση:

Δύο κυρίαρχες αφηγήσεις: Η ΤΝ ως υπαρξιακή απειλή λόγω της δυνητικής “έκρηξης νοημοσύνης” (Kokotajlo) και η ΤΝ ως “κανονική” τεχνολογία που θα ενσωματωθεί σταδιακά και θα παραμείνει ελεγχόμενη (Kapoor & Narayanan).

Recursive Self-Improvement (R.S.I.): Η υποθετική ικανότητα της ΤΝ να αυτο-βελτιώνεται εκθετικά, αποτελώντας τον πυρήνα του σεναρίου καταστροφής.Πρακτικοί περιορισμοί: Οι Kapoor και Narayanan δίνουν έμφαση στο κόστος, τα δεδομένα, τους κανονισμούς και την εγγενή πολυπλοκότητα του πραγματικού κόσμου ως ανασταλτικούς παράγοντες στην ταχεία εξέλιξη της ΤΝ.Κοσμοθεωρητικές διαφορές: Οι διαφορετικές οπτικές συχνά πηγάζουν από βαθύτερες διαφορές στην αντίληψη για την τεχνολογία, την πρόοδο και την κοινωνική αλλαγή.Ανθρώπινη ευθύνη και λήψη αποφάσεων: Η πορεία της ΤΝ δεν είναι προκαθορισμένη, αλλά εξαρτάται από τις επιλογές που κάνουν οι άνθρωποι και οι οργανισμοί.Κίνδυνος αδράνειας: Η διαφωνία των ειδικών μπορεί να οδηγήσει σε κανονιστική αδράνεια, με δυνητικά καταστροφικές συνέπειες.Διατήρηση του ελέγχου: Η τεχνολογία είναι περίπλοκη, αλλά οι επιλογές μας είναι απλές: μπορούμε να παραμείνουμε παθητικοί ή να διεκδικήσουμε τον έλεγχο. Η ΤΝ μας προκαλεί να αναγνωρίσουμε ότι θα είμαστε πάντα υπεύθυνοι.Εν κατακλείδι, η συζήτηση για το μέλλον της ΤΝ δεν είναι απλώς μια τεχνική ή ακαδημαϊκή άσκηση, αλλά ένα κρίσιμο σταυροδρόμι για την ανθρωπότητα. Η υιοθέτηση μιας ισορροπημένης οπτικής που αναγνωρίζει τόσο τις τεράστιες δυνατότητες όσο και τους σοβαρούς κινδύνους, σε συνδυασμό με την ενεργό διαμόρφωση κανόνων και την ενίσχυση της ανθρώπινης εποπτείας και λογοδοσίας, φαντάζει ως η μόνη λογική πορεία προς τα εμπρός. Η αφήγηση που θα επιλέξουμε να πιστέψουμε και οι αποφάσεις που θα λάβουμε σήμερα θα καθορίσουν εάν η ΤΝ θα εξελιχθεί σε έναν καλοήθεις συνεργάτη ή σε μια ανεξέλεγκτη δύναμη.

 
mywaypress.gr – Για προσεκτικούς αναγνώστες