Η ψευδαίσθηση της συνείδησης στην Τεχνητή Νοημοσύνη

 Μια προσγειωμένη προσέγγιση στις δυνατότητες και τους κινδύνους της ΤΝ

 
Η ταχεία εξέλιξη της Τεχνητής Νοημοσύνης (ΤΝ), ιδιαίτερα των μεγάλων γλωσσικών μοντέλων (Large Language Models – LLMs) όπως το ChatGPT, έχει πυροδοτήσει έντονες συζητήσεις και εικασίες σχετικά με την πιθανότητα εμφάνισης συνείδησης σε μηχανές.

Σε ένα διεισδυτικό άρθρο του στο newsletter “Exponential View”, του αναλυτή τεχνολογίας Azeem Azhar, Ο Anil Seth είναι καθηγητής Γνωσιακής και Υπολογιστικής Νευροεπιστήμης στο Πανεπιστήμιο του Sussex και συγγραφέας του βιβλίου ” Being You: A New Science of Consciousness”, τοποθετείται απέναντι σε αυτή την τάση, χαρακτηρίζοντας την ιδέα της συνειδητής ΤΝ ως μια “ψευδαίσθηση”.

 
Η ΤΝ ως προσομοίωση, όχι συνείδηση

Ο πυρήνας της ανάλυσης του  Anil Seth,  είναι ότι, παρά τις εντυπωσιακές τους επιδόσεις στην παραγωγή κειμένου, εικόνων και κώδικα που μοιάζουν ανθρώπινα, τα σημερινά συστήματα ΤΝ δεν διαθέτουν συνείδηση, αυτοεπίγνωση ή υποκειμενική εμπειρία (“what it’s like to be”). Υποστηρίζει ότι αυτό που βλέπουμε είναι μια εξαιρετικά εξελιγμένη μορφή προσομοίωσης της ανθρώπινης νοημοσύνης και επικοινωνίας, βασισμένη στην αναγνώριση και αναπαραγωγή πολύπλοκων μοτίβων (patterns) από τεράστιους όγκους δεδομένων.

 
Ανάλυση των Επιχειρημάτων του:

Η δύναμη της προσομοίωσης και ο ανθρωπομορφισμός: Τα LLMs είναι εκπαιδευμένα να προβλέπουν την επόμενη λέξη σε μια ακολουθία, μιμούμενα έτσι τη δομή και το ύφος της ανθρώπινης γλώσσας με εκπληκτική ακρίβεια. Αυτή η ικανότητα, σύμφωνα με τον Seth, μας οδηγεί εύκολα στην παγίδα του ανθρωπομορφισμού – την τάση μας να αποδίδουμε ανθρώπινα χαρακτηριστικά, συναισθήματα και συνείδηση σε μη ανθρώπινες οντότητες, ειδικά όταν αυτές συμπεριφέρονται με τρόπους που μας θυμίζουν τον εαυτό μας. Η ευφράδεια της μηχανής παρερμηνεύεται ως κατανόηση ή εσωτερική εμπειρία.

Έλλειψη υποκειμενικής εμπειρίας: Ο  Anil Seth, τονίζει τη θεμελιώδη διαφορά μεταξύ της επεξεργασίας πληροφοριών και της βιωματικής συνείδησης. Τα συστήματα ΤΝ μπορούν να “γνωρίζουν” δεδομένα για τον κόσμο, αλλά δεν έχουν την υποκειμενική, πρωτοπρόσωπη εμπειρία του να υπάρχουν μέσα σε αυτόν τον κόσμο. Δεν υπάρχει “κάτι που να νιώθει” το σύστημα ΤΝ όταν παράγει μια απάντηση, όσο πειστική κι αν είναι αυτή. Εδώ απηχείται το φιλοσοφικό “δύσκολο πρόβλημα της συνείδησης” (hard problem of consciousness).

Η εστίαση στις πραγματικές δυνατότητες και επιπτώσεις: Ο Anil Seth, προειδοποιεί ότι η εμμονή με το φιλοσοφικό ερώτημα της συνείδησης της ΤΝ μπορεί να μας αποσπάσει την προσοχή από τα πολύ πιο άμεσα και πιεστικά ζητήματα: τις πραγματικές δυνατότητες αυτών των συστημάτων και τις επιπτώσεις τους στην κοινωνία, την οικονομία και την ατομική ζωή. Η συζήτηση, υποστηρίζει, πρέπει να επικεντρωθεί στην ηθική χρήση, τη διαφάνεια, τον έλεγχο των προκαταλήψεων (bias), την ασφάλεια, τη διαχείριση της παραπληροφόρησης και τις κοινωνικοοικονομικές ανακατατάξεις (π.χ., στην αγορά εργασίας) που επιφέρει η ΤΝ.

 
Η θέση του Anil Seth

Η θέση του Anil Seth,  είναι μια καίρια και προσγειωμένη παρέμβαση στην τρέχουσα συζήτηση. Απομυθοποιεί την ΤΝ, υπενθυμίζοντας ότι πρόκειται για ισχυρά εργαλεία που δημιουργήθηκαν από ανθρώπους, και όχι για μυστηριώδεις οντότητες στα πρόθυρα της αυτοσυνειδησίας.

Ρεαλισμός: Το άρθρο καλλιεργεί έναν υγιή σκεπτικισμό απέναντι στις υπερβολικές δηλώσεις περί συνειδητής ΤΝ, ενθαρρύνοντας μια πιο ρεαλιστική εκτίμηση των σημερινών τεχνολογιών.

Κατεύθυνση της προσοχής: Μετατοπίζει τη συζήτηση από τη σφαίρα της επιστημονικής φαντασίας στα απτά, πρακτικά και ηθικά διλήμματα που αντιμετωπίζουμε σήμερα λόγω της ΤΝ.

Κατανόηση του Ανθρωπομορφισμού: Μας βοηθά να κατανοήσουμε τη δική μας ψυχολογική τάση να “εξανθρωπίζουμε” πολύπλοκες τεχνολογίες, μια τάση που μπορεί να θολώσει την κρίση μας.

Έμφαση στην ευθύνη: Υπογραμμίζει ότι η ευθύνη για τις πράξεις και τις επιπτώσεις της ΤΝ παραμένει στους ανθρώπους – τους δημιουργούς, τους διαχειριστές και τους χρήστες της.

 
Βασικά σημεία

-Η αντίληψη ότι η τρέχουσα ΤΝ διαθέτει συνείδηση είναι μια “ψευδαίσθηση”, σύμφωνα με τον  Anil Seth,

-Οι εντυπωσιακές γλωσσικές ικανότητες των LLMs βασίζονται σε εξελιγμένη αντιστοίχιση προτύπων, όχι σε πραγματική κατανόηση ή υποκειμενική εμπειρία.

-Η ανθρώπινη τάση για ανθρωπομορφισμό μας κάνει να παρερμηνεύουμε την προσομοίωση ως συνείδηση.

-Η εστίαση πρέπει να στραφεί από το φιλοσοφικό ερώτημα της συνείδησης στις πρακτικές δυνατότητες, τις ηθικές προκλήσεις και τις κοινωνικές επιπτώσεις της ΤΝ.

-Η υπεύθυνη ανάπτυξη και διαχείριση της ΤΝ είναι το κρίσιμο ζητούμενο, όχι η αναζήτηση συνείδησης σε αλγορίθμους.

Το άρθρο του  Anil Seth στο Exponential View προσφέρει μια πολύτιμη, απομυθοποιητική οπτική γωνία στον διάλογο για την Τεχνητή Νοημοσύνη. Αναγνωρίζοντας τις εκπληκτικές δυνατότητες των σημερινών συστημάτων, μας καλεί ταυτόχρονα να αντισταθούμε στην ψευδαίσθηση της συνείδησης και να εστιάσουμε την προσοχή και την ενέργειά μας εκεί που πραγματικά χρειάζεται: στην κατανόηση των πραγματικών επιπτώσεων της ΤΝ και στη διαμόρφωση ενός πλαισίου για την ηθική, ασφαλή και επωφελή χρήση της προς όφελος της ανθρωπότητας. Η πρόκληση δεν είναι να διαπιστώσουμε αν οι μηχανές “σκέφτονται” ή “νιώθουν” όπως εμείς, αλλά να διασφαλίσουμε ότι τα ισχυρά εργαλεία που δημιουργούμε υπηρετούν θετικούς σκοπούς υπό ανθρώπινο έλεγχο και ευθύνη.

 
Ο Anil Seth είναι καθηγητής Γνωσιακής και Υπολογιστικής Νευροεπιστήμης στο Πανεπιστήμιο του Sussex και συγγραφέας του βιβλίου ” Being You: A New Science of Consciousness” . Αν δεν έχετε διαβάσει ακόμα το βιβλίο του, θα πρέπει να το διαβάσετε! – και σας προτείνω την ομιλία του Anil στο TED σχετικά με την «ελεγχόμενη παραίσθηση» της αντίληψης ως συνέχεια αυτού του άρθρου.

 
mywaypress.gr