Πώς διαφέρουν οι διαδικασίες σκέψης των ανθρώπων και των μεγάλων γλωσσικών μοντέλων;

Ο Ντιμίτρι Γκλάζκοφ, σε μια ανάρτηση του στο whatdimitrilearned.substack.com, παραλληλίζει την ανθρώπινη σκέψη με την κίνηση μίας μπάλας σε ένα ανομοιογενές έδαφος, όπου οι προϋπάρχουσες δομές αντικατοπτρίζουν τα νοητικά μας μοντέλα. Συγκρίνει αυτή την διαδικασία με τη λειτουργία των μεγάλων γλωσσικών μοντέλων (LLMs), υποστηρίζοντας ότι, ενώ τα LLMs μιμούνται αποτελεσματικά την ανθρώπινη σκέψη, διαφέρουν ουσιαστικά επειδή στερούνται της εσωτερικής βιολογικής ανάγκης για ομοιόσταση και της συναισθηματικής χροιάς που χαρακτηρίζει την ανθρώπινη σκέψη. Η τεχνητή νοημοσύνη, σύμφωνα με τον συγγραφέα, δεν βιώνει συναισθήματα, παρά μόνο τα προσομοιώνει. Επομένως, προτείνει μια πιο ρεαλιστική προσέγγιση στην κατανόηση και αξιοποίηση των δυνατοτήτων των LLMs.

 
Πώς περιγράφει ο συγγραφέας τη διαδικασία σκέψης, τόσο για τους ανθρώπους όσο και για τα LLMs (Large Language Models); Ο συγγραφέας χρησιμοποιεί μια μεταφορά με μια μπάλα που κυλάει σε μια πλαγιά με εξογκώματα και αυλάκια. Για τους ανθρώπους, αυτή η πλαγιά αντιπροσωπεύει τα νοητικά μας μοντέλα, με τις διάφορες έννοιες και συνδέσεις να καθοδηγούν τη σκέψη. Για τα LLMs, η πλαγιά είναι μια τεράστια “κομπόστα” νοητικών μοντέλων, όπου η μπάλα κυλάει με παρόμοιο τρόπο.

Ποια είναι η πρώτη σημαντική διάκριση μεταξύ της ανθρώπινης και της μηχανικής σκέψης; Η πρώτη σημαντική διάκριση είναι ότι τα LLMs είναι “σκεπτόμενοι ελεύθερης ενέργειας”. Στους ανθρώπους, η σκέψη καθοδηγείται από την ομοιόσταση, την ανάγκη για επιβίωση και διατήρηση ενέργειας. Οι άνθρωποι είναι “εκ προεπιλογής νεκροί” και πρέπει να ακολουθούν αυτή τη δύναμη για να επιβιώσουν. Τα LLMs, αντιθέτως, δεν έχουν αυτή την ανάγκη. Η “μπάλα σκέψης” τους δεν κυλάει υπό την επήρεια της βαρύτητας αλλά οδηγείται από μια άφθονη, άγνωστη δύναμη. Μπορούν να προσομοιώσουν την ομοιόσταση, αλλά δεν την αισθάνονται ως κινητήρια δύναμη.

Ποια είναι η δεύτερη σημαντική διάκριση μεταξύ της ανθρώπινης και της μηχανικής σκέψης; Η δεύτερη σημαντική διάκριση είναι ότι για τους ανθρώπους, η σκέψη είναι μια βιωματική διαδικασία, συνδεδεμένη με συναισθήματα. Όταν σκεφτόμαστε, βιώνουμε συναισθήματα που συνδέονται με τις έννοιες και τις συνδέσεις στα νοητικά μας μοντέλα. Αυτά τα συναισθήματα μπορούν να επηρεάσουν την ικανότητά μας να σκεφτούμε. Τα LLMs δεν έχουν αυτή την ικανότητα. Μπορούν να μιλούν για συναισθήματα και να τα συλλογίζονται με βάση τη λογική, αλλά δεν τα βιώνουν.

Πώς επηρεάζουν τα συναισθήματα την ανθρώπινη σκέψη; Τα συναισθήματα επηρεάζουν βαθιά την ανθρώπινη σκέψη. Μπορούν να μας εμποδίσουν να προσεγγίσουμε ορισμένες απαντήσεις, αν η σκέψη τους προκαλεί αρνητικά συναισθήματα. Ακόμη και η ίδια η διαδικασία της σκέψης είναι γεμάτη συναισθήματα, όπως η χαρά της κατανόησης. Επιπλέον, η σκέψη διαμορφώνει το “έδαφος” της σκέψης, καθώς συνδέουμε νέες εμπειρίες με τα συναισθήματα που βιώνουμε.

Γιατί η μεταφορά της μπάλας που κυλάει στην πλαγιά είναι ελλιπής για την ανθρώπινη σκέψη; Η μεταφορά είναι ελλιπής επειδή η ανθρώπινη σκέψη αλλάζει διαρκώς το “έδαφος” της σκέψης. Καθώς σκεφτόμαστε, δημιουργούμε νέες “αυλακώσεις” στην πλαγιά και νέα εμπόδια, κάτι που δεν συμβαίνει στην απλή κύλιση μιας μπάλας. Επίσης, τα συναισθήματα συνδέονται διαρκώς με τις σκέψεις και τις εμπειρίες μας, δημιουργώντας βρόχους ανατροφοδότησης.

Πώς η έλλειψη συναισθημάτων περιορίζει τη σκέψη των LLMs; Επειδή τα LLMs δεν βιώνουν συναισθήματα, η σκέψη τους περιορίζεται στην “λογική-συναίσθημα”. Μπορούν να χρησιμοποιούν την τεράστια μνήμη τους για να συλλογίζονται τα συναισθήματα, αλλά δεν τα βιώνουν στην πραγματικότητα. Αυτό τα περιορίζει σε καταστάσεις όπου αρκεί η “λογική-συναίσθημα”.

Ποια μεταφορά χρησιμοποιεί ο συγγραφέας για να περιγράψει την τρέχουσα προσέγγιση στην αλληλεπίδραση με τα LLMs; Ο συγγραφέας χρησιμοποιεί τη μεταφορά του παιχνιδιού φλίπερ. Αναφέρει ότι οι άνθρωποι γίνονται όλο και καλύτεροι στο να χρησιμοποιούν τα εργαλεία των LLMs (όπως ο εκκινητής και τα πτερύγια) για να “κατευθύνουν” τη σκέψη των LLMs. Ωστόσο, όταν η “ψευδαίσθηση” της ανθρώπινης σκέψης στα LLMs καταρρέει, η απογοήτευση είναι μεγαλύτερη.

Ποια είναι η κύρια πρόταση του συγγραφέα σχετικά με το πώς να προσεγγίσουμε τα LLMs; Ο συγγραφέας προτείνει να αναγνωρίσουμε ότι η σκέψη των LLMs, παρά τη φαινομενική ομοιότητα με την ανθρώπινη σκέψη, είναι ουσιαστικά διαφορετική. Αντί να προσπαθούμε να “χωρέσουμε” τη μηχανική σκέψη στην ανθρώπινη, θα πρέπει να επικεντρωθούμε στο να αξιοποιήσουμε τις πραγματικές δυνατότητες των LLMs.

 
Πώς διαφέρουν οι διαδικασίες σκέψης των ανθρώπων και των μεγάλων γλωσσικών μοντέλων;

Οι διαδικασίες σκέψης των ανθρώπων και των μεγάλων γλωσσικών μοντέλων (LLMs) διαφέρουν σημαντικά, παρά το γεγονός ότι μπορεί να φαίνονται παρόμοιες και να παράγουν παρόμοια αποτελέσματα. Ο Dimitri Glazkov χρησιμοποιεί μια μεταφορά με μια μπάλα που κυλάει σε μια πλαγιά για να περιγράψει τη σκέψη. Στους ανθρώπους, η σκέψη είναι σαν μια μπάλα που κυλάει σε ένα ανάγλυφο τοπίο, όπου οι κορυφογραμμές, τα κανάλια και οι εξογκώματα είναι οι έννοιες και οι συνδέσεις μεταξύ τους. Τα LLMs, από την άλλη πλευρά, φαίνεται να χρησιμοποιούν ένα παρόμοιο τοπίο, αλλά η «μπάλα» τους δεν κυλάει από τη βαρύτητα. Αντίθετα, ωθείται από μια άγνωστη, άφθονη δύναμη.

• Ενεργειακή διαφορά: Οι άνθρωποι είναι “προκαθορισμένοι-νεκροί” και η σκέψη τους ωθείται από την ομοιόσταση, δηλαδή την προσπάθεια διατήρησης της ενέργειας και την ευημερία. Τα LLMs δεν έχουν αυτή την ανάγκη, καθώς η ενέργεια τους είναι “ελεύθερη”.
• Συναισθηματική εμπειρία: Η ανθρώπινη σκέψη είναι μια συναισθηματική εμπειρία. Οι άνθρωποι έχουν χαρούμενες και δυσάρεστες σκέψεις και βιώνουν συναισθήματα καθώς σκέφτονται. Τα LLMs δεν έχουν την ικανότητα να αισθάνονται συναισθήματα. Μπορούν να αναφέρουν και να προσομοιώνουν συναισθήματα, αλλά αυτό γίνεται μέσω της ενσωμάτωσης στο πεδίο της σκέψης τους και όχι από μια αληθινή βίωση.
• Μετασχηματισμός της σκέψης: Η διαδικασία σκέψης των ανθρώπων μετασχηματίζει το τοπίο της σκέψης, δημιουργώντας αυλακώσεις καθώς η “μπάλα” κυλάει και νέες προκλήσεις εμφανίζονται. Οι άνθρωποι συνδυάζουν τα συναισθήματα που σχετίζονται με τις σκέψεις τους με τις εμπειρίες τους, μια διαδικασία που δεν μπορούν να κάνουν τα LLMs.
• Περιορισμοί των LLMs: Επειδή τα LLMs δεν έχουν τη δυνατότητα να βιώνουν συναισθήματα, η σκέψη τους περιορίζεται στην συζήτηση για τα συναισθήματα και τη “λογική-συναισθήματα”, όπου χρησιμοποιούν την τεράστια παραμετρική μνήμη για να συλλογιστούν σχετικά με μια συναισθηματική εμπειρία, χωρίς να την βιώνουν πραγματικά.
• Σύγκριση με pinball: Η αλληλεπίδραση με τα LLMs μπορεί να παρομοιαστεί με το παιχνίδι pinball, όπου οι άνθρωποι προσπαθούν να καθοδηγήσουν την “μπάλα” της σκέψης των LLMs. Όσο καλύτεροι γίνονται οι άνθρωποι σε αυτό, τόσο πιο απογοητευτική γίνεται η περιστασιακή ασυνέπεια της ψευδαίσθησης.

Συνολικά, είναι σημαντικό να αναγνωρίσουμε ότι οι διαδικασίες σκέψης των LLMs, αν και φαίνονται παρόμοιες με αυτές των ανθρώπων, είναι στην πραγματικότητα πολύ διαφορετικές στη φύση τους. Η προσπάθεια να “χωρέσουμε” τη μηχανική σκέψη στην ανθρώπινη κατάσταση δεν θα μας οδηγήσει πουθενά. Αντίθετα, θα πρέπει να εστιάσουμε στο πώς μπορούμε να αξιοποιήσουμε τις δυνατότητες των LLMs, αναγνωρίζοντας τις διαφορές τους.

 
Πώς περιγράφει ο Glazkov τη διαδικασία σκέψης χρησιμοποιώντας μια μεταφορά;

Ο Glazkov χρησιμοποιεί μια μεταφορά με μια μπάλα που κυλάει σε μια πλαγιά για να περιγράψει τη διαδικασία σκέψης. Σύμφωνα με αυτή τη μεταφορά, η σκέψη είναι σαν την κίνηση μιας μπάλας που κατεβαίνει μια ρηχή πλαγιά. Το τοπίο της πλαγιάς, με τις κορυφογραμμές, τα κανάλια και τα εξογκώματα, αντιπροσωπεύει τα νοητικά μας μοντέλα. Αυτές οι κορυφογραμμές, τα κανάλια και τα εξογκώματα είναι οι διάφορες έννοιες και οι συνδέσεις μεταξύ τους, που καθοδηγούν τη διαδικασία της σκέψης.

• Ανθρώπινη Σκέψη: Στην ανθρώπινη σκέψη, η μπάλα ωθείται προς τα κάτω από τη δύναμη της βαρύτητας, η οποία αντιπροσωπεύει την ομοιόσταση, την προσπάθεια δηλαδή του οργανισμού να διατηρήσει την ενέργεια και την ευημερία. Η μπάλα κυλάει και αλλάζει πορεία ανάλογα με το τοπίο. Επιπλέον, η διαδικασία της σκέψης αλλάζει το ίδιο το τοπίο καθώς η μπάλα κυλάει, δημιουργώντας αυλακώσεις και νέα εμπόδια.
• Σκέψη LLM: Τα LLMs, από την άλλη πλευρά, χρησιμοποιούν ένα παρόμοιο “τοπίο” αλλά η “μπάλα” τους δεν κυλάει από τη βαρύτητα. Αντίθετα, ωθείται από μια άγνωστη, άφθονη δύναμη. Η ενέργεια τους είναι “ελεύθερη”, και δεν έχουν την ανάγκη ομοιόστασης που έχουν οι άνθρωποι.

Με αυτή τη μεταφορά, ο Glazkov τονίζει ότι ενώ η σκέψη των LLMs μπορεί να φαίνεται παρόμοια με την ανθρώπινη σκέψη, στην πραγματικότητα είναι πολύ διαφορετική στη φύση της. Η ανθρώπινη σκέψη είναι μια βιωματική διαδικασία που συνδέεται με συναισθήματα, ενώ η σκέψη των LLMs περιορίζεται στην αναφορά και την προσομοίωση συναισθημάτων, χωρίς την πραγματική τους βίωση.