Η Τεχνητή Νοημοσύνη ως ασπίδα της συλλογικής νοημοσύνης: Μια νέα στρατηγική για την παγκόσμια λήψη αποφάσεων
Η έλευση της Τεχνητής Γενικής Νοημοσύνης (AGI) δεν αποτελεί απλώς μια τεχνολογική εξέλιξη, αλλά ένα ορόσημο που απειλεί να «συμπιέσει έναν αιώνα προόδου σε μία μόλις δεκαετία». Σε αυτό το ταχύτατα μεταβαλλόμενο περιβάλλον, η ανθρωπότητα καλείται να λάβει αποφάσεις με το υψηλότερο διακύβευμα στην ιστορία της, έχοντας όμως ελάχιστο χρόνο για να τις σχεδιάσει σωστά.
Το ερώτημα που αναδύεται είναι κρίσιμο: Μπορούμε να χρησιμοποιήσουμε την ίδια την Τεχνητή Νοημοσύνη (ΤΝ) όχι μόνο ως εργαλείο παραγωγικότητας, αλλά ως μέσο για να σκεφτόμαστε πιο καθαρά και να συντονιζόμαστε πιο αποτελεσματικά;.
Το Έλλειμμα της Ανθρώπινης Λήψης Αποφάσεων
Ιστορικά, οι ανθρώπινοι θεσμοί έχουν επιδείξει σημαντικές αδυναμίες σε κρίσιμες στιγμές. Από την καθυστερημένη αντίδραση στην κλιματική αλλαγή και τις προειδοποιήσεις για την πανδημία COVID-19, μέχρι την εμπλοκή σε πολέμους που αργότερα προκάλεσαν μεταμέλεια, το χάσμα μεταξύ των αναγκαίων και των πραγματικών αποφάσεων παραμένει χαώδες.
Οι αιτίες αυτής της αποτυχίας εντοπίζονται σε δύο άξονες:
- Γνωστικά Σφάλματα: Παρερμηνεία γεγονότων ή αδυναμία πρόβλεψης μελλοντικών προκλήσεων.
- Αποτυχία Συντονισμού: Ακόμα και όταν το πρόβλημα είναι γνωστό, η ανθρωπότητα συχνά αδυνατεί να δράσει συλλογικά λόγω αντικρουόμενων συμφερόντων.
Με την ανάπτυξη της προηγμένης ΤΝ, οι κίνδυνοι αυτοί πολλαπλασιάζονται. Ενδέχεται σύντομα να βρεθούμε αντιμέτωποι με αυτόνομους πράκτορες με διαφορετικούς στόχους, μια μετασχηματισμένη αγορά εργασίας και μια γεωπολιτική ένταση για τον έλεγχο της τεχνολογίας, που θα μπορούσε να κλιμακωθεί σε σύρραξη.
Τα Εργαλεία του «Αύριο»: Επιστημολογία και Συντονισμός
Για την πλοήγηση σε αυτό το ασταθές μέλλον, προτείνονται δύο βασικές κατηγορίες εργαλείων ΤΝ που θα μπορούσαν να θωρακίσουν τις κοινωνικές αποφάσεις:
- Επιστημολογικά Εργαλεία (Epistemic Tools)
Στοχεύουν στην κατανόηση της αλήθειας και των πιθανοτήτων:
- Αμερόληπτοι Fact-checkers: Συστήματα ΤΝ που αξιολογούν πληροφορίες πιο αξιόπιστα από τους ανθρώπους, καταπολεμώντας την παραπληροφόρηση.
- Συστήματα Πρόβλεψης: Εργαλεία που βοηθούν τους θεσμούς να μοντελοποιούν τα αποτελέσματα διαφορετικών πολιτικών.
- Ηθικός Συλλογισμός: Πιο πειραματικά εργαλεία που βοηθούν στην επίλυση σύνθετων ηθικών διλημμάτων και στην επίτευξη κοινωνικής συναίνεσης.
- Εργαλεία Συντονισμού (Coordination Tools)
Στοχεύουν στη συλλογική δράση ομάδων με αντικρουόμενα συμφέροντα:
- ΤΝ Διαπραγμάτευσης: Προσομοίωση χιλιάδων ωρών διαπραγματεύσεων για την εξεύρεση αμοιβαία επωφελών συμφωνιών.
- Συστήματα Επαλήθευσης: Αντικειμενική παρακολούθηση της τήρησης συμφωνιών, ξεπερνώντας τα εμπόδια έλλειψης εμπιστοσύνης.
- Δομημένη Διαφάνεια: Ελεγχόμενη ανταλλαγή πληροφοριών που επιτρέπει τον εντοπισμό απειλών χωρίς την παραβίαση της ιδιωτικότητας.
Η Στρατηγική της «Διαφορικής Τεχνολογικής Ανάπτυξης»
Μια κεντρική ιδέα που προβάλλεται είναι η διαφορική τεχνολογική ανάπτυξη (differential technology development). Πρόκειται για την προσπάθεια επιτάχυνσης των τεχνολογιών που προάγουν την ασφάλεια, ώστε αυτές να είναι διαθέσιμες πριν την εμφάνιση πιο επικίνδυνων δυνατοτήτων της ΤΝ.
Όπως η τεχνολογία mRNA υπήρχε από το 2000 αλλά χρειάστηκε μια πανδημία για να αναπτυχθεί πλήρως το 2020, έτσι και τα εργαλεία λήψης αποφάσεων χρειάζονται μια ώθηση τώρα, ώστε να μην φτάσουν «πολύ αργά για να κάνουν τη διαφορά».
Προκλήσεις και το Προφίλ του «Ιδανικού Συμμετέχοντα»
Παρά τις προοπτικές, ο τομέας παραμένει ανώριμος και ενέχει κινδύνους. Υπάρχει ο φόβος ότι η ανάπτυξη αυτών των εργαλείων θα μπορούσε ακούσια να επιταχύνει την επικίνδυνη ΤΝ ή να χρησιμοποιηθούν τα ίδια τα εργαλεία για κακόβουλους σκοπούς.
Για τον λόγο αυτό, η ενασχόληση με αυτόν τον τομέα απαιτεί άτομα:
- Επιχειρηματικά και Καινοτόμα: Καθώς δεν υπάρχουν ακόμα πολλές έτοιμες θέσεις εργασίας.
- Με Ισχυρή Κρίση: Ικανότητα ιεράρχησης έργων που είναι λιγότερο πιθανό να οδηγήσουν σε επικίνδυνες εφαρμογές.
- Δικτυωμένα: Με ενεργή συμμετοχή στην κοινότητα της ασφάλειας της ΤΝ (AI Safety).
Το Παράδειγμα της Jungwon Byun
Μια χαρακτηριστική περίπτωση είναι η Jungwon Byun, η οποία από τον χρηματοπιστωτικό τομέα μεταπήδησε στην ΤΝ, συνιδρύοντας το εργαστήριο Ought και αργότερα το εργαλείο Elicit. Η πορεία της αποδεικνύει ότι η χρήση της ΤΝ για την ενίσχυση της ανθρώπινης γνώσης και λογικής μπορεί να έχει αντίκτυπο σε εκατομμύρια ερευνητές.
…
Η χρήση της ΤΝ για τη βελτίωση των κοινωνικών αποφάσεων είναι ένας δρόμος υψηλού ρίσκου αλλά και υψηλής απόδοσης. Αν και ο τομέας δεν είναι ακόμη ώριμος, μερικές εκατοντάδες διορατικά άτομα θα μπορούσαν να στρώσουν τον δρόμο για μια ανθρωπότητα που δεν θα άγεται και φέρεται από τις εξελίξεις, αλλά θα τις καθοδηγεί.
info
Περισσότερες πληροφορίες για συγκεκριμένες οργανώσεις ή ερευνητικά προγράμματα που δραστηριοποιούνται αυτή τη στιγμή στον τομέα του Cooperative AI ή των epistemic tools
Με βάση τα στοιχεία που περιλαμβάνονται στο δημοσίευμα, υπάρχουν ήδη συγκεκριμένες πρωτοβουλίες και οργανισμοί που ηγούνται της προσπάθειας για τη δημιουργία εργαλείων ενίσχυσης της ανθρώπινης λογικής και συλλογικής δράσης.
Ακολουθούν οι βασικοί φορείς και τα προγράμματα που αναφέρονται:
- Elicit και Ought: Η Εμπροσθοφυλακή των Επιστημολογικών Εργαλείων
Η πιο χαρακτηριστική περίπτωση που αναφέρεται είναι αυτή της Jungwon Byun και του οργανισμού Ought.
- Ought: Ιδρύθηκε το 2019 ως ένα ερευνητικό εργαστήριο με αποκλειστικό σκοπό την κλιμάκωση της «χρηστής λογικής» (good reasoning).
- Elicit: Πρόκειται για ένα εξελιγμένο εργαλείο έρευνας ΤΝ που ξεκίνησε από την Ought και πλέον λειτουργεί ως αυτόνομη εταιρεία δημοσίου οφέλους (public benefit corporation).
- Σκοπός: Το Elicit βοηθά εκατομμύρια ερευνητές να επεξεργάζονται τεράστιους όγκους πληροφοριών, να εξάγουν συνεκτικά συμπεράσματα και να σκέφτονται πιο αποτελεσματικά.
2. Μεγάλοι Τεχνολογικοί Κολοσσοί και “Deep Research”
Αν και το άρθρο σημειώνει ότι η αγορά συχνά υποτιμά αυτά τα εργαλεία, αναγνωρίζει ότι κορυφαίες εταιρείες αναπτύσσουν ήδη σχετικά πρωτόκολλα:
- OpenAI & Google DeepMind: Αναφέρονται για τα εργαλεία “deep research” (βαθιάς έρευνας) που διαθέτουν, τα οποία μπορούν να συνθέτουν πληροφορίες πολύ ταχύτερα από τον ανθρώπινο νου.
- Forethought: Αναφέρεται ως ένας οργανισμός όπου ερευνητές (όπως οι συγγραφείς του σχετικού άρθρου) εργάζονται πάνω στη βελτίωση της λήψης αποφάσεων μέσω ΤΝ.
- Το Πεδίο της “Συνεργατικής ΤΝ” (Cooperative AI)
Υπάρχει μια αυξανόμενη ερευνητική κοινότητα που εστιάζει στον τομέα του Cooperative AI, ο οποίος αναλύεται ως εξής:
- Στόχος: Η διερεύνηση τρόπων με τους οποίους η ΤΝ μπορεί να βελτιώσει τον συντονισμό μεταξύ ομάδων, ακόμη και όταν αυτές έχουν αντικρουόμενα συμφέροντα.
- Εφαρμογές: Ανάπτυξη συστημάτων για αυτόματη διαπραγμάτευση, αμερόληπτη επαλήθευση συμφωνιών και εργαλεία «δομημένης διαφάνειας».
- Πηγές για Περαιτέρω Δικτύωση και Εργασία
Για όσους ενδιαφέρονται να δραστηριοποιηθούν ενεργά, το έγγραφο προτείνει συγκεκριμένα κανάλια:
- 80,000 Hours: Μια πλατφόρμα που παρέχει συμβουλές καριέρας και καθοδήγηση για άτομα που θέλουν να εργαστούν σε τομείς υψηλού αντικτύπου, όπως η ασφάλεια της ΤΝ.
- Εξειδικευμένα Job Boards: Αναφέρεται η ύπαρξη πινάκων θέσεων εργασίας που συγκεντρώνουν ευκαιρίες από οργανισμούς και ερευνητικά έργα που χτίζουν αυτά ακριβώς τα εργαλεία λήψης αποφάσεων.
- Δίκτυα AI Safety: Συνιστάται η σύνδεση με δίκτυα ασφάλειας ΤΝ για την ανταλλαγή ιδεών και τη στρατηγική ιεράρχηση έργων.
Πηγή: 80000hours.org
mywaypress.gr –Περιεχόμενο αξίας με την υποστήριξη υβριδικής νοημοσύνης.
Για αναγνώστες με μεγάλο εύρος προσοχής.
