Η απόφαση που δεν πήρες ποτέ

Ανάλυση βασισμένη σε άρθρο του Rahim Hirji

 
Σε έναν κόσμο που βρίθει επιλογών, πόσες από τις καθημερινές μας αποφάσεις είναι πραγματικά δικές μας; Ο Rahim Hirji, στο άρθρο του “The Decision You Never Made”, αποκαλύπτει μια αόρατη αρχιτεκτονική που διαμορφώνει τη ζωή μας: το σύστημα των «προεπιλογών» (defaults). Μέσα από την ιστορία της Payal, μιας έμπειρης συμβούλου της οποίας το βιογραφικό αγνοήθηκε από αλγοριθμικά συστήματα προσλήψεων, ο Hirji αναδεικνύει μια ανησυχητική πραγματικότητα: οι πιο κρίσιμες αποφάσεις για την καριέρα, τη γνώση, ακόμα και τις καθημερινές μας διαδρομές, λαμβάνονται πολύ πριν εμείς κληθούμε να επιλέξουμε. Δεν πρόκειται για ένα ελαττωματικό σύστημα, αλλά για ένα σύστημα που λειτουργεί άψογα προς όφελος εκείνων που ορίζουν τους κανόνες του.

 
Η αόρατη αρχιτεκτονική της εξουσίας: Η «αλγοκρατία»

Ο Hirji υποστηρίζει ότι έχουμε εισέλθει σε μια εποχή «Αλγοκρατίας», δηλαδή κυριαρχίας των αλγορίθμων, όπου τα συστήματα που διέπουν τη ζωή μας λειτουργούν εκτός δημοκρατικού ελέγχου. Σε αντίθεση με τις φυσικές προεπιλογές του παρελθόντος, όπως οι πινακίδες κυκλοφορίας ή οι λαβές στις πόρτες, που σχεδιάζονταν από επιτροπές και μπορούσαν να αλλάξουν μέσω δημόσιου διαλόγου, οι σημερινοί αλγόριθμοι τίθενται από μηχανικούς και product managers με στόχο την αύξηση της αλληλεπίδρασης και του κέρδους.

Αυτή η νέα μορφή διακυβέρνησης οικοδομείται πάνω σε αυτό που ο συγγραφέας ονομάζει “The Default Stack” (Η Στοίβα των Προεπιλογών). Πρόκειται για μια πολυεπίπεδη δομή που ξεκινά από τις εργοστασιακές ρυθμίσεις των συσκευών, συνεχίζει με το λειτουργικό σύστημα (iOS vs Android), τις εφαρμογές (Gmail, Maps), τους αλγόριθμους (ροές ειδήσεων, προτάσεις) και φτάνει μέχρι τα συστήματα τεχνητής νοημοσύνης που πλέον δεν επιμελούνται απλώς, αλλά παράγουν τις σκέψεις μας. Κάθε επίπεδο από μόνο του μοιάζει ασήμαντο, αλλά συνδυαστικά δημιουργούν μια πραγματικότητα όπου οι επιλογές μας έχουν ήδη προκαθοριστεί.

• Οικονομία: Η Google πληρώνει δισεκατομμύρια στην Apple για να είναι η προεπιλεγμένη μηχανή αναζήτησης στο iPhone, όχι επειδή είναι η καλύτερη, αλλά επειδή σχεδόν κανείς δεν αλλάζει τις προεπιλογές. Κάθε προεπιλογή είναι ένας οικονομικός αγωγός που μετατρέπει την ανθρώπινη αναβλητικότητα σε κέρδος.
• Ψυχαγωγία: Τέσσερις στις πέντε ώρες παρακολούθησης στο Netflix προέρχονται από προτάσεις των αλγορίθμων, όχι από αναζήτηση του χρήστη. Ο στόχος δεν είναι η ικανοποίηση του θεατή, αλλά η μεγιστοποίηση του χρόνου παραμονής στην πλατφόρμα.
• Καθημερινότητα: Το Gmail αποφασίζει ποια email είναι σημαντικά, οι Χάρτες προτείνουν την ταχύτερη διαδρομή, όχι την ασφαλέστερη ή την πιο όμορφη, και οι εφαρμογές delivery προωθούν εστιατόρια που πληρώνουν για διαφήμιση.

Αυτοματοποιημένη προκατάληψη και η εκχώρηση της σκέψης

Μια από τις πιο επικίνδυνες πτυχές της Αλγοκρατίας είναι ότι δεν εξαλείφει την ανθρώπινη προκατάληψη, αλλά την αυτοματοποιεί και την κλιμακώνει. Ο Hirji παραθέτει ανησυχητικά παραδείγματα από κρίσιμους τομείς:

• Απασχόληση: Ένα σύστημα προσλήψεων της Amazon τιμωρούσε βιογραφικά που περιείχαν τη λέξη «γυναικών».
• Οικονομία: Ορισμένα μοντέλα πιστοληπτικής αξιολόγησης θεωρούν τους χρήστες Android ή εκείνους με λογαριασμούς Yahoo/Hotmail ως πιο ριψοκίνδυνους.
• Δικαιοσύνη: Ένας αλγόριθμος για την αποφυλάκιση με εγγύηση στο Νιου Τζέρσεϊ μείωσε τον πληθυσμό των φυλακών, αλλά η φυλετική ανισορροπία των κρατουμένων παρέμεινε σχεδόν αμετάβλητη.

Παράλληλα, οι προεπιλογές αναδιαμορφώνουν τον ίδιο τον τρόπο σκέψης μας. Το φαινόμενο της «γνωστικής εκφόρτωσης» (cognitive offloading), η ανάθεση δηλαδή της πνευματικής προσπάθειας σε εξωτερικά εργαλεία, γίνεται ο κανόνας. Η αντανακλαστική προσφυγή σε ΑΙ όπως το ChatGPT ή το Gemini για να συνοψίσουμε ένα κείμενο ή να συντάξουμε ένα email, μας εξοικονομεί χρόνο, αλλά ταυτόχρονα μας στερεί την προσπάθεια της σκέψης. Όταν αρκετοί από εμάς εκχωρούμε τη σκέψη, η συλλογική ικανότητα για κρίση, πρωτοτυπία και φαντασία ατροφεί.

Από την παθητικότητα στην αντίσταση

Ο συγγραφέας τονίζει ότι οι προεπιλογές δεν είναι πεπρωμένο, αλλά σχεδιασμός. Και ο σχεδιασμός μπορεί να ανατραπεί. Ωστόσο, η ατομική αντίσταση, όπως το να απενεργοποιήσει κανείς την αυτόματη αναπαραγωγή, είναι ανεπαρκής. Η πραγματική αλλαγή απαιτεί συλλογικές και δομικές παρεμβάσεις. Ο Hirji προτείνει ένα πλαίσιο αντίστασης που περιλαμβάνει:

1. Διαφάνεια των Προεπιλογών διά Νόμου: Κάθε σύστημα που κατατάσσει, δρομολογεί ή προτείνει θα πρέπει να αποκαλύπτει τι ακριβώς βελτιστοποιεί και ποια δεδομένα χρησιμοποιεί. Η εμπειρία από την Ευρώπη με τον GDPR, που επέβαλε τη ρητή συγκατάθεση για τη συλλογή δεδομένων, δείχνει ότι η ορατότητα μετατοπίζει την εξουσία πίσω στους χρήστες.
2. Το Δικαίωμα στην Τυχαιότητα: Η καθιέρωση ενός προστατευόμενου ποσοστού σε τομείς όπως οι προσλήψεις, ο δανεισμός και η στέγαση, το οποίο θα παρακάμπτει την αλγοριθμική κατάταξη, δίνοντας μια νόμιμη βάση στην απρόβλεπτη ευκαιρία.
3. Ανθρώπινος Καθορισμός Στόχων: Οι κρίσιμοι αλγόριθμοι πρέπει να έχουν στόχους που ορίζονται δημόσια από τους θεσμούς, ώστε οι ηθικές επιλογές να μην είναι κρυμμένες μέσα στον κώδικα.

Η ιστορία της Payal έχει αίσιο τέλος. Βρήκε δουλειά σε μια εταιρεία που είχε ανασχεδιάσει τη διαδικασία προσλήψεων της με «συμπεριληπτικές προεπιλογές», σχεδιασμένες να αναδεικνύουν υποτιμημένους υποψηφίους αντί να τους εξαλείφουν. Η διαφορά, όπως είπε, δεν ήταν η καλύτερη τεχνολογία, αλλά οι καλύτερες ερωτήσεις για το σκοπό που αυτή θα έπρεπε να υπηρετεί.

Ο αγώνας της εποχής μας δεν είναι «άνθρωπος εναντίον μηχανής», αλλά «άνθρωπος εναντίον προεπιλογής». Είναι ο αγώνας για να διασφαλίσουμε ότι τα συστήματα που φτιάχτηκαν για να μας υπηρετούν δεν θα καταλήξουν να μας προγραμματίζουν. Η επιλογή μεταξύ ενός μέλλοντος παθητικής κατανάλωσης και ενός μέλλοντος ενεργούς δράσης είναι ακόμα δική μας, αλλά ο χρόνος για να την κάνουμε λιγοστεύει.

mywaypress.gr –Περιεχόμενο αξίας με την υποστήριξη  υβριδικής νοημοσύνης.

Για  αναγνώστες με μεγάλο εύρος προσοχής.

Με πληροφορίες από boxofamazing.substack.com