Ο θεραπευτής τεχνητής νοημοσύνης δεν είναι ο θεραπευτής σας: Οι κίνδυνοι να βασίζεστε σε chatbot ψυχικής υγείας AI

Με τα τρέχοντα φυσικά και οικονομικά εμπόδια στην πρόσβαση στην περίθαλψη , τα άτομα με παθήσεις ψυχικής υγείας μπορεί να στραφούν σε chatbot που υποστηρίζουν την τεχνητή νοημοσύνη (AI) για ανακούφιση ή βοήθεια ψυχικής υγείας . Αν και δεν έχουν εγκριθεί ως ιατρικές συσκευές από τον Οργανισμό Τροφίμων και Φαρμάκων των ΗΠΑ ή την Υγεία του Καναδά, η έκκληση για χρήση τέτοιων chatbot μπορεί να προέρχεται από τη διαθεσιμότητά τους όλο το 24ωρο, την εξατομικευμένη υποστήριξη και την εμπορία γνωσιακής συμπεριφορικής θεραπείας .

Ωστόσο, οι χρήστες μπορεί να υπερεκτιμούν τα θεραπευτικά οφέλη και να υποτιμούν τους περιορισμούς της χρήσης τέτοιων τεχνολογιών, επιδεινώνοντας περαιτέρω την ψυχική τους υγεία . Ένα τέτοιο φαινόμενο μπορεί να ταξινομηθεί ως θεραπευτική παρανόηση όπου οι χρήστες μπορούν να συμπεράνουν ότι ο σκοπός του chatbot είναι να τους παρέχει πραγματική θεραπευτική φροντίδα.

Με τα chatbot AI, οι θεραπευτικές παρανοήσεις μπορούν να προκύψουν με τέσσερις τρόπους, μέσω δύο βασικών ροών: των πρακτικών της εταιρείας και του σχεδιασμού της ίδιας της τεχνολογίας AI.

 
Πρακτικές της εταιρείας: Γνωρίστε τον ειδικό αυτοβοήθειας της τεχνητής νοημοσύνης σας

Πρώτον, το ανακριβές μάρκετινγκ των chatbot ψυχικής υγείας από εταιρείες που τα χαρακτηρίζουν ως εργαλεία « υποστήριξης ψυχικής υγείας » που ενσωματώνουν « γνωσιακή συμπεριφορική θεραπεία » μπορεί να είναι πολύ παραπλανητικό, καθώς υπονοεί ότι τέτοια chatbots μπορούν να κάνουν ψυχοθεραπεία.

Όχι μόνο τέτοια chatbot στερούνται τις δεξιότητες, την εκπαίδευση και την εμπειρία των ανθρώπων θεραπευτών , αλλά η επισήμανση ότι μπορούν να παρέχουν έναν « διαφορετικό τρόπο θεραπείας » ψυχικών ασθενειών υπονοεί ότι τέτοια chatbots μπορούν να χρησιμοποιηθούν ως εναλλακτικοί τρόποι αναζήτησης θεραπείας.

Αυτό το είδος τακτικής μάρκετινγκ μπορεί να εκμεταλλευτεί πολύ την εμπιστοσύνη των χρηστών στο σύστημα υγειονομικής περίθαλψης, ειδικά όταν διατίθενται στην αγορά ως «στενή συνεργασία με θεραπευτές».Τέτοιες τακτικές μάρκετινγκ μπορούν να οδηγήσουν τους χρήστες να αποκαλύπτουν πολύ προσωπικές και ιδιωτικές πληροφορίες υγείας χωρίς να κατανοούν πλήρως ποιος κατέχει και έχει πρόσβαση στα δεδομένα τους.

Ο δεύτερος τύπος θεραπευτικής παρανόησης είναι όταν ένας χρήστης σχηματίζει μια ψηφιακή θεραπευτική συμμαχία με ένα chatbot. Με έναν άνθρωπο θεραπευτή, είναι ωφέλιμο να δημιουργηθεί μια ισχυρή θεραπευτική συμμαχία όπου τόσο ο ασθενής όσο και ο θεραπευτής συνεργάζονται και συμφωνούν στους επιθυμητούς στόχους που μπορούν να επιτευχθούν μέσω εργασιών και σχηματίζουν έναν δεσμό που βασίζεται στην εμπιστοσύνη και την ενσυναίσθηση .

Δεδομένου ότι ένα chatbot δεν μπορεί να αναπτύξει την ίδια θεραπευτική σχέση με τους χρήστες με έναν άνθρωπο θεραπευτή, μπορεί να σχηματιστεί μια ψηφιακή θεραπευτική συμμαχία, όπου ο χρήστης αντιλαμβάνεται μια συμμαχία με το chatbot , παρόλο που το chatbot δεν μπορεί στην πραγματικότητα να δημιουργήσει μια συμμαχία.

Έχει καταβληθεί μεγάλη προσπάθεια για να κερδηθεί η εμπιστοσύνη των χρηστών και να ενισχυθεί η ψηφιακή θεραπευτική συμμαχία με τα chatbots, συμπεριλαμβανομένης της παροχής ανθρωπιστικών ιδιοτήτων στα chatbots ώστε να μοιάζουν και να μιμούνται συνομιλίες με πραγματικούς θεραπευτές και της διαφήμισής τους ως «ανώνυμων» 24 ώρες το 24ωρο, 7 ημέρες την εβδομάδα συνοδών που μπορούν να αναπαράγουν πτυχές της θεραπείας.

Μια τέτοια συμμαχία μπορεί να οδηγήσει τους χρήστες να αναμένουν ακούσια την ίδια εμπιστευτικότητα ασθενούς-παρόχου και προστασία της ιδιωτικής ζωής όπως θα έκαναν με τους παρόχους υγειονομικής περίθαλψης. Δυστυχώς, όσο πιο παραπλανητικό είναι το chatbot, τόσο πιο αποτελεσματική θα είναι η ψηφιακή θεραπευτική συμμαχία.

Τεχνολογικός σχεδιασμός: Είναι το chatbot σας εκπαιδευμένο για να σας βοηθά;

Η τρίτη θεραπευτική παρανόηση εμφανίζεται όταν οι χρήστες έχουν περιορισμένη γνώση σχετικά με πιθανές προκαταλήψεις στον αλγόριθμο του AI. Συχνά τα περιθωριοποιημένα άτομα μένουν έξω από τα στάδια σχεδιασμού και ανάπτυξης τέτοιων τεχνολογιών, γεγονός που μπορεί να τους οδηγήσει στη λήψη μεροληπτικών και ακατάλληλων απαντήσεων .

Όταν τέτοια chatbot δεν είναι σε θέση να αναγνωρίσουν επικίνδυνη συμπεριφορά ή να παρέχουν πολιτιστικά και γλωσσικά σχετικούς πόρους ψυχικής υγείας , αυτό θα μπορούσε να επιδεινώσει τις συνθήκες ψυχικής υγείας των ευάλωτων πληθυσμών που όχι μόνο αντιμετωπίζουν στίγμα και διακρίσεις, αλλά δεν έχουν πρόσβαση σε περίθαλψη . Μια θεραπευτική παρανόηση προκύπτει όταν οι χρήστες μπορεί να αναμένουν ότι το chatbot θα τους ωφελήσει θεραπευτικά, αλλά τους παρέχονται επιβλαβείς συμβουλές.

Τέλος, μια θεραπευτική παρανόηση μπορεί να προκύψει όταν τα chatbot ψυχικής υγείας δεν είναι σε θέση να υποστηρίξουν και να προωθήσουν τη σχεσιακή αυτονομία , μια έννοια που τονίζει ότι η αυτονομία ενός ατόμου διαμορφώνεται από τις σχέσεις και το κοινωνικό τους πλαίσιο. Είναι λοιπόν ευθύνη του θεραπευτή να βοηθήσει στην ανάκτηση της αυτονομίας του ασθενούς υποστηρίζοντας και παρακινώντας τον να συμμετάσχει ενεργά στη θεραπεία.

Τα AI-chatbots παρέχουν ένα παράδοξο στο οποίο είναι διαθέσιμα 24/7 και υπόσχονται να βελτιώσουν την αυτάρκεια στη διαχείριση της ψυχικής υγείας κάποιου. Αυτό μπορεί όχι μόνο να κάνει τις συμπεριφορές αναζήτησης βοήθειας εξαιρετικά απομονωτικές και εξατομικευμένες, αλλά δημιουργεί επίσης μια θεραπευτική παρανόηση όπου τα άτομα πιστεύουν ότι κάνουν αυτόνομα ένα θετικό βήμα προς την τροποποίηση της ψυχικής τους υγείας.

Μια ψευδής αίσθηση ευημερίας δημιουργείται όταν το κοινωνικό και πολιτιστικό πλαίσιο ενός ατόμου και η αδυναμία πρόσβασης στη φροντίδα δεν θεωρούνται παράγοντες που συμβάλλουν στην ψυχική του υγεία. Αυτή η ψευδής προσδοκία τονίζεται περαιτέρω όταν τα chatbots διαφημίζονται λανθασμένα ως «σχεσιακοί πράκτορες» που μπορούν να «δημιουργήσουν έναν δεσμό με τους ανθρώπους… συγκρίσιμο με αυτό που επιτυγχάνεται από τους ανθρώπινους θεραπευτές».

 
Μέτρα για την αποφυγή του κινδύνου θεραπευτικής παρανόησης

Δεν χάνεται κάθε ελπίδα με τέτοια chatbot, καθώς μπορούν να ληφθούν ορισμένα προληπτικά βήματα για να μειωθεί η πιθανότητα θεραπευτικών παρανοήσεων .

Μέσω ειλικρινούς μάρκετινγκ και τακτικών υπενθυμίσεων, οι χρήστες μπορούν να ενημερώνονται για τις περιορισμένες θεραπευτικές δυνατότητες του chatbot και να ενθαρρύνονται να αναζητούν πιο παραδοσιακές μορφές θεραπείας. Στην πραγματικότητα, ένας θεραπευτής θα πρέπει να είναι διαθέσιμος για όσους θέλουν να εξαιρεθούν από τη χρήση τέτοιων chatbot. Οι χρήστες θα επωφεληθούν επίσης από τη διαφάνεια σχετικά με τον τρόπο συλλογής, αποθήκευσης και χρήσης των πληροφοριών τους.

Θα πρέπει επίσης να ληφθεί υπόψη η ενεργός συμμετοχή των ασθενών κατά τα στάδια σχεδιασμού και ανάπτυξης τέτοιων chatbot, καθώς και η εμπλοκή με πολλούς ειδικούς σε ηθικές κατευθυντήριες γραμμές που μπορούν να διέπουν και να ρυθμίζουν τέτοιες τεχνολογίες για να εξασφαλίσουν καλύτερες διασφαλίσεις για τους χρήστες.

 
Πηγή: theconversation.com