Φως στο μαύρο κουτί του AI

Plus: Αποκλειστικό: Το GenAI βρίσκεται ακόμα στα “πρώιμα στάδια” του

 
Οι επιστήμονες ανοίγουν το μαύρο κουτί της τεχνητής νοημοσύνης και αρχίζουν να κατανοούν την εσωτερική λειτουργία των μοντέλων.

Γιατί έχει σημασία: Η προοπτική αξιοποίησης του genAI για τη λήψη αποφάσεων και την εκτέλεση εργασιών ωθεί τους ερευνητές να κατανοήσουν καλύτερα πώς λειτουργούν τα συστήματα τεχνητής νοημοσύνης — και πώς μπορεί να ελέγχονται.

• «Δεν μπορούμε να βασίσουμε ολόκληρη την κατανόησή μας για τα [μεγάλα γλωσσικά μοντέλα] μόνο στις εισόδους και τις εξόδους τους», λέει η Marissa Connor, ερευνήτρια μηχανικής μάθησης στο Ινστιτούτο Μηχανικής Λογισμικού στο Πανεπιστήμιο Carnegie Mellon.
• «Εάν βασίζεστε σε μοντέλα τεχνητής νοημοσύνης για να δουλέψετε σε καταστάσεις υψηλού αντίκτυπου – όπως η διάγνωση ιατρικών παθήσεων – τότε είναι σημαντικό να κατανοήσετε γιατί έχουν συγκεκριμένο αποτέλεσμα».

Ενημερωθείτε γρήγορα: Σε αντίθεση με τα προγράμματα υπολογιστών που χρησιμοποιούν ένα σύνολο κανόνων για να παράγουν την ίδια έξοδο κάθε φορά που τους δίνεται μία είσοδος, τα μοντέλα genAI βρίσκουν μοτίβα σε τεράστιες ποσότητες δεδομένων και παράγουν πολλαπλές πιθανές απαντήσεις από μία μόνο είσοδο.

• Η εσωτερική μηχανική του τρόπου με τον οποίο ένα μοντέλο τεχνητής νοημοσύνης φτάνει σε αυτές τις απαντήσεις δεν είναι ορατή, με αποτέλεσμα πολλοί ερευνητές να τις περιγράψουν ως συστήματα «μαύρου κουτιού».
• Είναι σημαντικό να εξετάσουμε το μοντέλο του μαύρου κουτιού και να “κατανοήσουμε την προκατάληψη του μοντέλου, να κατανοήσουμε τη λήψη αποφάσεων για το μοντέλο και να διασφαλίσουμε την ασφαλή απόδοση του συστήματος”, λέει η Connor.

Μεγέθυνση: Ένας τρόπος με τον οποίο οι ερευνητές της τεχνητής νοημοσύνης προσπαθούν να καταλάβουν πώς λειτουργούν τα μοντέλα είναι εξετάζοντας τους συνδυασμούς τεχνητών νευρώνων που ενεργοποιούνται στο νευρωνικό δίκτυο ενός μοντέλου τεχνητής νοημοσύνης όταν ένας χρήστης εισάγει μια είσοδο.

• Αυτοί οι συνδυασμοί, που αναφέρονται ως «χαρακτηριστικά», σχετίζονται με διαφορετικά μέρη, ανθρώπους, αντικείμενα και έννοιες.
• Οι ερευνητές στο Anthropic χρησιμοποίησαν αυτή τη μέθοδο για να χαρτογραφήσουν ένα στρώμα του νευρωνικού δικτύου μέσα στο μοντέλο Claude Sonnet και εντόπισαν διαφορετικά χαρακτηριστικά για τους ανθρώπους (για παράδειγμα, τον Άλμπερτ Αϊνστάιν) ή έννοιες όπως «εσωτερική σύγκρουση».
• Βρήκαν ότι ορισμένα χαρακτηριστικά εντοπίζονται κοντά σε σχετικούς όρους: Για παράδειγμα, το χαρακτηριστικό “εσωτερική σύγκρουση” είναι κοντά σε χαρακτηριστικά που σχετίζονται με διάλυση σχέσεων, αντικρουόμενες δεσμεύσεις και την έννοια του catch-22.
• Όταν οι ερευνητές χειρίστηκαν τα χαρακτηριστικά, οι απαντήσεις του μοντέλου άλλαξαν, ανοίγοντας τη δυνατότητα χρήσης χαρακτηριστικών για την καθοδήγηση της συμπεριφοράς ενός μοντέλου.

Το OpenAI εξέτασε παρομοίως ένα επίπεδο κοντά στο τέλος του δικτύου GPT-4 και βρήκε 16 εκατομμύρια χαρακτηριστικά, τα οποία «μοιάζουν με το μικρό σύνολο εννοιών που μπορεί να έχει στο μυαλό του κάποιος όταν συλλογίζεται μια κατάσταση», ανέφερε η εταιρεία σε μια ανάρτηση. σχετικά με το έργο.

• Βρήκαν χαρακτηριστικά που σχετίζονται με ρητορικές ερωτήσεις, αυξήσεις τιμών και ανθρώπινη ατέλεια και ανέπτυξαν νέες μετρήσεις για την αξιολόγηση χαρακτηριστικών.

Ναι, αλλά: Τα έγγραφα από το OpenAI και το Anthropic αναγνωρίζουν ότι είναι νωρίς για την εργασία, ειδικά για το πώς μπορεί να εφαρμοστεί στην ασφάλεια της τεχνητής νοημοσύνης.

• Ένα ζήτημα που επισημάνθηκε με το OpenAI είναι η δυσκολία ερμηνείας πολλών χαρακτηριστικών επειδή δεν έχουν σαφές μοτίβο ή υπάρχουν ψευδείς ενεργοποιήσεις των νευρώνων.
• Και ενώ η έρευνα εξετάζει μεγαλύτερα μοντέλα γλώσσας από την προηγούμενη εργασία, εξετάζει μόνο ένα κομμάτι από αυτά τα τεράστια μοντέλα και αποτυπώνει ένα κλάσμα των εννοιών που αντιπροσωπεύονται στα δισεκατομμύρια νευρώνες ενός μοντέλου που ενεργοποιούνται στα πολλά επίπεδα ενός δικτύου.

Το πιο πρόσφατο: Η Google DeepMind προσπάθησε να αντιμετωπίσει αυτόν τον περιορισμό στην πρόσφατη κυκλοφορία του Gemma Scope, ενός εργαλείου που εξετάζει όλα τα επίπεδα σε μια έκδοση του μοντέλου Gemma της εταιρείας, καλύπτοντας 30 εκατομμύρια χαρακτηριστικά.

Η μεγάλη εικόνα:Τα άγνωστα σχετικά με το τι συμβαίνει σε ένα μεγάλο γλωσσικό μοντέλο μεταξύ εισόδου και εξόδου απηχούν παρατηρήσεις σε άλλους τομείς της επιστήμης όπου υπάρχει μια «ανεξήγητη μέση», λέει ο Peter Lee, πρόεδρος της Microsoft Research.

• Στη βιολογία, υπάρχει μια κατανόηση του DNA – συμπεριλαμβανομένης της θεμελιώδης φυσικής που κρύβεται πίσω από τη χημεία του – και περιγραφές των συμπεριφορών των ζώων, των μικροβίων, των φυτών και των ανθρώπων. Αλλά ενδιάμεσα βρίσκονται μερικά από τα μεγαλύτερα και πιο περίπλοκα ερωτήματα της βιολογίας, όπως το πώς οι γενετικές, μοριακές και περιβαλλοντικές διεργασίες διαμορφώνουν την ανάπτυξη ενός κυττάρου.

«Ο ισχυρισμός μου θα ήταν ότι η γενετική τεχνητή νοημοσύνη δημιούργησε για τους επιστήμονες ένα άλλο παράδειγμα τέτοιου είδους προβλήματος», λέει ο Lee.

• «Γνωρίζουμε με αυξανόμενη ακρίβεια μερικούς από τους πολύ βασικούς μηχανισμούς», λέει. Και στη συνέχεια, από την άλλη άκρη, “λαμβάνουμε όλο και περισσότερη εμπειρία χρησιμοποιώντας πραγματικά συστήματα AI.”
• Αλλά υπάρχει κάτι στη μέση: «Γιατί σε μια συγκεκριμένη κλίμακα το μοντέλο πηγαίνει από το να μην καταλαβαίνει τι είναι και τι δεν είναι αστείο στο να ξέρει ξαφνικά τι είναι και τι δεν είναι αστείο;»

Τι να παρακολουθήσετε: Το ερώτημα για το πώς λειτουργεί ένα μοντέλο οδηγεί στον τρόπο αξιολόγησης του, και αυτό από μόνο του έχει γίνει κύριος στόχος της έρευνας.

• Με το genAI, “τώρα, για πρώτη φορά, επιτρέπουμε στον εαυτό μας να φαντασιώνουμε τη δυνατότητα των υπολογιστών να κάνουν εργασία υψηλής εξειδίκευσης”, λέει ο Lee. Αυτό το είδος δουλειάς, προσθέτει, δεν έχει να κάνει με την επίτευξη της τελειότητας αλλά να είσαι αποτελεσματικός και αξιόπιστος.
• Ενώ υπάρχει αυξημένη κατανόηση των υποκείμενων μαθηματικών για το πώς λειτουργούν τα συστήματα τεχνητής νοημοσύνης έναντι συγκεκριμένων σημείων αναφοράς, η αξιολόγηση της δουλειάς τους “αρχίζει να στρέφεται περισσότερο προς την κατεύθυνση του πώς αξιολογούμε ένα άτομο που προσλαμβάνουμε για να το κάνει;”

Η ουσία: Στο τέλος της ημέρας, λέει ο Lee, ο τρόπος αξιολόγησης ενός μοντέλου AI είναι «τόσο μυστηριώδης όσο και ο τρόπος αξιολόγησης ενός ανθρώπου».

 
Αποκλειστικό: Το GenAI βρίσκεται ακόμα στα “πρώιμα στάδια” του

Σχεδόν 4 στις 5 από τις εταιρείες που καταδύονται απροσδόκητα στη γενετική τεχνητή νοημοσύνη βλέπουν θετική απόδοση της επένδυσής τους, σύμφωνα με τα αποτελέσματα μιας νέας μελέτης του ServiceNow, η οποία μοιράστηκε πρώτα με την Axios.

Γιατί έχει σημασία: Οι επιχειρήσεις δέχονται τεράστια πίεση για να αποδείξουν ότι δεν χάνουν την επανάσταση της τεχνητής νοημοσύνης, αλλά πολλές εταιρείες έχουν αγωνιστεί να περάσουν από τα πειράματα στην πλήρη χρήση της τεχνολογίας.

Με τους αριθμούς: Στον εναρκτήριο Δείκτη Ωριμότητας AI, το ServiceNow ερεύνησε σχεδόν 4.500 ερωτηθέντες από 21 χώρες και διαπίστωσε ότι οι περισσότερες εταιρείες βρίσκονται ακόμα στα πρώτα στάδια της υιοθέτησης της γενετικής τεχνητής νοημοσύνης.

• Αυτό που χώριζε τις εταιρείες που η ServiceNow χαρακτήρισε ως «βηματοδότες» ήταν ότι δεν πειραματίζονται απλώς με διαφορετικές τεχνολογίες τεχνητής νοημοσύνης, αλλά εξετάζουν επίσης αλλαγές στις προσλήψεις, τις επιχειρηματικές διαδικασίες και την εκπαίδευση των εργαζομένων.

Τι λένε: «Δεν υπάρχει υποκατάστατο για την ηγεσία», λέει στο Axios ο Chief Customer Officer του ServiceNow, Chris Bedi. «Πρέπει να μπορείς να σηκωθείς μπροστά στην ομάδα σου και να πεις, «να πώς θα εξελιχθούν οι ρόλοι σου σε έναν κόσμο που είναι πρώτος στην τεχνητή νοημοσύνη».

Ναι, αλλά: Το να είσαι βηματοδότης σήμερα δεν σημαίνει ότι θα αναπτύξεις τα δικά σου μοντέλα τεχνητής νοημοσύνης ή θα επανασχεδιάσεις τις επιχειρηματικές διαδικασίες από την αρχή.

• Οι εταιρείες μπορούν να κερδίσουν ώθηση αξιοποιώντας πλήρως τις επενδύσεις που έχουν ήδη κάνει οι υπάρχοντες κατασκευαστές λογισμικού στην τεχνητή νοημοσύνη — άτομα όπως η Salesforce, η Microsoft, η Google και η Adobe.
• “Η τεχνητή νοημοσύνη είναι αναπόφευκτη. Είναι μια από αυτές τις στιγμές και τους τεχνολογικούς μετασχηματισμούς. Είναι ένα “πότε” και όχι ένα “αν”, είπε ο Bedi.

 Πηγή: axios.com