Συνέντευξη Hassabis (Google): Κίνδυνοι και διλήμματα της AI
Σε μια συνέντευξη με το axios.com , ο Διευθύνων Σύμβουλος της Google DeepMind, Demis Hassabis, προειδοποιεί για τους κινδύνους μιας κούρσας στην τεχνητή νοημοσύνη, τονίζοντας την ανάγκη για διεθνή συνεργασία και κανόνες για τη διασφάλιση της ασφάλειας της τεχνολογίας. Ο Hassabis υπογραμμίζει ότι η έλλειψη συμφωνίας μεταξύ των εθνών, όπως φάνηκε στην πρόσφατη σύνοδο κορυφής στο Παρίσι, θέτει προκλήσεις στην αποτελεσματική ρύθμιση της ΤΝ. Επισημαίνει επίσης τη σημασία της συμμετοχής μιας ποικιλίας φωνών στην ανάπτυξη και την εφαρμογή της ΤΝ για την αποφυγή ακούσιων συνεπειών. Ενώ υποστηρίζει την ανοικτή πηγή, ο Hassabis εκφράζει ανησυχίες σχετικά με την πιθανότητα κακόβουλων δράσεων που χρησιμοποιούν γενικής χρήσης τεχνολογία για επιβλαβείς σκοπούς. Τέλος, υπογραμμίζει την ανάγκη για περισσότερη συζήτηση σχετικά με τις κοινωνικές αλλαγές που θα επιφέρει η ΤΝ, ακόμη και αν η τεχνολογία αναπτυχθεί με ασφάλεια.
- Γιατί ο Demis Hassabis ανησυχεί για την ανάπτυξη της τεχνητής νοημοσύνης;
Ο Demis Hassabis ανησυχεί ότι η ανάπτυξη της τεχνητής νοημοσύνης, ιδιαίτερα καθώς πλησιάζουμε στην Τεχνητή Γενική Νοημοσύνη (AGI), γίνεται μια κούρσα, γεγονός που καθιστά δυσκολότερο να διασφαλιστεί ότι η τεχνολογία παραμένει ασφαλής. Επισημαίνει ότι η έλλειψη διεθνούς συνεργασίας, όπως φαίνεται από τις δυσκολίες στην επίτευξη συμφωνίας για την κλιματική αλλαγή και τις αντιρρήσεις στην υπογραφή δεσμευτικών συμφωνιών για την ασφάλεια της τεχνητής νοημοσύνης, θα μπορούσε να οδηγήσει σε επικίνδυνο ανταγωνισμό μεταξύ των εθνών.
- Τι σημαίνει ο Hassabis όταν αναφέρεται στην Τεχνητή Γενική Νοημοσύνη (AGI);
Όταν ο Hassabis αναφέρεται στην Τεχνητή Γενική Νοημοσύνη (AGI), εννοεί προηγμένα συστήματα τεχνητής νοημοσύνης που μπορούν να εκτελούν ένα ευρύ φάσμα εργασιών ταχύτερα και καλύτερα από τους ανθρώπους. Αυτό σηματοδοτεί ένα σημαντικό άλμα από τα σημερινά συστήματα τεχνητής νοημοσύνης, τα οποία είναι συχνά εξειδικευμένα σε συγκεκριμένες εργασίες.
- Γιατί είναι σημαντική η διεθνής συνεργασία στην ανάπτυξη και ρύθμιση της τεχνητής νοημοσύνης, σύμφωνα με τον Hassabis;
Η διεθνής συνεργασία είναι ζωτικής σημασίας, σύμφωνα με τον Hassabis, επειδή οι κανόνες για τον έλεγχο της τεχνητής νοημοσύνης λειτουργούν μόνο όταν οι περισσότερες χώρες συμφωνούν σε αυτούς. Χωρίς διεθνή συνεργασία, υπάρχει κίνδυνος ανταγωνισμού μεταξύ των εθνών, γεγονός που θα μπορούσε να υπονομεύσει τις προσπάθειες για την ασφαλή και υπεύθυνη ανάπτυξη και εφαρμογή της τεχνολογίας.
- Ποια είναι η θέση του Hassabis σχετικά με την ανοικτή πηγή τεχνητής νοημοσύνης (open source AI);
Ο Hassabis υποστηρίζει την ανοικτή επιστήμη και την ανοικτή πηγή τεχνητής νοημοσύνης, αναγνωρίζοντας ότι επιταχύνει την πρόοδο. Η Google έχει διαθέσει ανοικτά πολλά από τα επιτεύγματά της, όπως οι transformers και το AlphaGo. Ωστόσο, αναγνωρίζει επίσης το ηθικό δίλημμα που δημιουργεί η ανοικτή πηγή: πώς να εμποδιστούν κακόβουλοι δράστες να χρησιμοποιήσουν την τεχνολογία για επιβλαβείς σκοπούς.
- Γιατί ο Hassabis πιστεύει ότι η διαφορετικότητα είναι σημαντική στις ομάδες ανάπτυξης της τεχνητής νοημοσύνης;
Ο Hassabis τονίζει ότι η διαφορετικότητα στις ομάδες ανάπτυξης της τεχνητής νοημοσύνης οδηγεί σε καλύτερα ερευνητικά αποτελέσματα. Η ποικιλία σκέψης είναι “καλά αποδεδειγμένη στην επιστήμη και στην έρευνα”. Επιπλέον, η ύπαρξη ποικίλων φωνών όταν πρόκειται για την εφαρμογή τεχνολογιών είναι ακόμη πιο κρίσιμη, “επειδή τότε επηρεάζονται οι ζωές των ανθρώπων” και είναι σημαντικό “να έχουν λόγο” οι άνθρωποι που επηρεάζονται.
- Ποια είναι η μεγαλύτερη ανησυχία του Hassabis σχετικά με τα ισχυρά συστήματα τεχνητής νοημοσύνης (“agentic systems”);
Η μεγαλύτερη ανησυχία του Hassabis σχετικά με τα ισχυρά συστήματα τεχνητής νοημοσύνης είναι ότι, ενώ θα είναι πιο χρήσιμα οικονομικά και επιστημονικά, θα γίνουν επίσης “ακόμη πιο ισχυρά στα λάθος χέρια”. Αυτό υπογραμμίζει τον κίνδυνο κατάχρησης γενικής χρήσης τεχνολογίας για επιβλαβείς σκοπούς.
- Τι είδους συζήτηση πιστεύει ο Hassabis ότι πρέπει να γίνει σχετικά με το μέλλον μετά την AGI;
Ο Hassabis πιστεύει ότι χρειάζεται να αφιερωθεί περισσότερος χρόνος από οικονομολόγους, φιλοσόφους και κοινωνικούς επιστήμονες στο πώς θέλουμε να είναι ο κόσμος, ακόμη και αν καταφέρουμε τα πάντα σωστά μετά την AGI. Εκπλήσσεται που δεν υπάρχει μεγάλη συζήτηση σχετικά με αυτό, δεδομένων των σχετικά σύντομων χρονοδιαγραμμάτων.
- Ποιους θεωρεί ο Hassabis απαραίτητους για τη συνεργασία στην ανάπτυξη και ρύθμιση της τεχνητής νοημοσύνης;
Ο Hassabis θεωρεί ότι είναι απαραίτητη η συνεργασία μεταξύ κυβερνήσεων, εταιρειών, ακαδημαϊκών και της κοινωνίας των πολιτών για την ασφαλή ανάπτυξη και ρύθμιση της τεχνητής νοημοσύνης. Υπογραμμίζει ότι “είναι πολύ σημαντικό για να εργάζεται μόνο ένα σύνολο ανθρώπων σε αυτό” και ότι “θα απαιτηθεί να έρθουν όλοι μαζί – ελπίζουμε, έγκαιρα”.
Ποιες είναι οι κύριες προκλήσεις που επισημαίνονται για τη διεθνή συνεργασία στην ασφάλεια της τεχνητής νοημοσύνης;
Οι κύριες προκλήσεις που επισημαίνονται για τη διεθνή συνεργασία στην ασφάλεια της τεχνητής νοημοσύνης είναι οι εξής:
- Η δυσκολία επίτευξης συμφωνίας μεταξύ των εθνών, καθώς φαίνεται να υπάρχει μειωμένη διάθεση για συνεργασία σε παγκόσμια θέματα, όπως φαίνεται και από το παράδειγμα της κλιματικής αλλαγής.
- Η άρνηση των ΗΠΑ και του Ηνωμένου Βασιλείου να υπογράψουν κοινή δήλωση για την ασφάλεια της τεχνητής νοημοσύνης στην Σύνοδο του Παρισιού, η οποία ήδη είχε επικριθεί για έλλειψη δεσμευτικών δεσμεύσεων.
- Ο αυξανόμενος ανταγωνισμός μεταξύ των εθνών, καθώς η τεχνητή νοημοσύνη πλησιάζει την τεχνητή γενική νοημοσύνη (AGI), καθιστώντας απαραίτητη τη θέσπιση διεθνών κανόνων και προτύπων.
- Η ανάγκη για συμμετοχή κυβερνήσεων, εταιρειών, ακαδημαϊκών και της κοινωνίας των πολιτών στη δημιουργία διεθνούς συνεργασίας.
- Ο ηθικός προβληματισμός σχετικά με το πώς θα αποτραπεί η κακή χρήση της τεχνολογίας τεχνητής νοημοσύνης από κακόβουλους παράγοντες, ιδίως με τη διάδοση της τεχνητής νοημοσύνης ανοιχτού κώδικα.
- Η διασφάλιση της συμμετοχής μιας ποικιλόμορφης ομάδας ανθρώπων στην ανάπτυξη και την εφαρμογή της τεχνητής νοημοσύνης, ώστε να λαμβάνονται υπόψη οι ανάγκες και οι ανησυχίες όλων των ανθρώπων που επηρεάζονται από αυτές τις τεχνολογίες.
- Η ανάγκη για περισσότερη συζήτηση από οικονομολόγους, φιλοσόφους και κοινωνικούς επιστήμονες σχετικά με το πώς θα είναι ο κόσμος μετά την AGI, ακόμη και αν η ανάπτυξη της τεχνητής νοημοσύνης είναι ασφαλής.
Ποια είναι η άποψη του Χασάμπις για την διεθνή συνεργασία;
Ο Demis Hassabis πιστεύει ότι η διεθνής συνεργασία είναι απαραίτητη για τη διαχείριση της τεχνητής νοημοσύνης, αλλά είναι απαισιόδοξος σχετικά με τις προοπτικές της.
Συγκεκριμένα, ο Hassabis:
- Επισημαίνει τη δυσκολία επίτευξης διεθνούς συμφωνίας για τον έλεγχο της τεχνητής νοημοσύνης, αναφέροντας την έλλειψη συνεργασίας σε παγκόσμια θέματα όπως η κλιματική αλλαγή.
- Τονίζει ότι οι κανόνες για τον έλεγχο της τεχνητής νοημοσύνης είναι αποτελεσματικοί μόνο όταν συμφωνούν οι περισσότερες χώρες, κάτι που γίνεται ολοένα και πιο δύσκολο.
- Προειδοποιεί ότι η ανάγκη για κανόνες και πρότυπα αυξάνεται καθώς ο κόσμος πλησιάζει την τεχνητή γενική νοημοσύνη (AGI), και ότι χωρίς διεθνή συνεργασία θα υπάρξει ανταγωνισμός μεταξύ των εθνών.
- Προτείνει ότι η διεθνής συνεργασία πρέπει να περιλαμβάνει κυβερνήσεις, εταιρείες, ακαδημαϊκούς και την κοινωνία των πολιτών.
- Επισημαίνει την ανάγκη για μια ποικιλόμορφη ομάδα ανθρώπων να συμμετέχουν στην ανάπτυξη της τεχνητής νοημοσύνης, καθώς αυτό είναι κρίσιμο όταν οι τεχνολογίες επηρεάζουν τις ζωές των ανθρώπων.
- Εκφράζει ανησυχίες σχετικά με το πώς θα αποτραπεί η κακή χρήση της τεχνητής νοημοσύνης από κακόβουλους παράγοντες, ιδίως με τη διάδοση της τεχνητής νοημοσύνης ανοιχτού κώδικα.
- Τονίζει την ανάγκη για περισσότερη συζήτηση από οικονομολόγους, φιλοσόφους και κοινωνικούς επιστήμονες σχετικά με το πώς θα είναι ο κόσμος μετά την AGI, ακόμη και αν η ανάπτυξη της τεχνητής νοημοσύνης είναι ασφαλής.
Τι πιστεύει ο Χασάμπις για την ποικιλομορφία στην ανάπτυξη της Τεχνητής Νοημοσύνης;
Ο Demis Hassabis πιστεύει ότι η ποικιλομορφία είναι σημαντική στην ανάπτυξη της Τεχνητής Νοημοσύνης (AI) για δύο βασικούς λόγους:
- Καλύτερη επιστημονική έρευνα: Η ύπαρξη μιας μεγάλης ποικιλίας σκέψεων στην ομάδα βελτιώνει τις ερευνητικές εξελίξεις. Αυτό έχει αποδειχθεί στην επιστήμη και την έρευνα.
- Καλύτερη εφαρμογή τεχνολογιών: Η ποικιλομορφία είναι ακόμη πιο κρίσιμη όταν οι τεχνολογίες εφαρμόζονται, επειδή τότε επηρεάζουν τις ζωές των ανθρώπων. Είναι σημαντικό οι άνθρωποι που επηρεάζονται να έχουν λόγο στον τρόπο με τον οποίο αναπτύσσονται αυτές οι τεχνολογίες.
Παρά την αναγνώριση της σημασίας της ποικιλομορφίας, ο Hassabis σημειώνει ότι οι εταιρείες, συμπεριλαμβανομένης της Google, απομακρύνονται από τα προγράμματά τους για τη διαφοροποίηση του εργατικού δυναμικού τους, το οποίο παραμένει σε μεγάλο βαθμό λευκό και ανδρικό.
Γιατί ο Χασάμπις ανησυχεί για την ανοιχτή πηγή AI;
Ο Demis Hassabis ανησυχεί για την τεχνητή νοημοσύνη ανοιχτού κώδικα (open source AI) επειδή εγείρει ένα θεμελιώδες ηθικό δίλημμα: “Πώς μπορείτε να σταματήσετε τους κακούς παράγοντες να επαναπροσδιορίσουν την τεχνολογία γενικής χρήσης για επιβλαβείς σκοπούς;”. Αναλυτικότερα, ο Hassabis ανησυχεί ότι:
- Ισχυρά συστήματα θα κατασκευαστούν επειδή θα είναι πιο χρήσιμα, οικονομικά και επιστημονικά.
- Αυτά τα συστήματα, όμως, θα γίνουν ακόμα πιο ισχυρά στα λάθος χέρια.
Ο Hassabis αναγνωρίζει ότι η Google είναι υπέρμαχος της ανοιχτής επιστήμης και της ανοιχτής πηγής, έχοντας ανοίξει πολλές καινοτομίες στο παρελθόν. Παραδέχεται επίσης ότι η ανοιχτή πηγή AI επιταχύνει την πρόοδο. Ωστόσο, προειδοποιεί ότι η διάδοση της ανοιχτής πηγής AI οξύνει το ηθικό δίλημμα σχετικά με την πιθανή κακή χρήση της τεχνολογίας.
Γιατί η AGI αυξάνει την ανάγκη για κανόνες;
Η Τεχνητή Γενική Νοημοσύνη (AGI) αυξάνει την ανάγκη για κανόνες επειδή τα προηγμένα συστήματα AI που μπορούν να εκτελούν ένα ευρύ φάσμα εργασιών γρηγορότερα και καλύτερα από τους ανθρώπους, καθιστώντας απαραίτητη τη θέσπιση διεθνών κανόνων και προτύπων. Ο Demis Hassabis προειδοποιεί ότι χωρίς διεθνή συνεργασία θα υπάρξει ανταγωνισμός μεταξύ των εθνών καθώς η τεχνητή νοημοσύνη πλησιάζει την AGI.
Επιπλέον, η δημιουργία ισχυρών συστημάτων που βασίζονται στην AGI, δημιουργεί και ανησυχίες για πιθανή κακή χρήση τους από κακόβουλους παράγοντες. Ο Hassabis ανησυχεί συγκεκριμένα για το πώς θα αποτραπεί η επαναχρησιμοποίηση της τεχνολογίας γενικής χρήσης για επιβλαβείς σκοπούς, ιδίως με τη διάδοση της τεχνητής νοημοσύνης ανοιχτού κώδικα.
