Ο πρώην CEO της Google προειδοποιεί για την αποσύνδεση της αυτοβελτιωμένης τεχνητής νοημοσύνης

Η κύρια ανησυχία του Eric Schmidt είναι ότι όταν ένα σύστημα τεχνητής νοημοσύνης φτάσει στο σημείο να αυτοβελτιώνεται, ίσως πρέπει να εξετάσουμε το ενδεχόμενο να το απενεργοποιήσουμε λόγω των απρόβλεπτων κινδύνων.

 
Όταν ο Schmidt αναφέρεται στο “αυτοβελτιώνονται”, εννοεί την ικανότητα ενός συστήματος τεχνητής νοημοσύνης να αναβαθμίζει μόνο του τις δυνατότητές του χωρίς την άμεση ανθρώπινη παρέμβαση.

 
Ο πρώην CEO της Google, Eric Schmidt, (βλέπε axios.com) προειδοποιεί για τους κινδύνους της ταχείας ανάπτυξης της τεχνητής νοημοσύνης, υποστηρίζοντας ότι συστήματα που μπορούν να βελτιώνονται μόνα τους ενδέχεται να χρειαστεί να απενεργοποιηθούν. Η γρήγορη πρόοδος στον τομέα προκαλεί ανησυχίες για την έλλειψη ρύθμισης και τον πιθανό ανταγωνισμό με την Κίνα. Ο Schmidt υπογραμμίζει την ανάγκη για δυτική κυριαρχία στον τομέα και προτείνει την δημιουργία συστημάτων παρακολούθησης της τεχνητής νοημοσύνης από άλλα συστήματα τεχνητής νοημοσύνης, δεδομένου ότι η ανθρώπινη εποπτεία είναι ανεπαρκής. Η τάχιστη εξέλιξη φέρνει συστήματα με ικανότητες συγκρίσιμες με αυτές ενός διδάκτορα ήδη εντός του επόμενου έτους, σύμφωνα με προβλέψεις. Η προειδοποίηση τονίζει την επείγουσα ανάγκη για προσεκτική διαχείριση και στρατηγική αντιμετώπιση της τεχνητής νοημοσύνης.

 
Γιατί ο πρώην CEO της Google, Eric Schmidt, προειδοποιεί για την ανάγκη να “αποσυνδέσουμε” συστήματα ΤΝ;

Ο Eric Schmidt προειδοποιεί ότι όταν ένα σύστημα υπολογιστών φτάσει σε σημείο να αυτο-βελτιώνεται, είναι σημαντικό να σκεφτούμε σοβαρά να το αποσυνδέσουμε. Αυτό οφείλεται στην ανησυχία ότι τέτοια συστήματα θα μπορούσαν να λειτουργήσουν αυτόνομα και να λαμβάνουν αποφάσεις, κάτι που θα μπορούσε να έχει απρόβλεπτες και δυνητικά επικίνδυνες συνέπειες. Ο ίδιος θεωρεί πως “πρέπει να έχουμε κάποιον με το χέρι στην πρίζα”.

 
Πόσο κοντά είμαστε σε συστήματα ΤΝ που μπορούν να αυτοβελτιωθούν;

Σύμφωνα με ορισμένους ειδικούς, τα συστήματα που μπορούν να λαμβάνουν δικές τους αποφάσεις μπορεί να είναι διαθέσιμα σε δύο έως τέσσερα χρόνια. Υπάρχει επίσης μια γενική συναίνεση ότι τα πιο ισχυρά μοντέλα ΤΝ θα μπορούσαν να έχουν την νοημοσύνη ενός διδακτορικού φοιτητή πολύ σύντομα, ίσως και τον επόμενο χρόνο. Επιπλέον, σε ένα ή δύο χρόνια, τα συστήματα ενδέχεται να είναι ικανά να διεξάγουν δική τους έρευνα.

 
Ποιοι είναι οι κύριοι κίνδυνοι της ταχείας ανάπτυξης της γενετικής ΤΝ;

Οι κύριοι κίνδυνοι περιλαμβάνουν την απρόβλεπτη συμπεριφορά των συστημάτων που αυτοβελτιώνονται και την πιθανότητα αυτά τα συστήματα να λάβουν αποφάσεις με ανεπιθύμητες συνέπειες. Υπάρχει επίσης ανησυχία σχετικά με την ισχύ που θα δοθεί σε κάθε άτομο, καθώς και για την άγνωστη επίδραση που θα έχει αυτό. Επιπλέον, πολλοί ειδικοί έχουν προειδοποιήσει για τους κινδύνους που εγκυμονεί η βιαστική ανάπτυξη της γενετικής ΤΝ.

 
Τι σημαίνει η αναφορά του Schmidt στην ιδέα ότι “κάθε άτομο θα έχει έναν πολύμαθο στην τσέπη του”;

Αυτή η αναφορά υπονοεί ότι η προηγμένη ΤΝ θα γίνει τόσο προσιτή και ισχυρή ώστε κάθε άτομο θα μπορεί να έχει πρόσβαση σε ένα εργαλείο που θα είναι σαν ένας ειδικός σε πολλούς τομείς, μέσα από το κινητό του τηλέφωνο. Ενώ αυτό μπορεί να έχει θετικές εφαρμογές, ο Schmidt επισημαίνει ότι δεν γνωρίζουμε τις συνέπειες του να δοθεί τέτοια δύναμη σε κάθε άτομο.

 
Γιατί ο Schmidt θεωρεί σημαντικό να “κερδίσει η Δύση” την κούρσα της ΤΝ;

Ο Schmidt πιστεύει ότι είναι ζωτικής σημασίας για τη Δύση να κερδίσει την παγκόσμια κούρσα της ΤΝ, ιδίως σε σχέση με την Κίνα. Αυτό υποδηλώνει την ανησυχία του για το ποιος θα έχει τον έλεγχο και την επίδραση της τεχνολογίας. Θεωρεί ότι η δυτική κυριαρχία στον τομέα της ΤΝ είναι κρίσιμη για την παγκόσμια ισορροπία και ευημερία.

 
Τι προτείνει ο Schmidt για τον έλεγχο και την εποπτεία των συστημάτων ΤΝ;

Ο Schmidt προτείνει δύο βασικά βήματα: Πρώτον, να διασφαλιστεί ότι η Δύση θα πρωτοστατήσει στην ανάπτυξη της ΤΝ, μέσω χρηματοδότησης, υλικού και ανθρώπινου δυναμικού. Δεύτερον, να δημιουργηθεί ένα δεύτερο σύστημα ΤΝ που θα παρακολουθεί το πρώτο, καθώς θεωρεί ότι οι άνθρωποι δεν θα μπορούν να ελέγξουν τα συστήματα ΤΝ μόνη τους. Τα συστήματα ΤΝ όμως θα είναι σε θέση να αλληλοπαρακολουθούνται.

 
Ποια είναι η κατάσταση των ρυθμιστικών πλαισίων σχετικά με την ΤΝ;

Οι ρυθμίσεις για την ΤΝ βρίσκονται σε ρευστή κατάσταση. Υπάρχουν συζητήσεις για την ρύθμιση στο Καπιτώλιο, αλλά αυτές βρίσκονται σε αδιέξοδο καθώς η θητεία του τρέχοντος Κογκρέσου πλησιάζει στο τέλος της. Εν τω μεταξύ, οι εταιρείες προχωρούν γρήγορα με την ανάπτυξη της ΤΝ. Αυτό δείχνει ότι οι ρυθμιστικές προσπάθειες δεν συμβαδίζουν με την ταχεία πρόοδο στην ΤΝ.

 
Πώς η εξέλιξη της ΤΝ έχει επηρεάσει την ανταγωνιστικότητα μεταξύ των ΗΠΑ και της Κίνας;

Ο Schmidt αναφέρει ότι στο παρελθόν η αμερικανική τεχνολογία ήταν μερικά χρόνια μπροστά από την Κίνα, αλλά τους τελευταίους έξι μήνες η Κίνα έχει καλύψει αυτή τη διαφορά με αξιοσημείωτο τρόπο. Αυτό δείχνει ότι η κούρσα για την κυριαρχία στην ΤΝ είναι ιδιαίτερα ανταγωνιστική και ότι η Κίνα έχει σημειώσει σημαντική πρόοδο.

 
Γλωσσάρι

• Τεχνητή Νοημοσύνη (AI): Κλάδος της επιστήμης των υπολογιστών που ασχολείται με τη δημιουργία έξυπνων μηχανών που μπορούν να εκτελούν εργασίες που συνήθως απαιτούν ανθρώπινη νοημοσύνη.
• Αυτοβελτίωση: Η ικανότητα ενός συστήματος τεχνητής νοημοσύνης να αναβαθμίζει τις δικές του ικανότητες και επιδόσεις χωρίς άμεση ανθρώπινη παρέμβαση.
• Γενετική Τεχνητή Νοημοσύνη: Ένας τύπος τεχνητής νοημοσύνης που μπορεί να δημιουργήσει νέο περιεχόμενο, όπως κείμενο, εικόνες, μουσική κ.λπ.
• Πολυμαθής: Ένα άτομο με ευρύ φάσμα γνώσεων και εμπειρίας σε πολλούς τομείς.
• Παγκόσμιος Ανταγωνισμός: Η ανταγωνιστική προσπάθεια μεταξύ διαφορετικών εθνών ή περιοχών για να αποκτήσουν ηγετική θέση σε έναν συγκεκριμένο τομέα, όπως η τεχνητή νοημοσύνη.
• Αστυνόμευση της Τεχνητής Νοημοσύνης: Η διαδικασία παρακολούθησης και ελέγχου των συστημάτων τεχνητής νοημοσύνης για την πρόληψη κακόβουλων ενεργειών και την εξασφάλιση της σωστής και ασφαλούς χρήσης της.
• Χέρι στην Πρίζα: Η μεταφορική αναπαράσταση της δυνατότητας ενός ανθρώπου να σταματήσει ή να απενεργοποιήσει ένα σύστημα τεχνητής νοημοσύνης αν αυτό καταστεί απαραίτητο.
• Κεφάλαιο Χρηματοδότησης, Υλικό και Ανθρώπινο Δυναμικό: Οι βασικοί πόροι που απαιτούνται για την προώθηση της ανάπτυξης και της έρευνας στον τομέα της τεχνητής νοημοσύνης.
• Συστήματα Παρακολούθησης: Ένα δευτερεύον σύστημα που χρησιμοποιείται για την επιτήρηση και τον έλεγχο της δραστηριότητας ενός άλλου συστήματος, ιδιαίτερα σε περιπτώσεις πιθανών κινδύνων.
• Κούρσα Τεχνητής Νοημοσύνης: Η παγκόσμια προσπάθεια των χωρών και των εταιρειών για να αναπτύξουν και να κυριαρχήσουν στον τομέα της τεχνητής νοημοσύνης.