Πώς η τεχνητή νοημοσύνη θα μπορούσε να πνιγεί στην παλίρροια του περιεχομένου της

Το Διαδίκτυο αρχίζει να γεμίζει με όλο και περισσότερο περιεχόμενο που παράγεται από τεχνητή νοημοσύνη και όχι από ανθρώπινα όντα, θέτοντας περίεργους νέους κινδύνους τόσο για την ανθρώπινη κοινωνία όσο και για τα ίδια τα προγράμματα τεχνητής νοημοσύνης, αναφέρουμε ο Scott Rosenberg του Axios και εγώ .

Τι συμβαίνει: Οι ειδικοί εκτιμούν ότι το περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη θα μπορούσε να αντιπροσωπεύει έως και το 90% των πληροφοριών στο Διαδίκτυο σε λίγα χρόνια, καθώς τα ChatGPT, Dall-E και παρόμοια προγράμματα διαχέουν χειμαρρώδη λόγια και εικόνες σε διαδικτυακούς χώρους.

• Αυτό συμβαίνει σε έναν κόσμο που δεν έχει ακόμη καταλάβει πώς να επισημαίνει αξιόπιστα την παραγωγή που δημιουργείται από την τεχνητή νοημοσύνη και να τη διαφοροποιεί από το περιεχόμενο που δημιουργείται από τον άνθρωπο.

Ο κίνδυνος για την ανθρώπινη κοινωνία είναι το γνωστό πλέον πρόβλημα της υπερφόρτωσης και της υποβάθμισης της πληροφορίας.

• Η τεχνητή νοημοσύνη υπερσυμπιέζει την ικανότητα δημιουργίας νέου περιεχομένου, ενώ υπονομεύει την ικανότητα ελέγχου αυτού του υλικού για αξιοπιστία και ανακυκλώνει τις προκαταλήψεις και τα σφάλματα στα δεδομένα που χρησιμοποιήθηκαν για την εκπαίδευσή του.
• Υπάρχει επίσης ευρέως διαδεδομένος φόβος ότι η τεχνητή νοημοσύνη θα μπορούσε να υπονομεύσει τις θέσεις εργασίας των ανθρώπων που δημιουργούν περιεχόμενο σήμερα, από καλλιτέχνες και καλλιτέχνες μέχρι δημοσιογράφους και εκδότες. Η τρέχουσα απεργία των ηθοποιών και συγγραφέων του Χόλιγουντ υπογραμμίζει αυτόν τον κίνδυνο.

Ο κίνδυνος για την ίδια την τεχνητή νοημοσύνη είναι νεότερος και πιο περίεργος. Μια σειρά από πρόσφατες ερευνητικές εργασίες έχουν εισαγάγει ένα νέο λεξικό πιθανών διαταραχών της τεχνητής νοημοσύνης που μόλις εμφανίζονται καθώς η τεχνολογία αναπτύσσεται και χρησιμοποιείται ευρύτερα.

• “Κατάρρευση μοντέλου “ είναι το όνομα των ερευνητών για το τι συμβαίνει με τα παραγωγικά μοντέλα τεχνητής νοημοσύνης, όπως το GPT-3 και το GPT-4 του OpenAI, όταν εκπαιδεύονται χρησιμοποιώντας δεδομένα που παράγονται από άλλα τεχνητή νοημοσύνη και όχι από ανθρώπινα όντα.
• Τροφοδοτήστε ένα μοντέλο αρκετά από αυτά τα «συνθετικά» δεδομένα και η ποιότητα των απαντήσεων του AI μπορεί να επιδεινωθεί γρήγορα, καθώς τα συστήματα κλειδώνουν τις πιο πιθανές επιλογές λέξεων και απορρίπτουν τις επιλογές «ουράς» που διατηρούν το αποτέλεσμα ενδιαφέρον.
• «Διαταραχή Αυτοφαγίας Μοντέλου » , ή MAD, είναι ο τρόπος με τον οποίο ένα σύνολο ερευνητών στα πανεπιστήμια Rice και Stanford ονόμασαν το αποτέλεσμα της τεχνητής νοημοσύνης που καταναλώνει τα δικά του προϊόντα.
• “Habsburg AI”είναι αυτό που ένας άλλος ερευνητής νωρίτερα φέτος ονόμασε το φαινόμενο, παρομοιάζοντάς το με ενδογαμία : “Ένα σύστημα που είναι τόσο βαριά εκπαιδευμένο στις εξόδους άλλων γενεσιουργών AI που μετατρέπεται σε ενδογαμικό μεταλλαγμένο, πιθανότατα με υπερβολικά, γκροτέσκα χαρακτηριστικά.”

Υπάρχουν πολλοί εφιάλτες ενσωματωμένοι σε αυτό το σενάριο.

• Οι εκδότες, οι εταιρείες πολυμέσων και άλλοι πάροχοι ποιοτικών πληροφοριών – φοβούμενοι ότι το πολύτιμο περιεχόμενό τους θα διαγραφεί από εταιρείες τεχνητής νοημοσύνης – θα μπορούσαν να κρατήσουν περισσότερο από το περιεχόμενό τους εκτός του ιστού ή πίσω από τα paywalls, εξαθλιώνοντας περαιτέρω τη δημόσια σφαίρα. Αυτός είναι μόνο ένας από τους πολλούς κινδύνους που επισημαίνει ο αναλυτής του κλάδου Ray Wang, Διευθύνων Σύμβουλος της Constellation Research, σε ένα αποθαρρυντικό δοκίμιο.
• Η κατανόηση της καταγωγής και της ακρίβειας του περιεχομένου είναι απαραίτητη, είπε ο Wang στο Axios. «Πρέπει να γνωρίζουμε την αρχική πηγή και πρέπει να γνωρίζουμε τα παράγωγα».
• Οι πάροχοι τεχνολογίας είχαν περισσότερη τύχη μέχρι στιγμής με σχέδια για την επισήμανση εικόνων που δημιουργούνται από AIπαρά με τις προσπάθειες αναγνώρισης κειμένου που έχει γραφτεί με AI.

Εν τω μεταξύ, οι πάροχοι τεχνητής νοημοσύνης είναι πιθανό να αντιμετωπίσουν νέες προκλήσεις προσπαθώντας να διατηρήσουν τα αποθέματα δεδομένων που χρησιμοποιούνται για την εκπαίδευση μοντέλων τεχνητής νοημοσύνης αμόλυντα από υλικό που δημιουργείται από την τεχνητή νοημοσύνη.

• «Για να μην επηρεαστούν από την κατάρρευση του μοντέλου, οι εταιρείες θα πρέπει να προσπαθήσουν να διατηρήσουν την πρόσβαση σε μαζικά καταστήματα δεδομένων πριν από το 2023», συμβουλεύει ένας οδηγός του κλάδου.

Ναι, αλλά: Ορισμένες πιο εξειδικευμένες εταιρείες τεχνητής νοημοσύνης λένε ότι δεν ανησυχούν τόσο για το πλεόνασμα περιεχομένου που δημιουργείται με τεχνητή νοημοσύνη στον Ιστό.

• “Ο ανθρώπινος σχολιασμός εξακολουθεί να είναι κρίσιμος για την επιτυχία και την ποιότητα των μοντέλων μας, αντί να βασίζεται αποκλειστικά στο κείμενο σε δημόσιους ιστότοπους”, δήλωσε ο Saurabh Baji, ανώτερος αντιπρόεδρος μηχανικής στην Cohere. “Με την εστίασή μας στην επιχείρηση, βελτιστοποιούμε επίσης με βάση τα εσωτερικά έγγραφα ενός πελάτη, γεγονός που βελτιώνει σημαντικά την προσαρμογή.”
• Ορισμένοι παρατηρητές πιστεύουν ότι το πλεόνασμα περιεχομένου που δημιουργείται από την τεχνητή νοημοσύνη θα μπορούσε να προσθέσει ένα νέο premium σε οποιοδήποτε περιεχόμενο που έχει δημιουργηθεί από τον άνθρωπο.

Τι ακολουθεί : Δεν γνωρίζουμε ακόμη πολλά για το πώς μια παλίρροια περιεχομένου τεχνητής νοημοσύνης θα αλλάξει τον κόσμο μας και τα καλύτερα μυαλά της τεχνητής νοημοσύνης δεν είναι πρόθυμα να προβλέψουν πώς θα γίνει κάτι από όλα αυτά.

• Όπως μας είπαν ερευνητές μιας κορυφαίας εταιρείας: «Είναι μια πολύ ενδιαφέρουσα ερώτηση».

Πηγαίνετε πιο βαθιά: Ακούστε την Ina να συζητά αυτήν την ιστορία στο podcast Axios Today .

 
Plus 1

Ένα έξυπνο δοκίμιο εξηγεί πώς η τεχνητή νοημοσύνη αμφισβητεί τους πυλώνες του νόμου περί πνευματικής ιδιοκτησίας λόγω της κλίμακας και της ευκολίας με την οποία μπορεί να απορροφήσει και να αναζωογονήσει όλη την ανθρώπινη γνώση. (Μπένεντικτ Έβανς)

 
Plus 2

-AI vs. Humans: Which Performs Certain Skills Better?

With ChatGPT’s explosive rise, AI has been making its presence felt for the masses, especially in traditional bastions of human capabilities—reading comprehension, speech recognition and image identification.

In fact, in the chart above it’s clear that AI has surpassed human performance in quite a few areas, and looks set to overtake humans elsewhere.

Συνέχεια εδώ