Η τεχνητή νοημοσύνη αυξάνει τον κίνδυνο βιολογικών επιθέσεων;

Μπορεί η AI να βοηθήσει μια τρομοκρατική ομάδα να σχεδιάσει μια καταστροφική βιολογική επίθεση; Η RAND διεξήγαγε πρόσφατα ένα πείραμα για να απαντήσει σε αυτήν την ερώτηση συγκεντρώνοντας μια ομάδα ειδικών για να παίξουν ρόλους ως κακοί. Σε ομάδες ερευνητών ανατέθηκε ο σχεδιασμός μιας υποθετικής βιολογικής επίθεσης. Κάποιοι είχαν πρόσβαση σε μεγάλα γλωσσικά μοντέλα ή LLM, ενώ άλλοι μπορούσαν να χρησιμοποιήσουν μόνο το διαδίκτυο. Τελικά, τα σημερινά LLM απέτυχαν να παρέχουν καμία ουσιαστική πληροφορία πέρα ​​από αυτό που θα μπορούσε να βρεθεί μέσω μιας απλής αναζήτησης στο Google. Αυτά είναι καλά νέα, αλλά είναι σημαντικό να συνεχίσουμε να παρακολουθούμε την εξέλιξη των LLM και τις πιθανότητες κακής χρήσης τους.

 
Συνέχεια εδώ

 
Πηγή: rand.org