Εκπλήρωση της υπόσχεσης για ασφάλεια AI

Το όνειρο της εκπαίδευσης εργαλείων τεχνητής νοημοσύνης για την καταπολέμηση των κυβερνοεπιθέσεων χωρίς ανθρώπινη παρέμβαση θα μπορούσε σύντομα να γίνει πραγματικότητα.

Η μεγάλη εικόνα: Αρκετές εταιρείες ασφάλειας AI παρουσίασαν προϊόντα στο συνέδριο RSA αυτή την εβδομάδα που έχουν σχεδιαστεί για να βοηθήσουν στον μετριασμό των απειλών στον κυβερνοχώρο πριν προσγειωθούν σε ένα εταιρικό σύστημα.

• Η CalypsoAI, μια startup που επικεντρώνεται στην αποτροπή της απορρόφησης εμπιστευτικών δεδομένων σε μοντέλα AI, εισήγαγε μια νέα δυνατότητα που επιτρέπει στους πελάτες να δημιουργήσουν έναν σαρωτή ευπάθειας χωρίς καμία εμπειρία κωδικοποίησης.
• Η Protect AI κυκλοφόρησε το Sightline, μια νέα βάση δεδομένων ευπάθειας της αλυσίδας εφοδιασμού AI και μηχανικής μάθησης, κατά τη διάρκεια του συνεδρίου τη Δευτέρα. Το εργαλείο παρέχει ένα σύστημα έγκαιρης προειδοποίησης που θα προστατεύει από απειλές πριν καν εμφανιστούν στην κυβερνητική βάση δεδομένων National Vulnerability Database.
• Η Trellix παρουσίασε το νέο της εργαλείο με δυνατότητα τεχνητής νοημοσύνης, που ονομάζεται Trellix Wise, το οποίο θα μοιράζεται λεπτομέρειες σχετικά με μια απειλή με τους υπερασπιστές μόλις χτυπήσει το δίκτυό της χωρίς καμία προτροπή.
• Το Deep Instinct έκανε το ντεμπούτο του DIANNA, του βοηθού τεχνητού νευρωνικού δικτύου, ο οποίος βασίζεται στη βαθιά μάθηση για να προβλέψει τις τακτικές των χάκερ και να υποκλέψει αρχεία που έχουν μολυνθεί από κακόβουλο λογισμικό πριν αγγίξουν ένα σύστημα.

Η μεγάλη εικόνα: Μέχρι στιγμής, τα περισσότερα προϊόντα ασφάλειας AI έχουν επικεντρωθεί στη διατήρηση εταιρικών δεδομένων και κυβερνητικών μυστικών μακριά από chatbots και στην αξιοποίηση chatbots για να βοηθήσουν στην αντιμετώπιση ειδοποιήσεων απειλών.

• «Είμαστε ακόμα σε αυτή την εποχή του “detect and respond”», δήλωσε στο Axios ο Carl Froggett, επικεφαλής πληροφοριών της Deep Instinct.

Μεταξύ των γραμμών: Τα στελέχη και οι κυβερνητικοί αξιωματούχοι ελπίζουν ότι τα εργαλεία τεχνητής νοημοσύνης θα βοηθήσουν στην ανακούφιση των εργαζομένων στον κυβερνοχώρο που είναι τεντωμένοι, λεπτοί και εξαντλημένοι.

• Ο κλάδος της ασφάλειας στον κυβερνοχώρο δεν έχει όλους τους εργαζόμενους που χρειάζεται και οι ειδικοί ελπίζουν ότι τα προϊόντα τεχνητής νοημοσύνης θα μπορούσαν να βοηθήσουν στην κάλυψη ορισμένων από τα κενά.

Μεγέθυνση: Η CalypsoAI παρατήρησε την τάση όλων να ανταγωνίζονται στους λεγόμενους πολέμους σαρωτών για τη δημιουργία δεκάδων σαρωτών περιεχομένου και ευπάθειας που στοχεύουν σε συγκεκριμένες περιπτώσεις χρήσης για μοντέλα AI.

• Έτσι, αντί η εταιρεία να συνεχίσει να ονειρεύεται περιπτώσεις χρήσης για παραγωγικά μοντέλα AI, η CalypsoAI δημιούργησε ένα προϊόν που επιτρέπει στους πελάτες να δημιουργήσουν τους δικούς τους προσαρμόσιμους σαρωτές συνομιλίας για τις συγκεκριμένες ανάγκες τους, δήλωσε ο διευθύνων σύμβουλος Neil Serebryany.
• Εάν ένας πελάτης πρέπει να ακολουθήσει τον νόμο περί φορητότητας και λογοδοσίας ασφάλισης υγείας (HIPAA), μπορεί να δημιουργήσει ένα bot για αυτήν τη συγκεκριμένη περίπτωση χρήσης για να κρατήσει τα δεδομένα των ασθενών από το να φτάσουν στα χέρια των εργαζομένων.
• Οι σαρωτές πελατών μπορούν να ενσωματωθούν στο Slack, στο Microsoft Teams και σε άλλα μέρη ενός εταιρικού συστήματος που χρησιμοποιεί ένα προσαρμοσμένο LLM.

Ναι, αλλά: Η βιομηχανία δεν είναι έτοιμη να μετατρέψει εντελώς την άμυνα στον κυβερνοχώρο στην τεχνητή νοημοσύνη, δήλωσε στο Axios ο Ashok Banerjee, ανώτερος αντιπρόεδρος μηχανικής προϊόντων στην Trellix.

• Ακόμη και αν οι συστάσεις για ένα μοντέλο είναι 99% σωστές, αυτό το 1% μπορεί να έχει επιζήμιες επιπτώσεις, σημείωσε ο Banerjee.
• «Είναι τεράστια ευθύνη», είπε. «99% επιτυχία θα ήταν πολύ καλοί βαθμοί σε οποιοδήποτε τεστ, αλλά σε αυτή την περίπτωση θέλουμε να είμαστε πολύ, πολύ σίγουροι».

 
Περισσότερα στο  axios.com