Η Microsoft και η Mitre ανακοίνωσαν την κυκλοφορία ενός νέου εργαλείου που έχει σχεδιαστεί για να βοηθήσει τους επαγγελματίες της κυβερνοασφάλειας να μιμηθούν τις επιθέσεις σε συστήματα μηχανικής μάθησης (ML).

Το εργαλείο, που έχει το όνομα Arsenal,  είναι ένα πρόσθετο για το πλαίσιο Mitre ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems), μια βάση γνώσεων για τακτικές, τεχνικές και περιπτωσιολογικές μελέτες αντιπάλου.

Το ATLAS προορίζεται να αυξήσει την ευαισθητοποίηση σχετικά με τις απειλές για τα συστήματα ML, ενώ το Arsenal βοηθά τους ερευνητές κυβερνοασφάλειας να αποθηκεύουν και να δημιουργούν αντίπαλες τακτικές, τεχνικές και διαδικασίες (TTP) που ορίζονται στο ATLAS για διασύνδεση με CALDERA, την πλατφόρμα κυβερνοασφάλειας που αυτοματοποιεί την εξομοίωση αντιπάλου.

To Arsenal χρησιμοποιεί τo εργαλείο αυτοματισμού  Microsoft Counterfit για την εκτέλεση αξιολογήσεων κινδύνου ασφάλειας τεχνητής νοημοσύνης (AI) ως αυτοματοποιημένη βιβλιοθήκη επιθέσεων αντιπάλου και επιτρέπει στο CALDERA να μιμείται επιθέσεις χρησιμοποιώντας τη βιβλιοθήκη Counterfit.

Η ενσωμάτωση του Arsenal στο CALDERA αναμένεται να βοηθήσει τους ερευνητές να εντοπίσουν νέα τρωτά σημεία στα δομικά στοιχεία των ροών εργασίας ML και να βρουν προστασίες για την αποτροπή εκμετάλλευσης συστημάτων ML.

Προς το παρόν, to Arsenal περιλαμβάνει περιορισμένο αριθμό προφίλ αντιπάλου, με βάση τις πληροφορίες που είναι διαθέσιμες στο κοινό. Η Microsoft και η Mitre σχεδιάζουν να προσθέσουν νέες τεχνικές και προφίλ αντιπάλου, καθώς οι ερευνητές τεκμηριώνουν νέες επιθέσεις σε συστήματα ML.

Το Arsenal μπορεί να χρησιμοποιηθεί σε συστήματα που εκτελούν Ubuntu 18.04 ή 20.04 και απαιτούνται εκδόσεις Python 3.7 ή νεότερη για να λειτουργήσει.

«Καθώς ο κόσμος προσβλέπει στην τεχνητή νοημοσύνη για να αλλάξει θετικά τον τρόπο λειτουργίας των οργανισμών, είναι σημαντικό να ληφθούν μέτρα για να διασφαλιστεί η ασφάλεια αυτών των μοντέλων τεχνητής νοημοσύνης και μηχανικής μάθησης που θα εξουσιοδοτήσουν το εργατικό δυναμικό να κάνει περισσότερα με λιγότερη πίεση σε χρόνο, προϋπολογισμό και πόρους», δήλωσε ο διευθυντής προγράμματος της Microsoft Ram Shankar.