Το Microsoft Turns Counterfit AI Security Assessment Tool Open Source

Η Microsoft έχει μετατρέψει το εργαλείο εκτίμησης κινδύνων ασφάλειας AI, Counterfit, ανοιχτού κώδικα, επιτρέποντας σε όλους να αρχίσουν να χρησιμοποιούν το εργαλείο δωρεάν. Προς το παρόν, οι οργανισμοί μπορούν να χρησιμοποιήσουν το Counterfit για να αυτοματοποιήσουν τις αξιολογήσεις κινδύνων ασφαλείας, διασφαλίζοντας ότι η προστασία που χρησιμοποιούν είναι μέχρι το μηδέν.

Η Microsoft ανέπτυξε αρχικά το Counterfit ως ένα εσωτερικό εργαλείο που θα μπορούσε να αξιολογήσει γρήγορα την ασφάλεια των συστημάτων AI και μηχανικής μάθησης. Ξεκίνησε τη ζωή ως μια συλλογή σεναρίων πριν μετατραπεί γρήγορα σε ένα γενικό αυτοματισμό AI που μπορεί να χρησιμοποιήσει ένας χειριστής για να "επιτεθεί σε πολλαπλά συστήματα AI" ταυτόχρονα.

Η Microsoft χρησιμοποιεί τακτικά το Counterfit ως βασικό εργαλείο στις λειτουργίες της ομάδας AI red. Καθώς το Counterfit είναι περιβάλλον, μοντέλο και δεδομένα αγνωστικώς, το εργαλείο μπορεί να προσφέρει ακριβή αξιολόγηση χωρίς σύνθετη αντίσταση.

Το ίδιο το εργαλείο έχει σχεδιαστεί για χρήση από επαγγελματίες ασφαλείας. Το Counterfit χρησιμοποιεί παρόμοιες ροές εργασίας με άλλα δημοφιλή εργαλεία κόκκινης ομάδας όπως το Metasploit ή το PowerShell Empyre, με εκτεταμένη υποστήριξη για δέσμες ενεργειών, προφορτωμένους αλγόριθμους επίθεσης, σάρωση ευπάθειας, προηγμένη καταγραφή και πολλά άλλα, προσπελάσιμα μέσω της γραμμής εντολών.

Η Microsoft έχει συνεργαστεί εκτενώς με επαγγελματίες ασφαλείας και μεγάλους οργανισμούς για την καλύτερη ανάπτυξη του Counterfit. Στο Ιστολόγιο ασφαλείας MicrosoftΗ Matilda Rhode, Senior Research Cybersecurity Researcher, Airbus, δήλωσε:

Το AI χρησιμοποιείται όλο και περισσότερο στη βιομηχανία. Είναι ζωτικής σημασίας να κοιτάξουμε μπροστά για να διασφαλίσουμε αυτήν την τεχνολογία, ιδίως για να κατανοήσουμε πού μπορούν να πραγματοποιηθούν επιθέσεις διαστημικών χαρακτηριστικών στον προβληματικό χώρο. Η απελευθέρωση εργαλείων ανοιχτού κώδικα από έναν οργανισμό όπως η Microsoft για αξιολόγηση από επαγγελματίες ασφαλείας Η ασφάλεια των συστημάτων τεχνητής νοημοσύνης είναι ευπρόσδεκτη και μια σαφής ένδειξη ότι η βιομηχανία αντιμετωπίζει αυτό το πρόβλημα σοβαρά.

Μπορείτε να βρείτε το ανοιχτού κώδικα Counterfit της Microsoft στο επίσημο GitHub τους.

Σχετιζομαι με: Οι εργασίες που δεν ξέρατε ποτέ εκτελέστηκαν από την AI

Γιατί το Counterfit είναι χρήσιμο;

Ακόμα και για μια εταιρεία το μέγεθος της Microsoft, η ολοκλήρωση αποτελεσματικών αξιολογήσεων ασφαλείας δεν είναι εύκολη, ειδικά όταν αυτές οι εταιρείες είναι τεράστιοι ηγέτες του Fortune 500, κυβερνήσεις, μη κερδοσκοπικοί οργανισμοί και πολλά άλλα. Μια προηγούμενη μελέτη της Microsoft διαπίστωσε ότι μεγάλος αριθμός επιχειρήσεων δεν ήταν σε θέση να ελέγξουν με ακρίβεια τα συστήματα AI τους.

Διαπιστώσαμε ότι 25 από τις 28 επιχειρήσεις δήλωσαν ότι δεν διαθέτουν τα κατάλληλα εργαλεία για να ασφαλίσουν τα συστήματα AI τους και ότι οι επαγγελματίες ασφάλειας αναζητούν συγκεκριμένη καθοδήγηση σε αυτόν τον χώρο.

Το Counterfit διευκολύνει την ολοκλήρωση αυτών των αξιολογήσεων, αυτοματοποιώντας τη διαδικασία ανάλυσης και δοκιμών.

Σχετιζομαι με: Τρόποι με τους οποίους μπορείτε να χρησιμοποιήσετε την τεχνολογία AI για να βελτιώσετε την επιχείρησή σας

Επιπλέον, πρόσφατα δημοσιεύθηκε Μελέτη Gartner ανέφεραν την υιοθέτηση ασφάλειας AI ως ένα από τα πιο σημαντικά μέτρα ασφαλείας που μπορεί να λάβει μια εταιρεία για τη βελτίωση της προστασίας. Η ίδια μελέτη σημείωσε ότι "Μέχρι το 2024, οι οργανισμοί που εφαρμόζουν αποκλειστικούς ελέγχους διαχείρισης κινδύνων AI θα αποφύγουν επιτυχώς αρνητικά αποτελέσματα AI δύο φορές συχνότερα από αυτά που δεν το κάνουν."

Με λίγα λόγια, το Counterfit να γίνει ένα εργαλείο αξιολόγησης ασφάλειας ανοιχτού κώδικα AI θα πρέπει να βοηθήσει να γίνει ο κόσμος ένα ελαφρώς ασφαλέστερο μέρος.

Αυτά τα 4 εργαλεία προστασίας από ιούς χρησιμοποιούν AI για την προστασία του συστήματός σας

Χρειάζεται η επόμενη συνδρομή σας για ιούς να περιλαμβάνει τεχνητή νοημοσύνη ή είναι απλώς μια άλλη λέξη ασφαλείας;

Διαβάστε Επόμενο

Σχετικά με τον Συγγραφέα