Microsoft rende Open Source lo strumento di valutazione della sicurezza AI di Counterfit

Microsoft ha trasformato il suo strumento di valutazione del rischio per la sicurezza dell'IA, Counterfit, open-source, consentendo a chiunque di iniziare a utilizzare lo strumento gratuitamente. Attualmente, le organizzazioni possono utilizzare Counterfit per automatizzare le valutazioni dei rischi per la sicurezza, assicurando che la protezione che stanno utilizzando sia all'altezza.

Microsoft ha originariamente sviluppato Counterfit come strumento interno in grado di valutare rapidamente la sicurezza dei sistemi di intelligenza artificiale e machine learning. È nato come una raccolta di script prima di trasformarsi rapidamente in una generica automazione di intelligenza artificiale che un operatore può utilizzare per "attaccare più sistemi di intelligenza artificiale" contemporaneamente.

Microsoft ora utilizza regolarmente Counterfit come strumento principale nelle operazioni del team rosso di intelligenza artificiale. Poiché Counterfit è indipendente dall'ambiente, dal modello e dai dati, lo strumento può fornire una valutazione precisa senza impedenza.

Lo strumento stesso è progettato per essere utilizzato da professionisti della sicurezza. Counterfit utilizza flussi di lavoro simili ad altri popolari strumenti red-team come Metasploit o PowerShell Empyre, con ampio supporto per scripting, algoritmi di attacco precaricati, scansione delle vulnerabilità, registrazione avanzata e altro ancora, accessibile tramite la riga di comando.

Microsoft ha lavorato a lungo con professionisti della sicurezza e grandi organizzazioni per sviluppare meglio anche Counterfit. Sul Blog sulla sicurezza di Microsoft, Matilda Rhode, Senior Cybersecurity Researcher, Airbus, ha dichiarato:

L'intelligenza artificiale è sempre più utilizzata nell'industria; è fondamentale guardare avanti per proteggere questa tecnologia, in particolare per capire dove possono essere realizzati gli attacchi spaziali caratteristici nello spazio problematico. Il rilascio di strumenti open source da un'organizzazione come Microsoft per la valutazione da parte dei professionisti della sicurezza la sicurezza dei sistemi di intelligenza artificiale è sia benvenuta che una chiara indicazione che l'industria sta affrontando questo problema sul serio.

Puoi trovare l'open-source Microsoft Counterfit sul loro GitHub ufficiale.

Relazionato: Lavori che non sapevi fossero eseguiti dall'intelligenza artificiale

Perché Counterfit è utile?

Anche per un'azienda delle dimensioni di Microsoft, completare valutazioni di sicurezza efficaci non è facile, soprattutto quando queste aziende sono enormi leader di Fortune 500, governi, organizzazioni non profit e altro ancora. Un precedente studio Microsoft ha rilevato che un gran numero di aziende non è in grado di testare accuratamente i propri sistemi di intelligenza artificiale.

Abbiamo scoperto che 25 aziende su 28 hanno indicato di non disporre degli strumenti giusti per proteggere i propri sistemi di intelligenza artificiale e che i professionisti della sicurezza sono alla ricerca di una guida specifica in questo ambito.

Counterfit semplifica il completamento di tali valutazioni, automatizzando il processo di analisi e test.

Relazionato: Modi in cui puoi utilizzare la tecnologia AI per migliorare la tua attività

Inoltre, un file recentemente pubblicato Studio di Gartner ha elencato l'adozione della sicurezza dell'IA come una delle misure di sicurezza più importanti che un'azienda può adottare per migliorare la protezione. Lo stesso studio ha rilevato che "Entro il 2024, le organizzazioni che implementano controlli di gestione del rischio IA dedicati eviteranno con successo risultati AI negativi due volte più spesso di quelli che non lo fanno".

In breve, Counterfit che diventa uno strumento di valutazione della sicurezza dell'IA open source dovrebbe aiutare a rendere il mondo un posto leggermente più sicuro.

Questi 4 strumenti antivirus utilizzano l'intelligenza artificiale per proteggere il tuo sistema

Il tuo prossimo abbonamento antivirus deve includere l'intelligenza artificiale o è solo un'altra parola d'ordine sulla sicurezza?

Leggi Avanti

Circa l'autore