L'agenzia statunitense per la sicurezza informatica CISA conduce la prima esercitazione sugli incidenti informatici con intelligenza artificiale dimostrando la risposta agli incidenti informatici guidati dall'intelligenza artificiale

La settimana scorsa, la Cybersecurity and Infrastructure Security Agency (CISA) degli Stati Uniti ha condotto il suo primo esercizio simulato incentrato sugli incidenti di sicurezza informatica legati all’intelligenza artificiale. Organizzato dalla Joint Cyber Defense Collaborative (JCDC), l'esercizio di quattro ore mirava a simulare un attacco informatico su un sistema abilitato all'intelligenza artificiale. I partecipanti, tra cui oltre 50 esperti di intelligenza artificiale provenienti da agenzie governative e partner del settore, si sono riuniti presso la struttura Microsoft a Reston, in Virginia, per collaborare alla risposta.

L’esercizio è stato progettato per affrontare scenari in cui la riservatezza, l’integrità o la disponibilità di un sistema di intelligenza artificiale, o di qualsiasi sistema creato o abilitato dall’intelligenza artificiale, erano a rischio. Ciò includeva interruzioni significative del comportamento del sistema che richiedevano un intervento immediato. Gli obiettivi principali dell'esercizio erano identificare opportunità per la condivisione delle informazioni, stabilire protocolli di coinvolgimento pubblico-privato e migliorare la collaborazione operativa.

CISA ha delineato diversi obiettivi primari: migliorare le pratiche di condivisione delle informazioni per gli incidenti informatici legati all’intelligenza artificiale, valutare le procedure di risposta e le migliori pratiche dei partecipanti e individuare le aree di miglioramento nei piani di risposta, nella condivisione delle informazioni e nella resilienza. L'esercizio ha inoltre valutato le capacità, le esigenze e le priorità per la collaborazione tra agenzie governative, industria e partner internazionali.

Le conoscenze acquisite dall'esercizio verranno utilizzate per sviluppare un playbook di collaborazione sugli incidenti di sicurezza AI. Questo playbook mira a migliorare la collaborazione operativa e ad aumentare la consapevolezza tra governo, industria e altri partner. CISA prevede di condurre un secondo esercizio simulato per testare e perfezionare questo manuale con aziende e organizzazioni di intelligenza artificiale nel settore delle infrastrutture critiche che stanno già utilizzando l’intelligenza artificiale nelle loro operazioni.

Il direttore della CISA, Jen Easterly, ha sottolineato l’importanza di questo esercizio nel mitigare i rischi legati all’IA e ha sottolineato l’importanza di sviluppare prodotti IA sicuri. Ha espresso entusiasmo per la continua collaborazione con i partner per garantire la sicurezza e la resilienza dei sistemi di intelligenza artificiale.