Het Amerikaanse cyberbeveiligingsagentschap CISA voert de eerste AI-cyberincidentenoefening uit om de respons op AI-gestuurde cyberincidenten aan te tonen
Vorige week voerde de Amerikaanse Cybersecurity and Infrastructure Security Agency (CISA) zijn allereerste tabletop-oefening uit, gericht op AI-gerelateerde cyberveiligheidsincidenten. De vier uur durende oefening, georganiseerd door de Joint Cyber Defense Collaborative (JCDC), had tot doel een cyberaanval op een AI-systeem te simuleren. Deelnemers, waaronder meer dan 50 AI-experts van overheidsinstanties en industriële partners, kwamen bijeen in de Microsoft-faciliteit in Reston, Virginia, om samen te werken aan de respons.
De oefening was bedoeld om scenario's aan te pakken waarin de vertrouwelijkheid, integriteit of beschikbaarheid van een AI-systeem, of enig ander systeem dat door AI is gecreëerd of mogelijk gemaakt, in gevaar kwam. Dit omvatte aanzienlijke verstoringen van het gedrag van het systeem die onmiddellijke interventie vereisten. De belangrijkste doelstellingen van de oefening waren het identificeren van mogelijkheden voor het delen van informatie, het opstellen van publiek-private betrokkenheidsprotocollen en het verbeteren van de operationele samenwerking.
CISA schetste verschillende hoofddoelstellingen: het verbeteren van de praktijken voor het delen van informatie voor AI-gerelateerde cyberincidenten, het evalueren van de responsprocedures en beste praktijken van de deelnemers, en het aanwijzen van gebieden voor verbetering in responsplannen, het delen van informatie en veerkracht. Bij de oefening werden ook de mogelijkheden, behoeften en prioriteiten voor samenwerking tussen overheidsinstanties, de industrie en internationale partners beoordeeld.
De inzichten uit de oefening zullen worden gebruikt om een AI Security Incident Collaboration Playbook te ontwikkelen. Dit draaiboek heeft tot doel de operationele samenwerking te verbeteren en het bewustzijn bij de overheid, het bedrijfsleven en andere partners te vergroten. CISA is van plan een tweede tabletop-oefening uit te voeren om dit draaiboek te testen en te verfijnen met AI-bedrijven en organisaties in de kritieke infrastructuursector die AI al gebruiken in hun activiteiten.
CISA-directeur Jen Easterly benadrukte het belang van deze oefening bij het beperken van AI-risico’s en benadrukte het belang van de ontwikkeling van veilige AI-producten. Ze uitte haar enthousiasme over de voortdurende samenwerking met partners om de veiligheid en veerkracht van AI-systemen te waarborgen.
