USA:s cybersäkerhetsbyrå CISA genomför första övningen för AI Cyber Incident som visar respons på AI-drivna Cyber Incidenter

Förra veckan genomförde US Cybersecurity and Infrastructure Security Agency (CISA) sin första bordsövning någonsin med fokus på AI-relaterade cybersäkerhetsincidenter. Organiserad av Joint Cyber Defense Collaborative (JCDC), den fyra timmar långa övningen syftade till att simulera en cyberattack på ett AI-aktiverat system. Deltagare, inklusive över 50 AI-experter från statliga myndigheter och industripartner, samlades på Microsofts anläggning i Reston, Virginia, för att samarbeta kring svaret.

Övningen var utformad för att ta itu med scenarier där konfidentialitet, integritet eller tillgänglighet för ett AI-system, eller något system som skapats eller aktiverats av AI, var i fara. Detta inkluderade betydande störningar i systemets beteende som krävde omedelbart ingripande. Huvudmålen med övningen var att identifiera möjligheter till informationsutbyte, upprätta offentlig-privata engagemangsprotokoll och förbättra operativt samarbete.

CISA beskrev flera primära mål: att förbättra praxis för informationsdelning för AI-relaterade cyberincidenter, utvärdera deltagarnas svarsprocedurer och bästa praxis, och peka ut områden för förbättringar i svarsplaner, informationsdelning och motståndskraft. Övningen utvärderade också förmågan, behoven och prioriteringarna för samarbete mellan statliga myndigheter, industri och internationella partner.

Insikter från övningen kommer att användas för att utveckla en AI Security Incident Collaboration Playbook. Den här lekboken syftar till att förbättra operativt samarbete och öka medvetenheten mellan myndigheter, industri och andra partners. CISA planerar att genomföra en andra bordsövning för att testa och förfina denna handbok med AI-företag och organisationer inom sektorn för kritisk infrastruktur som redan använder AI i sin verksamhet.

CISA-chefen Jen Easterly betonade betydelsen av denna övning för att minska AI-risker och betonade vikten av att utveckla säkra AI-produkter. Hon uttryckte entusiasm över fortsatt samarbete med partners för att säkerställa säkerheten och motståndskraften hos AI-system.