US Cybersecurity Agency CISA gennemfører første AI Cyber Incident-øvelse, der demonstrerer respons på AI-drevne Cyber Incidents

I sidste uge gennemførte US Cybersecurity and Infrastructure Security Agency (CISA) sin første bordøvelse nogensinde med fokus på AI-relaterede cybersikkerhedshændelser. Organiseret af Joint Cyber Defense Collaborative (JCDC), havde den fire timer lange øvelse til formål at simulere et cyberangreb på et AI-aktiveret system. Deltagere, herunder over 50 AI-eksperter fra statslige agenturer og industripartnere, samledes på Microsofts anlæg i Reston, Virginia, for at samarbejde om svaret.

Øvelsen var designet til at behandle scenarier, hvor fortroligheden, integriteten eller tilgængeligheden af et AI-system eller ethvert system, der er oprettet eller aktiveret af AI, var i fare. Dette omfattede betydelige forstyrrelser i systemets adfærd, som krævede øjeblikkelig indgriben. Nøglemålene med øvelsen var at identificere muligheder for informationsdeling, etablere offentlig-private engagementsprotokoller og forbedre det operationelle samarbejde.

CISA skitserede flere primære mål: forbedring af informationsdelingspraksis for AI-relaterede cyberhændelser, evaluering af deltagernes reaktionsprocedurer og bedste praksis og indkredsning af områder til forbedring af reaktionsplaner, informationsdeling og robusthed. Øvelsen vurderede også kapaciteter, behov og prioriteter for samarbejde mellem offentlige myndigheder, industri og internationale partnere.

Indsigt opnået fra øvelsen vil blive brugt til at udvikle en AI Security Incident Collaboration Playbook. Denne playbook har til formål at forbedre operationelt samarbejde og øge bevidstheden på tværs af regering, industri og andre partnere. CISA planlægger at gennemføre en anden bordøvelse for at teste og forfine denne håndbog med AI-virksomheder og organisationer i den kritiske infrastruktursektor, som allerede bruger AI i deres operationer.

CISA-direktør Jen Easterly understregede betydningen af denne øvelse for at mindske AI-risici og fremhævede vigtigheden af at udvikle sikre AI-produkter. Hun udtrykte entusiasme for at fortsætte samarbejdet med partnere for at sikre sikkerheden og modstandsdygtigheden af AI-systemer.