Die US-amerikanische Cybersicherheitsbehörde CISA führt die erste KI-Cyber-Vorfallübung durch und demonstriert die Reaktion auf KI-gesteuerte Cyber-Vorfälle
Letzte Woche führte die US-amerikanische Cybersecurity and Infrastructure Security Agency (CISA) ihre allererste Planspielübung zu KI-bezogenen Cybersicherheitsvorfällen durch. Die vierstündige Übung wurde vom Joint Cyber Defense Collaborative (JCDC) organisiert und zielte darauf ab, einen Cyberangriff auf ein KI-gestütztes System zu simulieren. Die Teilnehmer, darunter über 50 KI-Experten von Regierungsbehörden und Industriepartnern, trafen sich in Microsofts Niederlassung in Reston, Virginia, um gemeinsam an der Reaktion zu arbeiten.
Die Übung wurde für Szenarien konzipiert, in denen die Vertraulichkeit, Integrität oder Verfügbarkeit eines KI-Systems oder eines durch KI erstellten oder aktivierten Systems gefährdet war. Dazu gehörten erhebliche Störungen des Systemverhaltens, die ein sofortiges Eingreifen erforderten. Die wichtigsten Ziele der Übung waren die Identifizierung von Möglichkeiten zum Informationsaustausch, die Festlegung von Protokollen für die Zusammenarbeit zwischen öffentlichem und privatem Sektor sowie die Verbesserung der operativen Zusammenarbeit.
CISA skizzierte mehrere Hauptziele: Verbesserung der Praktiken zum Informationsaustausch bei KI-bezogenen Cybervorfällen, Bewertung der Reaktionsverfahren und Best Practices der Teilnehmer und Ermittlung von Bereichen, in denen Reaktionspläne, Informationsaustausch und Belastbarkeit verbessert werden können. Im Rahmen der Übung wurden auch die Fähigkeiten, Bedürfnisse und Prioritäten für die Zusammenarbeit zwischen Regierungsbehörden, Industrie und internationalen Partnern bewertet.
Die aus der Übung gewonnenen Erkenntnisse werden zur Entwicklung eines Playbooks für die Zusammenarbeit bei KI-Sicherheitsvorfällen verwendet. Dieses Playbook soll die operative Zusammenarbeit verbessern und das Bewusstsein in Regierung, Industrie und bei anderen Partnern schärfen. CISA plant, eine zweite Planspielübung durchzuführen, um dieses Playbook mit KI-Unternehmen und Organisationen im Bereich kritischer Infrastrukturen zu testen und zu verfeinern, die KI bereits in ihren Betrieben einsetzen.
CISA-Direktorin Jen Easterly betonte die Bedeutung dieser Maßnahme zur Eindämmung von KI-Risiken und betonte die Wichtigkeit der Entwicklung sicherer KI-Produkte. Sie zeigte sich begeistert über die weitere Zusammenarbeit mit Partnern, um die Sicherheit und Belastbarkeit von KI-Systemen zu gewährleisten.
