Агентство кибербезопасности США CISA проводит первые учения по киберинцидентам с использованием ИИ, демонстрируя реагирование на киберинциденты, вызванные ИИ

На прошлой неделе Агентство кибербезопасности и безопасности инфраструктуры США (CISA) провело первые в истории кабинетные учения, посвященные инцидентам кибербезопасности, связанным с искусственным интеллектом. Четырехчасовые учения, организованные Объединенным объединением по киберзащите (JCDC), были направлены на имитацию кибератаки на систему с поддержкой искусственного интеллекта. Участники, в том числе более 50 экспертов по искусственному интеллекту из правительственных учреждений и отраслевых партнеров, собрались на предприятии Microsoft в Рестоне, штат Вирджиния, чтобы совместно работать над ответными мерами.

Учения были разработаны для рассмотрения сценариев, в которых конфиденциальность, целостность или доступность системы ИИ или любой системы, созданной или активированной ИИ, подвергались риску. Это включало значительные нарушения в работе системы, которые требовали немедленного вмешательства. Ключевые цели учений заключались в выявлении возможностей для обмена информацией, установлении протоколов взаимодействия государственного и частного секторов и расширении оперативного сотрудничества.

CISA обозначила несколько основных задач: улучшение практики обмена информацией о киберинцидентах, связанных с ИИ, оценка процедур реагирования и передового опыта участников, а также определение областей для улучшения планов реагирования, обмена информацией и устойчивости. В ходе учений также были оценены возможности, потребности и приоритеты сотрудничества между правительственными учреждениями, промышленностью и международными партнерами.

Информация, полученная в ходе учений, будет использована для разработки руководства по совместной работе при инцидентах в сфере безопасности с использованием ИИ. Целью этого руководства является улучшение оперативного сотрудничества и повышение осведомленности правительства, промышленности и других партнеров. CISA планирует провести вторые кабинетные учения для тестирования и доработки этого руководства с участием компаний и организаций, занимающихся искусственным интеллектом, в секторе критической инфраструктуры, которые уже используют искусственный интеллект в своей деятельности.

Директор CISA Джен Истерли подчеркнула важность этого мероприятия для снижения рисков ИИ и подчеркнула важность разработки безопасных продуктов ИИ. Она выразила энтузиазм по поводу продолжения сотрудничества с партнерами для обеспечения безопасности и устойчивости систем искусственного интеллекта.