Agência de segurança cibernética dos EUA, CISA, realiza primeiro exercício de incidente cibernético de IA, demonstrando resposta a incidentes cibernéticos conduzidos por IA
Na semana passada, a Agência de Segurança Cibernética e de Infraestrutura dos EUA (CISA) conduziu seu primeiro exercício de mesa focado em incidentes de segurança cibernética relacionados à IA. Organizado pela Joint Cyber Defense Collaborative (JCDC), o exercício de quatro horas teve como objetivo simular um ataque cibernético a um sistema habilitado para IA. Os participantes, incluindo mais de 50 especialistas em IA de agências governamentais e parceiros da indústria, reuniram-se nas instalações da Microsoft em Reston, Virgínia, para colaborar na resposta.
O exercício foi concebido para abordar cenários em que a confidencialidade, integridade ou disponibilidade de um sistema de IA, ou de qualquer sistema criado ou ativado por IA, estivesse em risco. Isto incluiu interrupções significativas no comportamento do sistema que exigiram intervenção imediata. Os principais objectivos do exercício eram identificar oportunidades de partilha de informações, estabelecer protocolos de envolvimento público-privado e melhorar a colaboração operacional.
A CISA delineou vários objetivos principais: melhorar as práticas de partilha de informações para incidentes cibernéticos relacionados com IA, avaliar os procedimentos de resposta e melhores práticas dos participantes e identificar áreas para melhoria nos planos de resposta, partilha de informações e resiliência. O exercício também avaliou as capacidades, necessidades e prioridades de colaboração entre agências governamentais, indústria e parceiros internacionais.
Os insights obtidos com o exercício serão usados para desenvolver um manual de colaboração em incidentes de segurança de IA. Este manual visa melhorar a colaboração operacional e aumentar a conscientização do governo, da indústria e de outros parceiros. A CISA planeia realizar um segundo exercício de mesa para testar e aperfeiçoar este manual com empresas e organizações de IA no setor de infraestruturas críticas que já utilizam IA nas suas operações.
A Diretora da CISA, Jen Easterly, enfatizou a importância deste exercício na mitigação dos riscos de IA e destacou a importância do desenvolvimento de produtos seguros de IA. Ela expressou entusiasmo em continuar a colaboração com parceiros para garantir a segurança e a resiliência dos sistemas de IA.
