Η Υπηρεσία Κυβερνοασφάλειας των ΗΠΑ CISA διενεργεί την πρώτη άσκηση AI Cyber Incident που δείχνει ανταπόκριση σε συμβάντα στον κυβερνοχώρο που προκαλούνται από AI

Την περασμένη εβδομάδα, ο Οργανισμός Κυβερνοασφάλειας και Ασφάλειας Υποδομών των ΗΠΑ (CISA) πραγματοποίησε την πρώτη επιτραπέζια άσκηση που επικεντρώθηκε σε περιστατικά ασφάλειας στον κυβερνοχώρο που σχετίζονται με την τεχνητή νοημοσύνη. Διοργανώθηκε από το Joint Cyber Defense Collaborative (JCDC), η τετράωρη άσκηση είχε ως στόχο την προσομοίωση μιας κυβερνοεπίθεσης σε ένα σύστημα με δυνατότητα AI. Οι συμμετέχοντες, συμπεριλαμβανομένων περισσότερων από 50 ειδικών τεχνητής νοημοσύνης από κυβερνητικούς φορείς και συνεργάτες του κλάδου, συγκεντρώθηκαν στις εγκαταστάσεις της Microsoft στο Reston της Βιρτζίνια, για να συνεργαστούν για την απάντηση.

Η άσκηση σχεδιάστηκε για να αντιμετωπίσει σενάρια όπου κινδύνευε η εμπιστευτικότητα, η ακεραιότητα ή η διαθεσιμότητα ενός συστήματος AI ή οποιουδήποτε συστήματος που δημιουργήθηκε ή ενεργοποιήθηκε από την AI. Αυτό περιελάμβανε σημαντικές διαταραχές στη συμπεριφορά του συστήματος που απαιτούσαν άμεση παρέμβαση. Βασικοί στόχοι της άσκησης ήταν ο εντοπισμός ευκαιριών για ανταλλαγή πληροφοριών, η δημιουργία πρωτοκόλλων εμπλοκής δημόσιου και ιδιωτικού τομέα και η ενίσχυση της επιχειρησιακής συνεργασίας.

Η CISA περιέγραψε αρκετούς πρωταρχικούς στόχους: βελτίωση πρακτικών ανταλλαγής πληροφοριών για περιστατικά στον κυβερνοχώρο που σχετίζονται με τεχνητή νοημοσύνη, αξιολόγηση διαδικασιών απόκρισης και βέλτιστων πρακτικών των συμμετεχόντων και εντοπισμός περιοχών για βελτίωση στα σχέδια απόκρισης, ανταλλαγή πληροφοριών και ανθεκτικότητα. Η άσκηση αξιολόγησε επίσης τις δυνατότητες, τις ανάγκες και τις προτεραιότητες για συνεργασία μεταξύ κυβερνητικών υπηρεσιών, βιομηχανίας και διεθνών εταίρων.

Οι πληροφορίες που αποκτήθηκαν από την άσκηση θα χρησιμοποιηθούν για την ανάπτυξη ενός Βιβλίου Συνεργασίας Συμβάντος Ασφαλείας AI. Αυτό το βιβλίο παιχνιδιού στοχεύει να ενισχύσει την επιχειρησιακή συνεργασία και να ευαισθητοποιήσει την κυβέρνηση, τη βιομηχανία και άλλους εταίρους. Η CISA σχεδιάζει να πραγματοποιήσει μια δεύτερη επιτραπέζια άσκηση για να δοκιμάσει και να βελτιώσει αυτό το βιβλίο παιχνιδιού με εταιρείες και οργανισμούς τεχνητής νοημοσύνης στον τομέα των υποδομών ζωτικής σημασίας που ήδη χρησιμοποιούν την τεχνητή νοημοσύνη στις δραστηριότητές τους.

Η διευθύντρια της CISA Jen Easterly τόνισε τη σημασία αυτής της άσκησης για τον μετριασμό των κινδύνων τεχνητής νοημοσύνης και τόνισε τη σημασία της ανάπτυξης ασφαλών προϊόντων τεχνητής νοημοσύνης. Εξέφρασε τον ενθουσιασμό της για τη συνέχιση της συνεργασίας με τους εταίρους για τη διασφάλιση της ασφάλειας και της ανθεκτικότητας των συστημάτων AI.