Az Amerikai Egyesült Államok Kiberbiztonsági Ügynöksége, a CISA végrehajtja az első mesterséges intelligenciával kapcsolatos gyakorlatot, amely bemutatja a mesterséges intelligencia által vezérelt kiberincidensekre való reagálást

A múlt héten az Egyesült Államok Kiberbiztonsági és Infrastruktúra-biztonsági Ügynöksége (CISA) végrehajtotta első gyakorlatát az MI-vel kapcsolatos kiberbiztonsági incidensekre összpontosítva. A Joint Cyber Defense Collaborative (JCDC) által szervezett négyórás gyakorlat célja kibertámadás szimulálása volt egy mesterséges intelligencia-kompatibilis rendszeren. A résztvevők, köztük több mint 50 mesterséges intelligencia-szakértő kormányzati ügynökségektől és iparági partnerektől, összegyűltek a Microsoft Virginia állambeli Reston-i létesítményében, hogy együttműködjenek a válaszadásban.

A gyakorlatot olyan forgatókönyvek kezelésére tervezték, ahol egy MI-rendszer, vagy bármely, az AI által létrehozott vagy engedélyezett rendszer bizalmassága, integritása vagy rendelkezésre állása veszélyben forog. Ez jelentős zavarokat jelentett a rendszer viselkedésében, ami azonnali beavatkozást igényelt. A gyakorlat fő céljai az információmegosztás lehetőségeinek azonosítása, a köz-magán részvételi protokollok létrehozása és az operatív együttműködés fokozása voltak.

A CISA több elsődleges célkitűzést vázolt fel: az MI-vel kapcsolatos kiberincidensek információmegosztási gyakorlatának javítása, a résztvevők válaszeljárásainak és legjobb gyakorlatainak értékelése, valamint a válaszadási tervek, az információmegosztás és az ellenálló képesség javítására szoruló területek meghatározása. A gyakorlat felmérte a kormányzati szervek, az ipar és a nemzetközi partnerek közötti együttműködés képességeit, igényeit és prioritásait is.

A gyakorlat során nyert ismereteket felhasználjuk egy mesterséges intelligencia biztonsági incidensekkel kapcsolatos együttműködési útmutató kidolgozásához. Ennek a játékkönyvnek az a célja, hogy fokozza az operatív együttműködést és felhívja a figyelmet a kormányzat, az ipar és más partnerek körében. A CISA azt tervezi, hogy egy második asztali gyakorlatot is végrehajt, hogy tesztelje és finomítsa ezt a játékkönyvet a kritikus infrastruktúra szektorban működő MI vállalatokkal és szervezetekkel, amelyek már alkalmazzák a mesterséges intelligenciát működésük során.

Jen Easterly, a CISA igazgatója hangsúlyozta ennek a gyakorlatnak a jelentőségét az AI-kockázatok csökkentésében, és kiemelte a biztonságos mesterségesintelligencia-termékek fejlesztésének fontosságát. Lelkesedését fejezte ki a partnerekkel való együttműködés folytatása iránt az AI-rendszerek biztonságának és rugalmasságának biztosítása érdekében.