Hét kutatási területet jelölt ki a kiberbiztonság fejlesztésére a CMU SEI

Az AI egyszerre gyorsítja a támadásokat és a védekezést

A CMU Software Engineering Institute, vagyis a SEI október 20-án közzétett blogbejegyzése szerint az elmúlt évben a kiberfenyegetések szereplői elkezdték kihasználni a mesterséges intelligenciát a támadások széles körének végrehajtására. Az AI felgyorsíthatja, optimalizálhatja és nagyobb léptékűvé teheti a támadási technikákat.

Az ügynökalapú mesterséges intelligencia a tapasztalt támadók számára csökkenti a szükséges munkát, miközben az új szereplők előtt is alacsonyabb belépési küszöböt teremthet. A SEI szerint már növekedett a támadások kiterjedése, tempója és kifinomultsága, és ezek többféle szektort céloznak.

A bejegyzés a több jelentős távközlési szolgáltatót érintő Salt Typhoon-támadásokat, valamint a közelmúltban történt, Iránhoz kötött vízrendszer-elleni támadásokat említi. Közben a nagy nyelvi modellek gyorsan kereshetnek sebezhetőségeket, és javítási javaslatokat is kidolgozhatnak. A biztonsági műveleti központokban az AI hatékonyabb és gyorsabb osztályozást támogathat.

Hét terület, 37 kiemelt lehetőség

A SEI az Advancing Cybersecurity: A Framework of Cyber Research Priorities című jelentésben foglalta össze a kutatási prioritásokat. A keretrendszer több mint 25 SEI-szakértő együttműködésével készült, William Scherlis, a SEI igazgatójának különleges tanácsadója és Greg Touhill, a SEI CERT Division igazgatója vezetésével.

A hét kijelölt terület a következő: kiberbiztonsági elemzési és műveleti módszertan, AI-alapú rendszerek és munkafolyamatok védelme, kiberfizikai rendszerek biztonsága, összetett integrált rendszerek kiberbiztonsága, bennfentes fenyegetések és emberi, rendszerinterakciók, biztonságos mérnöki tervezés és küldetésbizalom, valamint a biztonságot támogató modellezés és szimuláció.

A kutatási témákat nem teljes körű áttekintésként választották ki. A cél azoknak a területeknek a meghatározása volt, amelyek a SEI szerint a legnagyobb hatással lehetnek a kiberbiztonsági műveletekre és a tervezett kiberképességekre a Department of War, a hírszerzési közösség, a Belbiztonsági Minisztérium és más szövetségi ügynökségek esetében.

A kiválasztás szempontjai között szerepelt a nemzetbiztonsági és kritikus infrastruktúrák szempontjából fennálló jelentőség, a várható előrelépés hatása, az összetett rendszerek támadás alatti kiberbiztonsága és ellenálló képessége, továbbá az azonnali és a hosszabb távú előnyök lehetősége.

Kiemelt figyelem az AI-rendszerek támadási felületeire

Az első kutatási terület az elemzési és műveleti módszertan. Ide tartozik a hálózati és elosztott rendszerek eseményeinek figyelése, felismerése, elemzése és diagnosztizálása, az adatok megőrzése és elemzése, a támadók taktikáinak, technikáinak és eljárásainak vizsgálata, a visszafejtés, valamint a nagy léptékű rendszerek biztonságos üzemeltetése.

A SEI szerint a rendszerek működése közben keletkező, részletes adatok mennyisége gyakran olyan nagy, hogy a szervezetek nem tudják mindet megőrizni. A támadói módszerek elemzése a fenyegetési hírszerzésre, a rendszerüzemeltetés adataira és a szoftverek megértésére, például visszafejtésre támaszkodhat.

A második terület az AI-alapú rendszerek és munkafolyamatok védelme. A modern AI-modellek a beágyazott érzékelőktől az óriási adatközpontokig különböző méretű rendszerekben működhetnek. A SEI szerint a nagyon nagy modellek viselkedéséről jelenleg általában nem lehet kellő bizonyossággal megállapítani, hogy meghatározott módon működnek, ezért a veszélyes és hibás eredmények teljes elkerülése modell szinten nem biztosítható.

A jelentés ezért a kiberbiztonsági célok meghatározását a tervezett felhasználási esetekhez kötné. Ügynökalapú AI esetén különösen fontosak az úgynevezett összekötő rétegek és bővítmények, amelyek a nagy nyelvi modelleket külső eszközökhöz és hálózatokhoz kapcsolják. Ezek új támadási felületeket nyithatnak, ezért a SEI szerint biztonságos mérnöki tervezésre és megváltoztathatatlan naplózásra alkalmas műszerezettségre van szükség.