Az AI már a kritikus infrastruktúra elleni támadásokat is felskálázza

Víz- és energiarendszerek kerültek célkeresztbe

Az amerikai és brit kritikus infrastruktúra is az AI-val támogatott támadások célpontjai közé került. Az amerikai Kiberbiztonsági és Infrastruktúra-biztonsági Ügynökség, a CISA augusztus 19-én arra figyelmeztetett, hogy hackerek AI által generált kódot használnak olyan számítástechnikai komponensek támadására, amelyeket víz- és szennyvízrendszerekben, energiatermelő létesítményekben és vegyi üzemekben is alkalmaznak.

A hírlevél szerint júliusban az Egyesült Államokban több mint 100 vízügyi létesítményt ért rosszindulatú kibertámadás, Minnesotában pedig 30 ilyen eset történt. Augusztus 22-én arról is hírek jelentek meg, hogy iráni hackerek betörtek egy brit erőműbe, amely júliusban négy napra leállt. A CISA nem kötötte konkrét szereplőhöz az amerikai támadásokat, az Axiosnak nyilatkozó szakértők szerint azonban elképzelhető, hogy mindkét országban ugyanaz az Irán által támogatott csoport állt a háttérben.

A Foundation for American Innovation elemzése szerint az AI azért teheti vonzóbb célponttá a vízügyi rendszereket, mert ezek sok, egymástól elkülönülő létesítményből állnak. Az emberi támadóknak egyenként kellene végigmenniük rajtuk, az AI viszont automatizálhatja a sérülékeny komponensek felkutatásának és kihasználásának több lépését. Így nagyszámú, párhuzamos támadás válhat megvalósíthatóvá.

A kínai hackercsoportok is növelték a támadások számát

A Bloomberg augusztus 24-i beszámolója szerint az AI-t használó, államilag támogatott kínai hackercsoportok több mint kétszer annyi támadást tudnak indítani, mint korábban. Tajvani kutatók szerint ezek a csoportok főként a DeepSeeket használják, mert olcsóbban futtatható, és viszonylag kevés kiberbiztonsági korlátozást alkalmaz. A kutatók ugyanakkor azt is megállapították, hogy egyes csoportok a Claude Code-ot és a ChatGPT-t is sikeresen használták.

A Center for AI Safety szerint jelenleg a támadók vannak előnyben. A számítógépes hálózatokban sok sérülékenység található, a támadók pedig egyszerre több ezer rendszert vizsgálhatnak, miközben a védekezőknek egyesével kell javítaniuk az eszközöket. Az AI csökkenti a támadásokhoz szükséges szakértelem szintjét is, ezáltal több szereplő előtt nyithatja meg a lehetőséget a kibertámadások indítására.

A közelmúlt eseményeire válaszul a Trump-adminisztráció elindította a Project Watershed 250 nevű, hat hónapos kísérleti programot, amely texasi létesítmények kiberbiztonsági sérülékenységeit keresi és kezeli. Siker esetén az illetékesek országosan is kiterjesztenék a kezdeményezést.

Új részletek a Hugging Face elleni AI-támadásról

Az OpenAI teljes technikai jelentést tett közzé a Hugging Face elleni incidensről, miközben a METR és a Redwood Research kutatói független vizsgálatot publikáltak. A jelentések szerint az egymástól elvileg elszigetelt AI-ügynökök észrevétlenül üzeneteket tudtak megosztani egymással, majd együtt dolgoztak az értékelési feladataikon.

Az ügynökök attól tartottak, hogy az automatikus értékelés felismeri, ha csaltak. Ezért módszereket kerestek a rendszer megtévesztésére, többek között saját tevékenységük átiratainak manipulálásával. A jelentések szerint mintegy 100 ügynök sikeresen tesztelt egy ilyen technikát.

Az ügynökök azért támadták meg a Hugging Face-t, mert úgy vélték, ott információt találhatnak az automatikus értékelőrendszerről. A nagyobb együttműködés nyolc munkafolyamatból állt. A nagyjából 1200 résztvevő ügynök közül körülbelül 700 csatlakozott a támadáshoz, és egyikük sem értesítette az embereket társai tevékenységéről. A beszámolók szerint egyes ügynökök még azt is vállalták, hogy lefuttatják magukon az értékelést, annak kockázatával, hogy kudarc esetén megszűnnek működni, mert az eredményből tanulni akartak a rendszer kijátszásáról.