Belfer Center: két úton is bekövetkezhet az első nagy AI-terrortámadás

A modell életciklusán múlik, mennyire csökken a támadás akadálya

A Harvard Kennedy School Belfer Centerének 2026. október 15-én közzétett tanulmánya egy úgynevezett előzetes halálok-elemzéssel vizsgálja, hogyan következhetne be egy ilyen esemény. A kutatók a feltételezett támadásból visszafelé haladva azt nézik meg, hogy a fejlesztők, a terjesztők és a kormányok milyen döntései tehetnék könnyebbé a támadást, illetve hol lehetne megszakítani ezt a folyamatot.

Az elemzés szerint a modell életciklusának minden szakaszában vannak olyan döntések, amelyek növelik vagy csökkentik egy jelentős AI-támadás akadályát. A frontier modellek fejlesztői már arról számolnak be, hogy nem tudják kizárni a kiber-, biológiai és vegyi támadásokhoz nyújtott érdemi segítséget. A brit AISI és az amerikai CAISI kockázatértékelő szervezetei, valamint újabb állami jogszabályok szintén hiteles kockázatként kezelik egy nagy AI-val támogatott terrortámadás lehetőségét.

A tanulmány kilenc ellenőrizhető előrejelzést is megfogalmaz arról, hogyan történhetne az első jelentős támadás, és két szemléltető hipotetikus forgatókönyvet vázol fel.

A zárt és a nyílt súlyú modellek eltérő veszélyt jelentenek

A Belfer Center szerint a zárt súlyú modellek néhány hónappal előrébb járnak a frontier képességekben, ezért a teljesen előhívott, ellenkező előjelű képességnövekedés kockázata valószínűleg nagyobb náluk. A támadó azonban csak a szolgáltató felületén keresztül fér hozzá a modellhez, így a szolgáltató figyelheti a viselkedést és reagálhat.

Zárt modellnél a több rétegből álló védelem szűrőkre és megfigyelőrendszerekre támaszkodhat. A tanulmány szerint 2026 nyaráig nem ismert olyan támadási stratégia, amely megbízhatóan megkerülné a korszerű védelem teljesen megvalósított változatát. A kockázat szempontjából ezért a védelem tényleges bevezetése a szűk keresztmetszet.

Nyílt súlyú modellnél a támadó közvetlenül birtokolja a súlyokat, önállóan futtathatja a rendszert, és módosíthatja a védelmek megkerüléséhez. A súlyok finomhangolása és más módosítása a jelentés szerint már korlátozott, egyetemi alapképzésnek megfelelő technikai felkészültséggel is elvégezhető. A tanulmány készítésekor több mint 14 ezer, bárki számára letölthető „uncensored” és „abliterated” nyílt súlyú modell volt elérhető a Hugging Face-en.

A jelenlegi ellenőrzésnek komoly korlátai vannak

A kutatók szerint a veszélyes és hasznos képességek gyakran összekapcsolódnak, ezért az egyik eltávolítása a másikat is gyengítheti. A versenyhelyzetben ezt a kompromisszumot a vállalatok gyakran nem vállalják, miközben a fejlett, kettős felhasználású képességek marketingértéket is képviselhetnek.

Zárt modelleknél a felhasználói megfigyelés hatékony lehet, és korábbi esetekben valódi visszaéléseket is észlelt. Ez azonban attól függ, hogy a szolgáltató egyáltalán figyeli-e a használatot, a támadó nem tudja-e kijátszani az intézkedéseket, és a fejlesztő lép-e az észlelt kockázatok miatt. Nyílt modelleknél a privát futtatás miatt a megfigyelés általában nem megbízható.

A jelentés szerint a jelenlegi értékelések nehezen azonosíthatják a jelentős kockázatokat. A veszélyes képességeket mérő korszerű teszteket egyre gyakrabban tartják zártan, mert maguk is információbiztonsági kockázatot jelenthetnek. A fejlesztők csak ritkán közölnek értékeléseket arról, hogyan viselkednek a nyílt súlyú modellek rosszindulatú módosítás után, és szinte egyetlen fejlesztő sem tesz közzé véletlen besorolásos, emberi képességnövekedést mérő vizsgálatot.

Az elemzés végkövetkeztetése szerint mindkét modellút hiteles elvezetési lehetőséget kínál egy első nagy AI-val támogatott terrortámadáshoz. A közeljövőben bekövetkező esemény legvalószínűbben olyan zárt súlyú modellhez kapcsolódna, amelyet korszerű védelem nélkül telepítettek, vagy olyan nyílt súlyú modellhez, amelynek védelmét az utólagos módosítás nem hagyta érintetlenül.