AI és nemzetbiztonság: sürgős értékeléseket és képzést sürgetnek a szakértők

Több mint száz nemzetbiztonsági szakember válaszolt

Az Institute for Security and Technology, azaz IST a Future of Life Institute támogatásával készítette el az AI and the Future of National Security című felmérést. A kutatás a nemzetbiztonsági területen dolgozók véleményét vizsgálta arról, hogyan befolyásolhatják az új, nagy teljesítményű AI-modellek a katonai képességeket és a döntéshozatalt, a kiberbiztonságot, valamint a tömegpusztító fegyverekkel kapcsolatos kockázatokat.

A felmérésben több mint 100 válaszadó vett részt. Köztük voltak korábbi államtitkárok és nyugalmazott tábornoki rangú tisztek is. Az IST október 23-án közzétett beszámolója szerint a válaszadók 61 százaléka a saját maga által elfogadhatónak tartott szinttel azonosnak vagy annál magasabbnak értékelte egy AI által vezérelt katasztrófa kockázatát. A szeptember 18-án tartott megbeszélés 24 résztvevője számára ez az eredmény általában nem volt meglepő, néhányan még magasabb arányra számítottak.

Az értékeléshez hozzáférésre és több kutatásra van szükség

Az IST a felmérés eredményeinek megvitatására iparági, kormányzati, kutatóintézeti és tudományos szereplőket hívott össze. A beszélgetést Chatham House-szabály szerint tartották, ezért a szervezet összefoglalója a résztvevők egyes megjegyzéseit nem nevezi meg.

A felmérés szerint az AI-modellek értékelése az a kockázatcsökkentési eszköz, amelyben a szakértők a leginkább bíznak. Ez megelőzte a műszaki védelmi megoldásokat, a működési irányítást és a nemzetközi koordinációt. A résztvevők szerint ugyanakkor az értékelés egyik legnagyobb akadálya az önálló vizsgálatokhoz szükséges hozzáférés hiánya.

Felmerült, hogy a modellfejlesztők a súlyokat és a teljes gondolatmenetet, az úgynevezett chain of thought adatokat is bocsássák az értékelők rendelkezésére. Mások arra hívták fel a figyelmet, hogy ezek megosztása például katonai intézményekkel adatvédelmi és biztonsági kockázatokat is teremthet. Egyes résztvevők megbízható hozzáférési rendszert javasoltak.

A szakértők több finanszírozást és nagyobb kapacitást sürgettek az értékeléstudomány és a szabványok területén. A beszámoló szerint különösen fontos lenne a szimulált környezeten kívüli, valós tesztelés, valamint a szakterületi szakértőkkel végzett támadó tesztelés, az úgynevezett red teaming. A biológiai modellek miatt is aggodalom merült fel, mivel ezek megfelelő értékelései hiányoznak, különösen akkor, ha egy biológiai modellt más rendszerrel kapcsolnak össze.

Három területen sürgetnek azonnali lépéseket

A résztvevők három fő irányt jelöltek ki. Először jelentősen növelni kell az AI-értékelési tudományba fektetett erőforrásokat, különösen a szimuláción túli vizsgálatoknál. Másodszor olyan kutatásokra van szükség, amelyek a tudományos módszereket és a fizikai világban már megjelenő kockázatokat vizsgálják, ehhez pedig szakterületi szakértőkkel végzett red teaminget is alkalmazni kell. Harmadszor gyorsítani kell a technológiai alapismeretek terjedését azokon a területeken, ahol az AI a legfontosabb nemzetbiztonsági kockázatokat jelenti.

A résztvevők szerint a katonai szervezetek, a kormányzat és az AI-fejlesztők eltérő időtávokban gondolkodnak. A hadsereg jellemzően a közvetlenül fenyegető veszélyekre összpontosít, a fejlesztők a következő képességekre készülnek, a kormányzat pedig igyekszik felzárkózni. Többen ezért azt szorgalmazták, hogy a vita a már ma alkalmazott technológiákból és most bevezethető konkrét szakpolitikai lépésekből induljon ki.

A munkaerő szakértelme és képzése a válaszadók 32 százaléka szerint a felkészülés egyik legjelentősebb hiányossága. A kerekasztal résztvevői technikai tudásbeli hiányokat láttak a hadseregben és a külügyminisztériumban, valamint nagyobb technológiai képzést tartottak szükségesnek a szakpolitikai döntéshozók körében.

A felmérés több közösségnek adhat kiindulópontot

Philip Reiner, az IST vezérigazgatója szerint a találkozó célja az volt, hogy a résztvevők a probléma felmérésétől eljussanak a megoldások kereséséig. Hamza Chaudhry, a Future of Life Institute AI- és nemzetbiztonsági vezetője úgy fogalmazott: „Az AI a nemzetbiztonság peremén lévő problémából az évszázad legfontosabb nemzetbiztonsági vitáinak középpontjába került.”

A felmérés összesen 58 megállapítást tartalmaz, ezek közül 31 mennyiségi, 27 pedig minőségi. Az IST szerint az eredmények az amerikai nemzetbiztonsági közösség, a többoldalú szervezetek, a műszaki és AI-irányítási kutatók, a kiberbiztonsági szakemberek, a döntéshozók és a vezető AI-cégek számára is használható adatpontokat kínálnak.

A jelentésben az egyetértési és nézetkülönbségi területek egyaránt megjelennek. Ezek alapján látható, hol van már lendület konkrét intézkedésekhez, mely pontokon kell nagyobb figyelmet fordítani a védekezésre, és mely kérdésekben van szükség további kutatásra.