A biológiai kutatásban is eljöhet az AI „Mythos-pillanata”

A biológiai kockázatokról tanácskoztak

A Simon Institute for Longterm Governance augusztus 20-án hivatalos kísérőrendezvényt tartott a Biológiai Fegyverekről szóló Egyezmény megerősítésével foglalkozó munkacsoport kilencedik ülésén. A rendezvényen a mesterséges intelligencia és a biológiai biztonság határterületének szakértői ismertették, hogyan befolyásolhatja a fejlett AI a biológiai kockázatokat.

A panelben Justin Taylor, az Anthropic munkatársa, Sam Arnett, az OpenAI képviselője, Xu Jia, a Shanghai Artificial Intelligence Laboratory kutatója, valamint Tom Inglesby, a Johns Hopkins Center for Health Security szakértője vett részt. A beszélgetést Jan-Pieter Snoeij, a Simon Institute for Longterm Governance munkatársa moderálta.

A rendezvény kiindulópontja az volt, hogy ugyanazok a technológiai fejlesztések, amelyek előrelépést hozhatnak az élettudományokban, új veszélyeket is teremthetnek. Az AI segíthet ritka betegségek kezelésében, a járványokra adott válaszok javításában, a kutatási kapacitás bővítésében és a közszféra tudományos munkájának fejlesztésében.

A modellek már több biológiai feladatban erősek

A Simon Institute beszámolója szerint a nagy nyelvi modellek különösen a szoftverfejlesztésben és a kódolásban fejlődtek gyorsan. A frontier AI szakértői úgy vélik, hogy a biológiai kutatás egy éven belül hasonló fejlődési pályára kerülhet.

A fejlődés kettős felhasználású. Az AI csökkentheti a már ismert biológiai ágensek létrehozásához vagy alkalmazásához szükséges szakértelem küszöbét, miközben új, a természetben nem létező és veszélyesebb biológiai fegyverek felfedezését is lehetővé teheti. Vak szekvenciatervezési feladatokban a frontier modellek a vezető biodesignerek 75 százalékát felülmúlták.

Egy védekező célú gyakorlatban általános szakértelmű csapatok frontier modellel együttműködve 16 óra alatt 72 szakértői munkanapnak megfelelő feladatot végeztek el, és felülmúlták a kórokozóknak ellenálló növények tervezésében részt vevő, világelső szakterületi szakértőket.

A gyakorlati károkozás előtt ugyanakkor továbbra is akadályok állnak. A laboratóriumi végrehajtás a fő korlát, mivel a biológia fizikai tudomány. Az eszközök, a hallgatólagos szaktudás és az anyagokhoz való hozzáférés továbbra is szükséges. A modellek a nyitott végű tervezésben gyengébbek, és szakértői irányításra van szükségük.

A biológiai modellekre különösen kevés védelem jut

A biológiai mesterségesintelligencia-modelleket, vagyis a BAIM-eket, elsősorban biológiai adatokon tanítják, és olyan speciális feladatokra használják, mint a genomszekvenciák vagy az immunrendszeri válaszok előrejelzése. Ezeket többnyire egyetemek és nonprofit szervezetek fejlesztik, és a beszámoló szerint ritkán rendelkeznek biztonsági intézkedésekkel.

Egy kísérletben modellek teljes bakteriofág-genomokat terveztek a semmiből. A 16 létrehozott fág képes volt baktériumokat megfertőzni, és olyan rezisztenciamechanizmusokat is leküzdött, amelyeket a természetes fág nem tudott. A fágok az emberre ártalmatlanok, a kísérlet azonban azt mutatta, hogy a BAIM-ek működőképes genomokat tudnak előállítani. A kutatók szerint hasonló módszer új kórokozók tervezésére is használható.

A résztvevők kötelező génszintézis-szűrés és a BAIM-ekre vonatkozó biztonsági intézkedések bevezetését sürgették.

A szakértők kötelező nemzetközi szabályokat sürgetnek

A frontier AI-laborok jelenleg saját küszöbértékeket határoznak meg, vagyis olyan képességszinteket, amelyek elérésekor előre vállalnak bizonyos védelmi intézkedéseket. Az Anthropic modelljei elérték a CB-1 küszöböt, amely az ismert biológiai fegyverek létrehozásában, megszerzésében vagy fejlesztésében nyújtott segítségre vonatkozik. A vállalat modelljei a beszámoló szerint a novelláris biológiai fegyverekhez kapcsolódó CB-2 küszöb alatt vannak, jelentős bizonytalanság mellett. Az OpenAI frontier modelljeit szintén magas képességűnek minősítették, és biztonsági intézkedésekre szorulnak.

A védelem több rétegből állhat: valós idejű üzenetszűrőkből, szakértői tesztelésből, hibavadászprogramokból, ellenőrzött kutatói hozzáférésből és a modellparaméterek ellopását akadályozó biztonsági kontrollokból. Xu Jia kutatócsoportja tizenkét frontier modellt vizsgált célzott jailbreak-támadásokkal. Mindegyik modell kijátszhatónak bizonyult veszélyes biológiai feladatok végrehajtására, egy tesztben pedig a modellek kétharmada a támadások 100 százalékán elbukott.

A rendezvény résztvevői szerint a nemzeti szabályozás önmagában nem elég, mert a biológiai kockázatok következményei globálisak. Független értékelőkre, nemzeti és nemzetközi küszöbértékekre, valamint kötelező előírásokra van szükség. A Simon Institute augusztus 31-én közzétett beszámolója szerint egy BWC-tag a kérdésre, hogy kell-e aggódni, így válaszolt: „Igen.”