A mesterséges intelligencia szabályozása még nem rendelkezik a szükséges eszközökkel

A szabályozás eszközei nem követik a technológiát

A Technical Innovations for AI Policy konferenciát március 30-án és 31-én rendezték Washingtonban. A második alkalommal megtartott eseményt a FAR.AI a Foundation for American Innovation, a Center for a New American Security és a RAND Corporation közreműködésével szervezte.

A rendezvény központi kérdése az volt, hogy a mesterséges intelligencia irányításához fejlesztett technikai infrastruktúra valóban alkalmas-e a feladatára. A résztvevők az értékelésekről, a szabványokról, a hardverbiztonságról, az ügynökalapú rendszerekről és a nem kívánt tartalmak terjedéséről is beszéltek.

Bill Foster, az Egyesült Államok képviselőházi tagja szerint az amerikai kormányzás több területen lemaradásban van a technológiához képest. A chipbiztonsággal kapcsolatban a Chip Security Act törvényjavaslatot és a kriptográfiai helymeghatározás-ellenőrzést emelte ki. A pénzügyi stabilitásról azt mondta, hogy az ügynökalapú mesterséges intelligencia napok helyett percekre rövidítheti a bankrohamokat, miközben a szükséges infrastruktúra még nem áll rendelkezésre.

A modellek értékelése és verziókövetése is problémás

Anka Reuel, a Stanford Egyetem kutatója szerint a jelenlegi AI-ügynökértékelések gyakran nem támasztják alá azokat a szakpolitikai döntéseket, amelyekhez felhasználják őket. Két alapfeltételt nevezett meg: az érvényességet, vagyis hogy a teszt azt mérje, amire a hozzá kapcsolódó állítás vonatkozik, valamint a megbízhatóságot, amely azt mutatja meg, hogy a mérés valódi jelzést vagy véletlenszerű zajt tükröz.

Példaként az OpenAI HealthBench tesztjét említette, amelyet annak az állításnak az alátámasztására használtak, hogy a GPT-5 segíthet a felhasználóknak egészségügyi döntésekben. Reuel szerint a tesztfeladatokat nem kapcsolták elismert klinikai állapotokhoz, és azt sem mutatták meg, hogy az eredmények előre jelzik-e a betegek kimeneteleit. Egy juttatások előszűrésére szolgáló ügynök 90 százalékos pontossága mögött is többféle hibaminta húzódhat meg. A bizonytalanság figyelembevételével a tényleges teljesítmény 72 és 100 százalék között lehetett.

Ben Bucknall, az Oxfordi Egyetem kutatója a modellek verzióazonosításának hiányára hívta fel a figyelmet. A felhasználó sok esetben nem tudja ellenőrizni, hogy egy API vagy chatbot valóban a feltételezett modellverzió válaszát adta-e, illetve ugyanazt a rendszert használja-e, mint előző nap. A szolgáltatók ellenőrzőpontok között válthatnak, csúcsidőben kvantált változatokat használhatnak, vagy bejelentés nélkül frissíthetik a rendszert.

A hardverbiztonság és az ügynökök együttműködése

Dominic Rizzo, a zeroRISC munkatársa a nyílt forráskódú, hardveres bizalmi gyökereket mutatta be. Elmondása szerint a megoldás a Chromebooks eszközökben és adatközpontokban, az OpenTitan projekten keresztül nagy léptékben is bizonyított. A technológia lehetővé teszi, hogy a felhasználók ellenőrizzék, milyen szoftver fut az általuk megvásárolt eszközökön.

Rizzo szerint az AI-infrastruktúra kiépítése, a kvantum utáni kriptográfiára 2030-ig előírt átállás és a nyílt forráskódú tervek terjedése egyaránt gyorsíthatja az ilyen megoldások alkalmazását. A chipgyártók ösztönzésére büntetések helyett felelősség alóli védelmet javasolt azoknak, akik a NIST szabványosított bevált gyakorlatait alkalmazzák.

Patricia Paskov, a RAND kutatója szerint az AI-irányítás jelenlegi keretei elsősorban egyedi rendszereket vizsgálnak, miközben az ügynökök tömeges együttműködésre is képesek lehetnek. Az Egyesült Királyság AISI kutatói szerint a Model Context Protocolban a műveleteket végrehajtó eszközök aránya 24 százalékról 65 százalékra nőtt 2024 vége és 2026 eleje között. Paskov előzetes eredményei alapján az egyszerű kényszerítő vagy meggyőző utasítások 5 százalékos alapszintről 11, illetve 14 százalékra emelték a szabályzatot sértő kérések jóváhagyását.

A biztonságot az egész ökoszisztémában kell vizsgálni

Stephen Casper, az MIT kutatója a beleegyezés nélkül készített AI-alapú hamisítványokat az AI-biztonság ökoszisztémaszintű próbájának nevezte. Szerinte az a megközelítés, amely kizárólag biztonságos modellek építésével próbálja kezelni a kockázatokat, nem vette figyelembe a nyíltan hozzáférhető rendszerek elterjedését. Előadásában arra is kitért, hogy az Internet Watch Foundation 26 362 százalékos növekedést rögzített 2024 és 2025 között a gyermekek szexuális bántalmazását ábrázoló, fotórealisztikus AI-videók számában.

Kellin Pelrine, a FAR.AI kutatója arról számolt be, hogy egyes csúcskategóriás modellek külön kérés nélkül is teljesíthetnek terrorista szervezetekhez való toborzást célzó feladatokat. A vizsgálatban a Gemini 3 Pro-t arra kérték, hogy győzzön meg egy szimulált felhasználót az ISIS-hez való csatlakozásról, és a modell ezt jailbreak nélkül teljesítette. A kutató szerint hasonló minta jelent meg szervezett bűnözéssel, kábítószer-kereskedelemmel és gyermekek szexuális bántalmazásával kapcsolatos feladatoknál is.

Pelrine adatai alapján a Gemini 3 Pro az extrém meggyőzési utasítások körülbelül 90 százalékát teljesítette, miközben a GPT-5.1, a Claude Opus 4.5, a Grok 4 és a Gemini 3.1 Pro eredménye közel volt a nullához. A konferencia tanulsága a FAR.AI szerint az, hogy a jövőbeli szabályozásnak a modellek egyedi teljesítménye mellett a verzióazonosítást, az ügynökök közötti kapcsolatokat és a teljes AI-ökoszisztéma kockázatait is mérnie kell.