Az OpenAI és a lengyel NASK közösen kutatja az AI biztonsági kockázatait
Az OpenAI és a lengyel NASK Nemzeti Kutatóintézet együttműködési megállapodást írt alá a mesterséges intelligencia biztonságának, védelmének és technikai kutatásának fejlesztéséről. A partnerség célja a fejlődő kockázatok jobb megértése, a biztonsági intézkedések erősítése és a fejlett AI-rendszerek vizsgálata.
- Az OpenAI és a lengyel NASK AI-biztonsági együttműködési megállapodást írt alá.
- A felek fejlett AI-rendszerek értékelését és sérülékenységeik feltárását kutatják.
- Az OpenAI nemzetközi technikai szabványok kialakítását sürgeti.
- A CERT Polska hat sérülékenységet talált a MikroTik RouterOS rendszerében.
- A MikroTik javításokat adott ki, amelyek a CERT Polska szerint megakadályozták a megfigyelt támadásokat.
Közös kutatás az egyre fejlettebb AI-rendszerekről
Az OpenAI közleménye szerint a megállapodás keretében a NASK AI Safety Research Center, amely a lengyel mesterségesintelligencia-biztonsági intézetként, vagyis AISI-ként működik, az OpenAI-jal együtt vizsgálja majd az AI-biztonság kérdéseit. A felek olyan módszereket keresnek, amelyekkel értékelhetők az egyre nagyobb képességű AI-rendszerek, azonosíthatók a lehetséges sérülékenységek, és megerősíthetők a védelmi intézkedések.
Az OpenAI szerint az AI-rendszerek képességeinek növekedésével egyre fontosabbá válik a fejlesztők és a közfinanszírozott kutatóintézetek nemzetközi együttműködése. A partnerségben mindkét szervezet szakértelme hozzájárulhat a felmerülő kockázatok feltárásához, valamint egy biztonságosabb és ellenállóbb digitális környezet kialakításához.
Nemzetközi szabványok kialakítását sürgeti az OpenAI
Az OpenAI korábban arra szólította fel az Egyesült Államokat, hogy a világ más országaival együtt dolgozzon a legfejlettebb AI-rendszerekre vonatkozó nemzetközi technikai szabványokon. A vállalat szerint ebben fontos szerepük lehet az AI-biztonsági intézeteknek és a szabványügyi szervezeteknek.
A közös megközelítések segítségével az országok összehasonlíthatják a bizonyítékokat, egységesebben értékelhetik az AI-rendszerek képességeit és kockázatait, tesztelhetik a védelmi megoldásokat, valamint jelenthetik a biztonsági incidenseket. Ezek az intézkedések az olyan kockázatok kezelését is támogathatják, amelyek több ország határain átnyúlnak.
Az OpenAI szerint a NASK bevonása azért fontos, mert az intézet nemzeti szintű tapasztalattal rendelkezik az AI-biztonság területén, és kutatásait közvetlenül a közszolgáltatások, valamint Lengyelország digitális információs ökoszisztémájának védelmében alkalmazza.
A megállapodás a lengyel kiberbiztonsági együttműködésre épít
A mostani megállapodás az OpenAI és a lengyel kiberbiztonsági szakemberek korábbi munkáját is folytatja. Júliusban a NASK-on belül működő CERT Polska hozzáférést kapott az OpenAI kiberbiztonsági képességekkel rendelkező modelljeihez a Daybreaken keresztül.
A CERT Polska az OpenAI modelljeit használva hat sérülékenységet fedezett fel a MikroTik RouterOS rendszerében. A feltárt hibák között olyanok is voltak, amelyeket együtt kihasználva hitelesítés nélkül át lehetett venni az érintett eszközök irányítását.
A gyártó javításokat adott ki a hibákra. A CERT Polska megerősítette, hogy ezek a javítások megakadályozták az általa megfigyelt támadásokat. Az OpenAI közleménye ezt a korábbi eredményt hozza fel példaként arra, miként kapcsolható össze az AI-kutatás a gyakorlati kiberbiztonsági védelemmel.
Mit jelenthet az együttműködés?
A partnerség a felhasználók és a digitális szolgáltatások szempontjából azt jelentheti, hogy a fejlett AI-rendszerek biztonságát a nemzeti intézmények gyakorlati tapasztalataival együtt vizsgálják. A NASK szerepe összeköti a nemzetközi AI-biztonsági kutatást azokkal a rendszerekkel és közszolgáltatásokkal, amelyekben ezeket a technológiákat használják.
Az OpenAI már együtt dolgozik az Egyesült Államok Center for Advancing Standards and Innovation for Super Intelligence nevű központjával, a brit AI Security Institute-tal és más közintézményekkel is. A vállalat szerint ezek a kapcsolatok hozzájárultak a védelmi intézkedések erősítéséhez, az AI-ügynökök biztonsági sérülékenységeinek azonosításához és kijavításához, valamint a legfejlettebb AI-rendszerek biztonságának kutatásához.
