Az EU az FAR.AI vezette konzorciumra bízza a CBRN-kockázatok vizsgálatát

Az EU mesterségesintelligencia-rendeletének végrehajtását támogatják

Az FAR.AI közlése szerint az Európai Bizottság AI Office-a azzal bízta meg a szervezetet, hogy technikai biztonsági kutatással támogassa az Európai Unió mesterségesintelligencia-rendeletének végrehajtását. A projekt középpontjában a CBRN-kockázatok állnak. A rövidítés vegyi, biológiai, radiológiai és nukleáris fenyegetéseket jelöl.

Az EU AI Act 2024. augusztus 1-jén lépett hatályba. A rendelet az FAR.AI összefoglalója szerint a mesterséges intelligencia legátfogóbb szabályozási keretét hozta létre, amelynek célja az AI-technológiák fejlesztésének és használatának átláthatóbbá, biztonságosabbá és elszámoltathatóbbá tétele.

Az AI Office egyik feladata az általános célú, rendszerszintű kockázatot jelentő modellek értékelése. Ennek része annak vizsgálata is, hogy ezek a modellek csökkenthetik-e a vegyi, biológiai, radiológiai vagy nukleáris anyagok előállításának, illetve helytelen használatának technikai akadályait.

Kockázati modellek és modellértékelések készülnek

Az FAR.AI vezeti a CBRN Risk Modelling and Evaluation konzorciumot. A megbízás az „Artificial Intelligence Act: Technical Assistance for AI Safety” elnevezésű közbeszerzési eljárás sikeres pályázatához kapcsolódik, annak első tételében, az EC-CNECT/2025/OP/0032 számú Lot 1-ben.

A szervezet az AI Office-szal közösen kockázatmodellezési műhelyeket szervez. Ezek eredményeként kockázati modellek, forgatókönyvek és küszöbértékek készülnek, amelyek a későbbi értékelések alapjául szolgálhatnak. A konzorcium a már elérhető értékelési munkákat is összegzi, és szabványosított jelentési eljárásokat alakít ki a CBRN-kockázatokhoz.

A feladat része a fejlett AI-modellek értékelése és olyan fenyegetési modellek kidolgozása, amelyek megmutathatják, milyen kockázati helyzetekben jelenthetnek problémát ezek a rendszerek. Az FAR.AI szerint a munkát három éven keresztül végzik.

Ellenséges teszteléssel keresik a veszélyes képességeket

A konzorcium red-teaminget, vagyis ellenséges tesztelést is végez. Ennek során szigorú értékelésekkel vizsgálják, hogy az AI-fejlesztések milyen mértékben növelhetik rosszhiszemű szereplők CBRN-képességeit. A kutatás célja a biztonsági hiányosságok és a visszaélési lehetőségek feltárása.

Az FAR.AI rendszeresen tájékoztatja majd az Európai Bizottságot az új fejleményekről. A figyelt területek között szerepelnek az új modellek, a kockázati források, a képességek előhívására használt technikák, a kockázatcsökkentő intézkedések és az incidensek.

A projektben az FAR.AI mellett a biológiai fenyegetések értékelésére szakosodott SecureBio, valamint az AI-irányítással és kockázatmodellezéssel foglalkozó SaferAI vesz részt. Alvállalkozóként a GovAI fenyegetésmodellezési, a Nemesys Insights a vegyi, biológiai, radiológiai és nukleáris fenyegetésekkel kapcsolatos, az Equistamp pedig értékelésmérnöki szakértelmet biztosít.

A munka az AI Office értékelési képességeit erősítheti

A megbízás az uniós szabályozás gyakorlati végrehajtásához adhat technikai alapot. A közös kockázati keretrendszer, a benchmarkok és a modellértékelések segíthetik az AI Office-t abban, hogy egységesebben vizsgálja a rendszerszintű kockázatot jelentő általános célú modelleket.

Az FAR.AI egy másik, ugyanahhoz a közbeszerzéshez tartozó tételben, a Lot 4-ben is közreműködik. Ebben a káros manipulációs kockázatok modellezésének és értékelésének támogatására végez red-teaminget alvállalkozóként.

Az FAR.AI 2022-ben alapított, független nonprofit kutatószervezetként írja le magát. Kutatásai a fejlett AI-rendszerek megbízhatóságára, biztonságára és az emberi értékekkel való összehangolására irányulnak.