Közös AI- és kiberbiztonsági kutatóközpontot hoz létre a HKU és a GCSA

Nemzetközi együttműködésre épül az új központ

A University of Hong Kong, vagyis a Hongkongi Egyetem és a Global Cybersecurity Alliance (GCSA) október 19-én jelentette be a Centre for AI and Cybersecurity Research közös létrehozását. A központ célja, hogy a két szervezet kutatási kapacitásait és szakmai erőforrásait egyesítve fejlessze a mesterséges intelligencia és a kiberbiztonság kutatását.

A kezdeményezés a kutatási eredmények és a valós biztonsági helyzetek közötti szorosabb kapcsolat kialakítására törekszik. A központ új technológiákat, módszertanokat és irányítási keretrendszereket is vizsgál majd az AI és a kiberbiztonság területén.

Az intézmény megbízott igazgatója Ho Chen professzor lesz, aki a HKU School of Computing and Data Science kiberbiztonsági tanszékének vezetője. A munkába a HKU, a GCSA és nemzetközi partnerintézmények kutatói is bekapcsolódnak. Emellett a központ mesterségesintelligencia-, kiberbiztonsági és technológiai kormányzási szakértőket kér fel kutatási és tanácsadói feladatokra.

A nyelvi modellek biztonsága is kiemelt téma

A kutatási program egyik fő iránya a modellek belső biztonsága és a megbízható mesterséges intelligencia. A központ a nagy nyelvi modellek és a generatív AI biztonságát, értelmezhetőségét és ellenálló képességét vizsgálja.

Szintén fontos terület lesz az AI-alapú, automatizált fenyegetésvédelem. A kutatók azt vizsgálják, hogyan használható a mesterséges intelligencia az összetett kibertámadások felismerésének és automatizált elhárításának javítására.

A központ a következő generációs technológiák biztonsági kockázatait is értékeli. Ide tartozik a megtestesült mesterséges intelligencia, a robotika és a dolgok internete, vagyis az IoT. A negyedik kiemelt terület a globális AI-biztonsági szabványok és irányítási rendszerek kutatása, amely a nemzetközi párbeszédet és együttműködést segítheti.

Kutatási eredményeket és nyílt eszközöket ígérnek

A Centre for AI and Cybersecurity Research a tudományos kutatást és az ipari gyakorlatot is közelebb szeretné hozni egymáshoz. A központ tervei szerint fokozatosan kutatási eredményeket, biztonsági viszonyítási alapokat és nyílt forráskódú eszközöket tesz majd közzé az AI és a kiberbiztonság területén.

Ho Chen professzor szerint a mesterséges intelligencia gyors fejlődése példátlan biztonsági kockázatokat és kormányzási kihívásokat hoz. A HKU közleménye szerint a központ hídként kapcsolja össze az akadémiai kutatást, a biztonsági tesztelést és az ipari alkalmazást, hogy a tudományos eredmények gyakorlati felhasználása gyorsabban megvalósulhasson.

A felhasználók és a biztonsági szakemberek számára a kezdeményezés legfontosabb kézzelfogható eredményei a tervezett kutatási publikációk, biztonsági benchmarkok és nyílt forráskódú eszközök lehetnek. A központ nemzetközi és intézményközi együttműködése emellett az AI-biztonsági szabványokról és irányítási modellekről folytatott párbeszédhez is hozzájárulhat.