Kilenc javaslatot tett a Safe AI Forum a kínai frontier AI szabályozására
Kína meglévő mesterségesintelligencia-szabályozási infrastruktúrájára építve kezelné a frontier AI rendszerek sajátos kockázatait a Safe AI Forum új tanulmánya. A szerzők kilenc javaslatot fogalmaztak meg a kockázatértékelés, a vészhelyzeti reagálás és a felelősségi szabályok területén.
- A tanulmány Kína meglévő AI-szabályozási infrastruktúrájára építene.
- Kilenc javaslat három területet fed le: kockázatértékelés, vészhelyzeti reagálás és felelősség.
- A frontier AI modellek képességei több területen általánosíthatók és gyorsan fejlődnek.
- A szerzők pilotzónákban használható másodlagos mechanizmusokat is javasolnak.
- Az elemzés az amerikai, brit és uniós tapasztalatokat is vizsgálja.
A legfejlettebb modellek külön szabályozási kihívást jelentenek
A Safe AI Forum szeptember 16-án publikált tanulmánya szerint a frontier AI modellek olyan élvonalbeli alapmodellek, amelyek képességei több területen is általánosíthatók, gyorsan fejlődnek, és túlmutathatnak azon, amire fejlesztőik közvetlenül betanították őket. A hozzájuk kapcsolódó rendszerek emiatt minőségileg eltérő szabályozási kihívásokat vetnek fel a szűkebb célú mesterségesintelligencia-alkalmazásokhoz képest.
A tanulmány szerzői szerint ezeknél a rendszereknél a szabályozásnak a legnagyobb képességű modellekre és az azokból fakadó, sajátos frontier AI kockázatokra kell összpontosítania. Közben teret kell hagyni az alkalmazási réteg fejlesztésének is, amely a szerzők szerint Kína AI-ökoszisztémájának jelentős részét adja.
A meglévő kínai intézményrendszerre építenének
A Safe AI Forum értékelése szerint Kína az elmúlt évtizedben jelentős mesterségesintelligencia-kormányzási infrastruktúrát épített ki. A tanulmány ezt olyan alapnak tekinti, amelyre a frontier AI szabályozása is felépíthető.
A javasolt megközelítés az infrastruktúra finomhangolását jelentené. A szabályozói figyelem így a legfejlettebb rendszerekre irányulhatna, miközben az alkalmazások fejlesztése előtt megmaradna a mozgástér. A tanulmány Kína intézményi környezetére összpontosít, de az Egyesült Államok, az Egyesült Királyság és az Európai Unió összehasonlító tapasztalatait is felhasználja.
Három területre kilenc javaslat jut
A tanulmány kilenc javaslatot azonosít három fő területen. Ezek a frontier kockázatok értékelése, a vészhelyzeti reagálás, valamint a felelősségi szabályok hozzáigazítása a frontier AI sajátosságaihoz.
A szerzők emellett olyan másodlagos mechanizmusokat is felvázolnak, amelyek kísérleti övezetekben használhatók. A dokumentum absztraktja szerint ezek a mechanizmusok a pilotzónákban végzett kísérletezést támogatják, miközben a fő javaslatok Kína már meglévő szabályozási infrastruktúrájára építenek.
Mit jelenthet ez a kínai AI-ökoszisztéma számára?
A javaslat központi célja, hogy a szabályozás a frontier képességek fejlődésével együtt igazítható legyen. A Safe AI Forum szerint ezzel a megközelítéssel a legnagyobb képességű rendszerek jelentette kockázatok kezelhetők, miközben nem szűkül be szükségtelenül az alkalmazási réteg fejlesztése.
A tanulmányt Emmie Hine, Zhu Yue, Alex Jumper, Jeff Liu, Ian Read, Saad Siddiqui, Raymond Wang, Li Wenlong, James Zhang, Christoph Winter és Zhou Hui jegyzi. A kiadványt szeptember 18-án frissítették.
