Policy Teamet hoz létre az AI-kormányzás kutatására a GovAI

Hosszú távú AI-politikára összpontosítanak

A GovAI a 2022. augusztus 1-jén közzétett bejelentés szerint azért állítja fel a Policy Teamet, mert az AI-kormányzás területén több alapos kutatásra van szükség arról, hogy a meghatározó szereplőknek, köztük a kormányoknak és az AI-laboratóriumoknak mit kell tenniük a következő években a fejlett mesterséges intelligenciára való felkészülés érdekében.

A csapat elsődleges feladata az AI-politika fejlesztése hosszú távú nézőpontból. Tanácsadással és az ajánlások képviseletével is foglalkozik majd, de a GovAI közlése szerint ezekben a tevékenységekben elsősorban más szereplőkre támaszkodna. A kutatások leginkább az Egyesült Államok, az Egyesült Királyság és az Európai Unió kormányai, valamint az AI-laboratóriumok számára lehetnek fontosak.

A csapat egyszerre néhány kiemelt témára kíván összpontosítani. Az első tervek között a számítási kapacitás kormányzati szerepének vizsgálata, a vállalatirányítás és az AI-szabályozás szerepel.

Három kiemelt kutatási irány

A compute governance, vagyis a számítási kapacitás irányítása azt vizsgálja, hogy a számítási erőforrások alkalmasak lehetnek-e az AI-kormányzás fontos eszközeként. A GovAI szerint ilyen cél lehet a képességek figyelemmel kísérése, a hozzáférés korlátozása, valamint a magas kockázatú rendszerek azonosítása, hogy azokat alapos szakértői vizsgálatnak vessék alá.

A vállalatirányítási kutatások azt keresik, milyen intézkedéseket érdemes elfogadniuk a fejlett AI-rendszereket fejlesztő laboratóriumoknak. A kérdések között szerepel, hogy más iparágak tapasztalatai miként javíthatják a kockázatkezelést, hogyan felügyelheti hatékonyan az igazgatótanács a vezetést, és miként kell kialakítani az etikai testületeket.

Az AI-szabályozás területén a csapat azt vizsgálja, mely jelenlegi szabályozási megoldások segíthetik leginkább a fejlett AI-rendszerekből fakadó kockázatok kezelését. Felmerül többek között, hogy az alapmodellek legyenek-e szabályozási célpontok, milyen tulajdonságokat kellene kötelezően előírni az AI-rendszereknél, valamint hogyan hozhatók létre rugalmasabb és szakértőbb szabályozási ökoszisztémák.

A kutatástól a döntéshozói tanácsadásig

A Policy Team többféle módszerrel dolgozna. A GovAI tervei között szerepel, hogy kívánatos jövőbeli eredményekből vezessenek vissza konkrét szakpolitikai ajánlásokhoz, felkészüljenek meghatározott eseményekre, valamint megfogalmazzák és értékeljék a köztes szakpolitikai célokat.

A csapat egyes kormányzati eszközök lehetőségeit is elemezné, értékelné a már létező ajánlásokat, és konkrét tanácsokat adna a döntéshozóknak. A bejelentés példaként említi az Egyesült Államok Nemzeti AI-kutatási Erőforrásának kialakításához adható szakmai hozzájárulást.

A GovAI idővel értékelni kívánja, mely témák és megközelítések bizonyulnak a leghasznosabbnak, majd ennek megfelelően módosítaná a fókuszt. A Policy Teamet Jonas Schuett, Lennart Heim és Markus Anderljung alkotja. Schuett a vállalatirányításra, Heim a számítási kapacitás irányítására szakosodott, Anderljung pedig a csapat vezetője.

Bővítik a csapatot

A Policy Team együttműködik a GovAI többi munkatársával és más szervezetek szakembereivel is. A szervezet rendszeresen Research Scholar pozíciókat tervez meghirdetni a Policy Track keretében, továbbá a GovAI három hónapos Fellowship programjának résztvevőivel is dolgozna.

A bejelentés szerint a GovAI a közeljövőben Research Fellow pozíciókra is pályázatot nyithat, az érdeklődők pedig már jelezhetik érdeklődésüket. Az új munkatársak Oxfordban, a GovAI fő bázisán, a San Francisco-öböl térségében vagy távolról dolgozhatnak.

A kezdeményezés a kormányok és az AI-laboratóriumok számára olyan kutatási irányokat jelöl ki, amelyek a fejlett rendszerek felügyeletét, a kockázatok kezelését és a szabályozási döntések előkészítését kapcsolják össze.