A GovAI kilenc kutatóval és 21 szakmai partnerrel zárta 2020-at

Bővülő kutatási terület, sokféle témával

A GovAI éves beszámolója 2020. december 31-én jelent meg. Allan Dafoe igazgató szerint a mesterséges intelligencia kormányzása a legfontosabb globális kérdések közé kerülhet. A szervezet vezetője úgy látja, hogy a terület gyorsan fejlődik, miközben a technikai és geopolitikai problémák természetével kapcsolatban jelentős a bizonytalanság.

Dafoe szerint ezért sokféle szakértelemre és kutatási irányra van szükség. A GovAI munkája többek között az AI-kormányzás hatáselméletével, a Windfall Clause javaslatával, a Cooperative AI kérdésével, a stratégiai eszközök logikájával, a nemzetbiztonság és a versenyjog kapcsolatával, valamint a vállalati szellemi tulajdon stratégiáival foglalkozott.

A felsorolt témák között szerepelt még az AI-kutatók felelőssége, a hatásvizsgálati nyilatkozatok, a történelmi gazdasági növekedési trendek, az AI és Kína kapcsolata, illetve a megbízható AI fejlesztése is.

A Cooperative AI és a Windfall Clause

A jelentés kiemeli az Open Problems in Cooperative AI című tanulmányt, amelyet Allan Dafoe, Edward Hughes, Yoram Bachrach, Teddy Collins, Kevin R. McKee, Joel Z. Leibo, Kate Larson és Thore Graepel jegyez. A szerzők szerint az együttműködés problémái a mindennapi helyzetektől, például a közlekedéstől és a közös munkától, a globális kihívásokig, például a fegyverzetellenőrzésig, az éghajlatváltozásig, a világkereskedelemig és a járványokra való felkészülésig jelen vannak.

A tanulmány amellett érvel, hogy a mesterségesintelligencia-kutatásnak külön figyelmet kell fordítania az együttműködésre képes rendszerek fejlesztésére. A GovAI emellett társszervezője volt egy, a NeurIPS konferenciához kapcsolódó Cooperative AI műhelynek.

A másik kiemelt munka a Windfall Clause, amely olyan szakpolitikai javaslatot mutat be, amelyben az AI-fejlesztők előzetesen vállalják, hogy jelentős részt juttatnak vissza a globális közjavaknak abban az esetben, ha egy átalakító erejű AI révén a világgazdaság rendkívül nagy részét megszerzik. A projektet a GovAI vezette, és a jelentés szerint hozzájárult a Partnership on AI Shared Prosperity Initiative kezdeményezésének elindításához.

Publikációk az AI társadalmi és politikai hatásairól

A GovAI további munkái az AI-kutatások közzétételének kockázatait, a közvéleményt, az adatfelhasználás hatékonyságát és a technológia piaci következményeit vizsgálták. Egy tanulmány elméleti keretet adott annak elemzéséhez, hogy az AI-kutatások publikálása miként befolyásolhatja a támadó és a védekező képességek egyensúlyát.

Egy másik jelentés 2000 amerikai lakos AI-ról és az AI kormányzásáról alkotott véleményét vizsgálta. A kutatók külön foglalkoztak az adat-hatékonyság javulásának lehetséges társadalmi és gazdasági következményeivel, köztük a piaci koncentrációval, a rosszindulatú felhasználással, az adatvédelemmel és a robusztussággal.

A beszámoló szerint a kutatások az AI-hoz kapcsolódó szellemi tulajdon vállalati és kormányzati stratégiáit, a nemzetbiztonsági szempontok versenyjogi döntésekre gyakorolt lehetséges hatását, valamint azt is vizsgálták, mitől válik egy eszköz stratégiai jelentőségűvé.

Bővítik a csapatot, új kutatókat keresnek

2020-ban a GovAI Joslyn Barnhartot és Robert Tragert vezető vendégkutatóként fogadta. A szervezet az Oxfordi Egyetem Future of Humanity Institute részeként működött, és kapcsolatokat épített ki az egyetem Politikatudományi és Nemzetközi Kapcsolatok Tanszékével, Informatikai Tanszékével, valamint az új Ethics in AI Institute-tal.

A GovAI közölte, hogy további kutatókkal szeretné bővíteni a csapatát. A szervezet új tehetségeket a Governance of AI Fellowship programon, kutatói állásokon, együttműködéseken és vezető vendégkutatói lehetőségeken keresztül vonna be. A jelentés szerint a fellowship pályázatait 2021 tavaszán tervezték megnyitni. A GovAI működését az Open Philanthropy, a Future of Life Institute és az European Research Council támogatta.