Megvalósítható lehet a frontier AI képzés globális leállítása

Nemzetközi megállapodást és kölcsönös ellenőrzést vázol a jelentés

Az úgynevezett frontier AI az egyre nagyobb teljesítményű mesterségesintelligencia-modellek fejlesztését jelenti. Az UC Berkeley közlése szerint a Working Group on AI Pause Feasibility kutatócsoportja olyan tervet dolgozott ki, amelyben a világ országai és AI-vezetői legalább tíz évre felfüggesztenék az ilyen modellek képzését.

A tanulmányt 26 kutató készítette, köztük az UC Berkeley, a Princeton, a Stanford, a Harvard és az Oxford szakemberei. A csoportban informatikusok, közgazdászok, történészek, nemzetközi kapcsolatokkal foglalkozó kutatók, valamint kínai és amerikai politikai szakértők dolgoztak, többek gyakorlati diplomáciai és kormányzati tapasztalattal.

A szerzők szerint egy hosszú távú szünet csak akkor működhet, ha az érintett országok biztosak lehetnek abban, hogy a többiek is betartják a megállapodást. Wesley Holliday, az UC Berkeley filozófiaprofesszora és a tanulmány egyik szervezője szerint a kutatás azt a helyzetet vizsgálja, amikor a vezetők akkor támogatják a szünetet, ha bízhatnak a többiek együttműködésében, illetve abban, hogy a kilépést gyorsan észlelik.

A képzéshez szükséges chipeket állítanák le

A javaslat központi eleme az AI-modellek tanítására használt chipek gyártásának leállítása. Ezeket idővel inference-only chipekre cserélnék. Az új típusú hardver gyors és energiahatékony következtetésre képes a már jóváhagyott modelleken, azonban a chipbe épített korlátok miatt gyakorlatilag nem alkalmas új frontier modellek tanítására, még akkor sem, ha ellopják vagy lefoglalják.

Az átállás idején további ellenőrzési intézkedések akadályoznák meg, hogy a korábbi, képzésre alkalmas chipekkel új frontier modelleket fejlesszenek. A kutatók szerint az AI-chipek ellátási lánca erősen koncentrált, több szűk keresztmetszettel, ezért az államoknak lehetőségük van a gyártás szabályozására. William Fithian, az UC Berkeley statisztikaprofesszora szerint a meglévő ellátási láncok megkerülése rendkívül nehéz.

A terv lehetővé tenné a jelenleg elérhető AI-termékek használatát, miközben korlátozná az új modellek olyan mértékű fejlődését, amely társadalmi, gazdasági vagy nemzetbiztonsági zavarokat okozhat. A szerzők szerint az inference-only chipek gazdasági előnyei is nőnének, ha tilos lenne új frontier modelleket képezni.

A megállapodás a kijátszást és a nyílt kilépést is kezelné

A jelentés olyan ellenőrzési rendszert javasol, amely a titkos képzést és a nyílt kilépést is megpróbálná megakadályozni. Előbbi esetben egy ország a szabályok betartását színlelné, miközben új frontier modellt tanítana. Utóbbinál nyíltan felmondaná a szünetet, hogy a többiek reagálása előtt sokkal erősebb modellt építsen.

A kutatók szerint politikailag elfogadhatóbbá teheti a tervet, ha közben folytatható marad az AI-alapú tudományos és orvosi kutatás, az országok pedig megőrizhetnek bizonyos stratégiai biztosítékokat. A fogyasztók számára az olcsóbb következtetés gazdasági előnyöket hozhatna, az inference-only chipek alacsonyabb erőforrásigénye pedig csökkenthetné a környezeti terhelést és az adatközpontok, valamint a helyi közösségek közötti feszültségeket.

A sikerhez a világ vezetőinek együttműködésére lenne szükség, többek között a szünet előtt felhalmozott chipek kivonására vagy más térségekbe, illetve nemzetközileg irányított adatközpontokba történő áthelyezésére. A szerzők szerint korábbi nemzetközi példák, köztük a nukleáris energia katonai felhasználásának korlátozása és az ózonréteg védelme, azt mutatják, hogy megfelelő ellenőrzés mellett lehetséges az együttműködés.