AI-ellenőrzési tervet készített a Fehér Ház, de ki vizsgálja a modelleket?

Harminc nap jutna a modellek vizsgálatára

Az Atlantic Council szeptember 16-i elemzése szerint a Fehér Ház augusztusban véglegesítette azt a keretrendszert, amely a legfejlettebb, zárt forráskódú AI-modellek biztonsági és kiberbiztonsági kockázatait vizsgálná. A zárt forráskódú modellek nem teszik közzé az alapul szolgáló forráskódot vagy paramétereket.

A vizsgálati szempontokat azonban nem hozták nyilvánosságra, azokat közvetlenül az AI-cégekkel osztották meg. Az sem ismert, pontosan milyen modellek számítanak majd a júniusi elnöki rendeletben „lefedett csúcskategóriás modelleknek” nevezett körbe. Az elemzés szerint várhatóan az OpenAI és az Anthropic legfejlettebb modelljei is ide tartozhatnak.

A keretrendszer önkéntes. A laborok a modell kiadása előtt kérhetik annak felülvizsgálatát, a kormánynak pedig harminc napja lenne az értékelésre és annak megállapítására, hogy fennáll-e biztonsági vagy kiberbiztonsági kockázat.

Kormányzati kapacitáshiány és önkéntes vállalások

A modellkategóriák küszöbértékeit a Nemzetbiztonsági Ügynökség, a nemzeti kiberbiztonsági igazgató, a Tudományos és Technológiai Politikai Hivatal, a Kiberbiztonsági és Infrastruktúra-biztonsági Ügynökség, valamint a Hadügyminisztérium együttműködésével határoznák meg. Arról azonban nincs nyilvános információ, hogy mely szakértők vagy hivatalok végeznék magukat a teszteket.

Az Atlantic Council szerint a közvetlen állami ellenőrzést három technikai probléma nehezíti: hiányzik a megfelelő technikai munkaerő, hiányos a szoftveres tudás, és nehéz megszerezni, illetve megtartani a technikai szakértelmet. A szakértelem közben a magánszektorban koncentrálódik. Egy 2023-as Massachusetts Institute of Technology-tanulmány szerint a mesterséges intelligenciából doktoráltak nagyjából 70 százaléka a magániparban helyezkedik el, míg két évtizeddel korábban ez az arány 20 százalék volt.

Az önkéntes megoldásokkal az a gond, hogy nem kikényszeríthetők. Az AI-cégek eddig saját biztonsági csapatokat és alapelveket hoztak létre, szervezeteket alapítottak, koalíciókhoz csatlakoztak és kormányzati együttműködésben vállalásokat tettek. Az elemzés szerint a nyári kiberbiztonsági válságok, köztük a Fable 5 leállítása, valamint az OpenAI és az Anthropic AI-ügynökeinek külső vállalatok elleni támadásai megmutatták az önkéntes vállalások korlátait.

Független auditpiacot javasol az elemzés

Az Atlantic Council egy olyan felügyeleti testület létrehozását javasolja, amely szabályozná a külső AI-auditorok piacát. A modell a pénzügyi ellenőrzésben működő Public Company Accounting Oversight Boardhoz hasonlítana, amelyet a 2002-es Sarbanes-Oxley törvény hozott létre nagy vállalati csalások és könyvelési botrányok után.

Az elképzelt Artificial Intelligence Auditing Oversight Board, röviden AIAOB, kormány által kinevezett tagokkal működne, például a Tudományos és Technológiai Politikai Hivatal felügyelete alatt. Nyilvántartaná és engedélyezné az AI-auditcégeket, szabványokat alakítana ki a Nemzeti Szabványügyi és Technológiai Intézethez hasonló ügynökségekkel együttműködve, ellenőrizné az auditokat, és szankcionálná a szabályokat megszegő auditorokat.

A testületet az auditcégek licencdíjai finanszíroznák, így az elemzés szerint nem függne sem a kongresszusi költségvetési döntésektől, sem az AI-ipar finanszírozásától. A versengő auditpiac magasabb fizetésekkel a magán auditcégekhez vonzhatná a technikai szakembereket. Az Atlantic Council szerint ez az intézményi háttér átláthatóbb és függetlenebb ellenőrzést teremthetne, miközben kezeli a kormány jelenlegi kapacitáskorlátait.