Független AI-auditokat sürgetnek, de a szabályok még formálódnak

A külső értékelés csökkentheti az összeférhetetlenséget

A Center for Democracy & Technology, vagyis a CDT szeptember 15-én közzétett elemzése az Egyesült Államokban megjelent, 2026-ra vonatkozó javaslatokat tekinti át. A harmadik fél által végzett értékelés több, egymáshoz kapcsolódó megközelítést foglal magában. Külső szervezetek vizsgálhatják, értékelhetik, auditálhatják vagy ellenőrizhetik az AI-modelleket és rendszereket.

A CDT szerint a kizárólag vállalaton belüli felülvizsgálatokhoz képest a külső értékelések mérsékelhetik az összeférhetetlenséget. Emellett többféle szempontot, módszert és szakértelmet vonhatnak be a kockázatok azonosításába és csökkentésébe.

A feladat technikai és szakpolitikai szempontból is nehéz. A kutatók, vállalatok, kormányok és civil szervezetek számos módszert és iránymutatást dolgoztak ki, mégis nehéz olyan teszteket készíteni, amelyek megbízhatóan mérik a kívánt tulajdonságokat. A rendszerek későbbi használata vagy visszaélésszerű alkalmazása szintén nehezen jelezhető előre, és a kockázatok természetéről sincs teljes egyetértés.

Két fő irány rajzolódik ki

A CDT szerint a javaslatok két kapcsolódó irány köré szerveződnek. Egyes elképzelések azt szabályoznák, hogy mikor, ki és milyen módon végezzen auditot. Mások egy külső szervezeti ökoszisztéma létrehozását ösztönöznék. Ezeket gyakran independent verification organizations, vagyis független ellenőrző szervezetek néven említik.

A kezdeményezések eltérnek az értékelések hatókörében, a mérési szabványok meghatározásában és az átláthatósági követelményekben. Közös irányként jelenik meg az értékelők függetlenségének, valamint annak meghatározása, hogy milyen kockázatokat kell vizsgálniuk.

Az Anthropic, az OpenAI és a Microsoft az elemzés szerint olyan megoldásokat javasolt, amelyek a külső értékelőket közvetlenül az AI-vállalatok szervezetén belül helyeznék el, bár ezek részletei még nem egyértelműek. Az OpenAI támogatja a minősített külső értékelők létrehozását, és felvetette, hogy ilyen munkát a szövetségi kormány már működő szervei, például a Center for AI Standards and Innovation is végezhetne. Az Anthropic korábban azt javasolta, hogy a határterületi modellek fejlesztői saját tesztjeik mellett félévente független értékelést is kérjenek.

Az iparági javaslatok többsége a CDT értékelése szerint szűken a katasztrofálisnak nevezett kockázatokra összpontosít, például a kiberbiztonságra, a biológiai és vegyi fegyverekre, illetve az irányítás elvesztésére. A civil szervezetek ezzel szemben az AI szélesebb körű társadalmi és jogi hatásainak vizsgálatát is szorgalmazzák, a kiskorúak chatbotbiztonságától az egészségügyi AI-rendszerekig.

Tizenhat állami törvényjavaslat foglalkozott az auditokkal

A 2025 és 2026 közötti állami törvényhozási ciklusban tizenhat, harmadik fél által végzett AI-értékelésre összpontosító törvényjavaslat született. Ezek közül tizenegy az auditok időzítésének, végrehajtóinak és módszerének részleteit szabályozta volna, öt pedig a licencelt független ellenőrző szervezetek piacának kialakítását ösztönözte volna.

Illinois AI Safety Measures Act nevű törvénye, az SB 315, a nagy határterületi modellek fejlesztőit külső audit beszerzésére kötelezi. Az ellenőrzésnek azt kell vizsgálnia, hogy a fejlesztők megfelelnek-e a katasztrofális kockázatok felmérésére és csökkentésére létrehozott saját keretrendszereik követelményeinek. New York RAISE Act nevű jogszabálya, az S8828/A9449, átláthatósági jelentéseket ír elő a katasztrofális kockázatokról, beleértve a külső értékelők szerepének bemutatását.

Massachusetts S.3228 jelű, folyamatban lévő javaslata a fejlesztők biztonsági keretrendszereinek és maguknak a modelleknek az auditját is előírná. Washington SB 5395 jelű, már elfogadott törvénye az egészségbiztosításban használt AI-eljárások és szabályzatok állami auditját teszi lehetővé. Kalifornia SB 1119 jelű törvénye egyes chatbotok gyermekbiztonsági követelményeinek való megfelelését vizsgáló független auditokat ír elő.

A felhasználók számára a vizsgálatok hatóköre a döntő

A CDT szerint az amerikai javaslatok egyre formálisabb folyamatok felé mutatnak, amelyekben külső szereplők értékelik az AI-modelleket és rendszereket. A szabályozás hatása azonban attól függ, hogy az auditok milyen kockázatokra terjednek ki, ki határozza meg a mérési szabványokat, és mennyire maradnak függetlenek az értékelők.

Az elemzés alapján a katasztrofális kockázatokra szűkített ellenőrzések nem feltétlenül fedik le azokat a károkat, amelyek közvetlenül érinthetik az embereket, például a polgári jogok és szabadságjogok sérelmét. A harmadik fél által végzett értékelés ezért a felhasználók számára akkor lehet érdemi garancia, ha a vizsgálatok hatóköre és eredményei is megfelelően átláthatók.