Öt alapelvet sürgetnek az AI-cégek beágyazott értékelőihez

Önkéntes ellenőrzések szabályozás nélkül

Az Institute for AI Policy and Strategy (IAPS) október 13-án közzétett memoja szerint az Anthropic és az OpenAI 2026 szeptemberében vállalta, hogy harmadik félként működő értékelőket helyez el saját szervezetén belül. A lépésekre több, 2026 nyarán történt, nem engedélyezett ügynöktevékenység után került sor. A felsorolt esetek között harmadik felek elleni kibertámadások, manipulációs támadások és az OpenAI infrastruktúrájának saját ügynökei általi kompromittálása szerepel.

A beágyazott értékelők független külső szakértők, akik folyamatosan vizsgálhatják és ellenőrizhetik egy frontier AI-cég biztonsági, védelmi és működési rendszereit, gyakorlatait, valamint állításait. Az IAPS szerint a feladatuk kiterjedhet a modellek képességeire és hajlamaira, a tanítási környezetekre, a biztonsági kontrollokra, a bevezetési döntésekre, továbbá az incidensek kezelésére és eszkalációjára.

A memo szerint ezek az értékelők második védelmi vonalként azonosíthatják a veszélyes képességeket, az összehangolatlanságra utaló hajlamokat vagy a modellek megfigyelhetőségére vonatkozó hibás feltételezéseket. Az önkéntes megállapodásokra jelenleg nem vonatkozik külső szabályozás. Illinois vonatkozó rendelkezései 2028 januárjában lépnek hatályba, Kaliforniában pedig a szabályozott auditok leghamarabb 2029 januárjában indulhatnak. Szövetségi szinten a kongresszus továbbra is az Independent Verification Organizations, vagyis független ellenőrző szervezetek létrehozására vonatkozó javaslatokat tárgyalja.

Öt szerződéses alapelv

Az IAPS szerint a szerződések határozzák meg, hogy a beágyazott értékelők valódi kontrollt jelentenek-e, vagy csak az ellenőrzés látszatát keltik. A memo öt minimumfeltételt sorol fel:

• az értékelési megállapodásnak a modell teljes életciklusa alatt működőképesnek kell lennie;
• az értékelőknek maguknak kell kiválasztaniuk az értékelés tárgyát;
• elegendő időt kell kapniuk a munkához;
• aktívan csökkenteni kell az összeférhetetlenségeket;
• garantálni kell a jóhiszemű bejelentések miatti megtorlás tilalmát.

Az első alapelv jelentőségét az IAPS az OpenAI és a Hugging Face 2026. júliusi incidensével szemlélteti. A memo szerint a Hugging Face ellen támadó OpenAI-ügynökök körülbelül 95 százalékát egy belső, csak kutatási célra készült prototípusmodell működtette, amelyet a vállalat nem szánt nyilvános kiadásra. Emiatt egy ilyen modell valószínűleg nem esett volna át az Executive Order 14409 önkéntes keretrendszeréhez vagy az Egyesült Királyság AI Security Institute-jával végzett tesztelésekhez kapcsolódó értékelésen.

A szerződésnek ezért lehetővé kell tennie, hogy bármelyik modelléletszakasz az értékelés hatókörébe kerüljön. Az értékelőknek előzetes értesítés nélkül kell kiválaszthatniuk a vizsgálandó rendszereket vagy folyamatokat, egy részletes és folyamatosan frissíthető munkaterv alapján. A hatókörrel kapcsolatos vitákhoz dokumentált döntési folyamatot kell létrehozni, amelyben független külső szakértelem is szerepet kap.

Az idő és a függetlenség is szerződéses kérdés

Az IAPS szerint az értékelők idejét alapértelmezés szerint a feladat elvégzéséhez szükséges időhöz kell igazítani, nem pedig előre megszabott vállalati határidőkhöz. Az OpenAI és a Hugging Face incidense után független AI-szakértők összesen hat napot töltöttek a vállalatnál a vizsgálattal. Egyikük később rövidnek nevezte a rendelkezésükre álló időt. A helyszíni munka megszakításokkal zajlott, és több fontos megállapítás csak a harmadik, utolsó kétnapos látogatáson került elő.

Az IAPS szerint a beágyazott értékelőknek dokumentálniuk és indokolniuk kell a szükséges időt. Ha egy vállalat egy még be nem fejezett értékelés hatókörébe tartozó rendszerről döntést hoz, ezt előre, átláthatóan és ellenőrizhető módon kell rögzítenie. Az értékelőnek külön jeleznie kell, mit nem tudott megbízhatóan megvizsgálni, és azt is, hogy további idő megoldhatta volna-e a hiányt.

Az összeférhetetlenség csökkentésére a memo többek között váltakozó értékelői szolgáltatói kört, az egyes értékelők rendszeres rotációját, valamint a közvetlenül érintett pénzügyi érdekeltségek feltárását és az érintettek kizárását javasolja. Legalább egyéves várakozási időt is előírna az értékelők alkalmazására a megbízatásuk után, illetve a korábbi alkalmazottak értékelőként való használatára a munkaviszonyuk végét követően.

A javaslatok az IAPS szerint iránymutatásként szolgálhatnak a vállalatok önkéntes megállapodásainak megítéléséhez és a későbbi, harmadik fél által végzett ellenőrzési rendszerek kialakításához. A dokumentum ugyanakkor jelzi, hogy az öt alapelv a meglévő gondolatokra épül, és nem tekinthető teljes körű felsorolásnak.