Titkos AI-szabálykönyvet készít a Fehér Ház a modellek ellenőrzésére
A Fehér Ház önkéntes, megjelenés előtti felülvizsgálati folyamatot dolgoz ki a vezető AI-modellek biztonsági kockázatainak értékelésére. A keretrendszer részleteit azonban nem hozzák nyilvánosságra, azokat csak a részt vevő technológiai vállalatok ismerhetik.
- A Fehér Ház önkéntes, megjelenés előtti AI-biztonsági ellenőrzést tervez.
- A keretrendszer részletei nem nyilvánosak.
- A folyamatban az Anthropic, az OpenAI, a Microsoft, a Meta, a Google és az Nvidia is részt vesz.
- Az AI Now Institute szerint a kiszivárgott részletek nem kezelik az AI-biztonság minden alapvető aggályát.
- A nyilvánosság nem ismerheti meg az értékeléseket és az alkalmazott mércéket.
A Fehér Ház zárt körben egyeztetett
Az AI Now Institute augusztus 7-i beszámolója szerint a Fehér Ház tisztviselői kedden a legnagyobb AI-cégek képviselőivel találkoztak. A megbeszélés témája egy új, önkéntes megjelenés előtti ellenőrzési folyamat volt.
A tervezett keretrendszer alapján a Trump-adminisztráció azt vizsgálná, milyen biztonsági kockázatokat hordoznak az Egyesült Államok vezető, úgynevezett „frontier” AI-modelljei, mielőtt azok nyilvánosan elérhetővé válnának. A folyamat részleteit ugyanakkor nem teszik közzé.
A kezdeményezésben az AI Now Institute szerint többek között az Anthropic, az OpenAI, a Microsoft, a Meta, a Google és az Nvidia vesz részt. A szervezet szerint ezek a vállalatok hozzáférhetnek a keretrendszer részleteihez, a nyilvánosság azonban nem.
A szabályozási irány változását jelezheti
Az AI Now Institute értékelése szerint a folyamat irányváltást jelenthet a Trump-adminisztráció korábbi megközelítéséhez képest. A kormányzat kezdetben az AI fejlesztésének támogatójaként lépett fel, és a könnyebb szabályozást részesítette előnyben azért, hogy az amerikai vállalatok hatékonyabban versenyezhessenek a kínai AI-cégekkel.
Az új keretrendszer a biztonsági kockázatok ellenőrzését a modellek nyilvános megjelenése elé helyezné. Az AI Now Institute szerint azonban a sajtóhoz kiszivárgott részletek alapján a tervezet nem feltétlenül foglalkozik az AI-biztonsággal kapcsolatos alapvető aggályok jelentős részével.
A nyilvánosság nem ellenőrizheti a vizsgálatokat
A szervezetnek nyilatkozó Aya Ibrahim, az AI Now Institute gazdasági és nemzetbiztonsági vezető kutatója szerint a titkosság komoly átláthatósági problémát okoz. Mint a TMD-nek mondta, ha a vállalatok potenciálisan káros képességeket fejlesztenek vagy tesztelnek, majd ezekhez kormányok vagy más, fejlett modellekhez hozzáférő szervezetek jutnak hozzá, a nyilvánosság nem feltétlenül tudna erről.
Ibrahim szerint a kormányzati értékelések és maga a keretrendszer sem nyilvános. Emiatt a közvélemény nem tudja megvizsgálni, hogy a vállalatok milyen referenciaértékeket, vagyis ellenőrzési mércéket teljesítenek, illetve hogy ezek a mércék megfelelőek és relevánsak-e.
A kutató arra is felhívta a figyelmet, hogy nincs átlátható információ arról, mely cégek, szervezetek vagy más szereplők vesznek részt a keretrendszer kialakításában. A hír így a felhasználók számára elsősorban azt jelenti, hogy a vezető AI-modellek megjelenés előtti biztonsági ellenőrzésének tervezett rendszere egyelőre zárt marad, miközben annak hatékonyságát kívülről nem lehet megítélni.
AI Now Institute: The New, Secret White House AI Rulebook
