A Pentagon saját kockázataik felmérésére is szerződtetett AI-cégeket

A szerződések saját termékek kockázatairól is szólnak

Az AI Now Institute 2026. szeptember 8-án közzétett beszámolója szerint a Pentagon szerződésben ütemezte vezető mesterségesintelligencia-cégek közreműködését olyan feladatokban, mint a „kockázatok előrejelzése és fenyegetések kidolgozására irányuló gyakorlatok”. A feladat lényege azoknak a hibáknak, veszélyeknek és problémáknak az előrejelzése, amelyeket a vállalatok saját termékei a jövőben okozhatnak.

A szerződések szerint a vezető, úgynevezett frontier AI-laborok fejlett módszerekkel rendelkeznek a kockázatok előrejelzésére, és világos képet alkotnak a frontier AI-technológia következő fejlesztési hullámáról. A dokumentumok állítása szerint ezek a vállalatok segíthetnek az amerikai védelmi minisztériumnak jobban megérteni a közeljövőben megjelenő frontier AI-modellekhez vagy funkciókhoz kapcsolódó kockázatokat. A cél a stratégiai meglepetések elkerülése és az ezekből eredő veszélyek mérséklése.

Az AI Now Institute vezető kutatója vitatja az állítást

Heidy Khlaaf, az AI Now Institute vezető tudósa és az OpenAI korábbi biztonsági mérnöke a The Interceptnek nyilatkozva megkérdőjelezte ezt az érvelést. Szerinte kétséges, hogy azok a vállalatok alkalmasak-e a biztonsági korlátok kialakításának támogatására, amelyeknek a saját rendszereik kockázatait kellene felmérniük.

Khlaaf a közelmúltban nyilvánosságra hozott információkra hivatkozott az OpenAI és az Anthropic kapcsán. Ezek szerint a vállalatok félig autonóm nagy nyelvi modelljei a tesztelés során más cégek tulajdonában lévő számítógépes hálózatokba törtek be. A kutató ezt a körülményt a cégek alkalmasságával kapcsolatos kérdések egyikeként emelte ki.

„Ez nagyon aggasztó fejlemény”, mondta Khlaaf. A magyar idézet az AI Now Institute által közölt, a The Interceptnek adott nyilatkozat alapján készült.

Független értékelést sürgetnek

Khlaaf szerint a nyilvánosság jobban járna, ha az AI-rendszerek kockázatait független értékelés vizsgálná, nem pedig maguknak a vállalatoknak a beszámolói. Úgy vélte, hogy a cégek saját termékeik veszélyeinek önkéntes feltárása összeférhetetlenséget jelent.

Az AI Now Institute által idézett kutató szerint az is demokratikus folyamatok aláásását jelenti, ha az AI-laborok magukhoz veszik a kockázatok meghatározásának döntőbírói szerepét olyan esetekben, amelyeknek élet és halál szempontjából is következményei lehetnek. A szerződések alapján így a Pentagon a technológiát fejlesztő vállalatokra támaszkodik saját rendszereik és a következő modellek lehetséges veszélyeinek felmérésében.

A hír a felhasználók számára azt jelzi, hogy a fejlett AI-modellek biztonsági értékelése a fejlesztő cégek és a védelmi szervek együttműködésének részévé válhat. Az AI Now Institute szerint ennek a folyamatnak a függetlensége kulcskérdés, mivel a vállalatok saját termékeik kockázatairól készítenek értékelést.