23 intézkedést sürgetnek az automatizált AI-kutatás kockázatai miatt
Az Egyesült Államoknak már most fel kell készülnie arra, hogy az AI-kutatás jelentős része automatizálhatóvá válik, állítja az Institute for Progress új jelentése. A szervezet 23 intézkedést javasol az átláthatóság, az ellenőrizhetőség és az állami felkészültség javítására.
- Az Institute for Progress szerint az AI-kutatás automatizálása gyorsan fejlődhet, de hatásai még bizonytalanok.
- A jelentés 23 amerikai szakpolitikai intézkedést javasol.
- A CAISI számára legalább évi 84 millió dolláros költségvetést sürgetnek.
- AI Verification Consortium létrehozását javasolják az ellenőrzési technológiák fejlesztésére.
- A szervezet nemzetközi együttműködést is kezdeményezne az AI-kockázatok kezelésére.
A teljesen automatizált AI-kutatás még bizonytalan, de készülni kell rá
Az Institute for Progress augusztus 6-án közzétett elemzése egy, az Egyesült Államokban zajló szakpolitikai vitára reagál. A jelentés szerint 2026 júliusában több mint 1300, vezető AI-cégeknél dolgozó alkalmazott szólította fel az amerikai kormányt, hogy nemzetközi együttműködéssel építse ki az automatizált AI-kutatás ütemezésének lehetőségét.
A szerzők három állítást vizsgálnak: közel lehet-e az AI-kutatás teljes automatizálása, komoly kockázatokkal járhat-e ez a folyamat, és megfelelő válasz lehet-e a fejlődés tudatos lassításának lehetősége. Megállapításuk szerint a teljesen automatizált AI-kutatás felé mutató gyors előrehaladásra vannak empirikus jelek, de egyelőre kevésbé ismert, hogy ez mennyire gyorsítaná fel az AI-képességek fejlődését, illetve milyen kockázatokat teremtene.
Az Institute for Progress ezért bizonyos előkészítő szakpolitikai lépéseket indokoltnak tart. A szervezet szerint ezeknek a súlyos és visszafordíthatatlan károkra kell összpontosítaniuk, miközben a meglévő AI-képességek terjedését a lehető legkevésbé lassítják.
A „pacing” feltételes megközelítést jelentene
A jelentés szerint a „pacing” kifejezés túl tág, mert sokféle szakpolitikai intézkedést takarhat. A fejlődés lassításáról ezért csak alapos mérlegelés után szabadna dönteni, mivel a fejlettebb AI gyorsabb gazdasági növekedést, új technológiákat és tudományos áttöréseket, például új betegséggyógymódokat hozhat.
A szerzők egy feltételes modellt javasolnak. Először meg kellene határozni, hogy az automatizált AI-kutatás mely tevékenységei jelenthetnek súlyos kockázatot, és ehhez elemzésen alapuló küszöbértékeket kellene kijelölni. Ha egy ilyen küszöbérték teljesül, az erőforrásokat két cél egyikére lehetne átcsoportosítani: az AI-képességek terjesztésére, például következtetésre és új alkalmazások fejlesztésére, vagy az AI-kutatás biztonságosabbá tételére.
Az elemzés hangsúlyozza, hogy egy tudatosan ütemezett automatizált AI-kutatás mellett is gyorsabb lehetne a képességek fejlődése a jelenleginél. A kockázatok mérséklését a gyors fejlődés fenntarthatóságának feltételeként kezelik.
Átláthatóság, ellenőrzés és nagyobb állami kapacitás
Az Institute for Progress hét területen összesen 23 intézkedést sorol fel. A vezető AI-cégektől és az iparági szervezetektől nyilvános információkat várna az AI-kutatás automatizálásának trendjeiről és kockázatairól. A kongresszusnak emellett jogszabályban kellene rendeznie a kockázatkezelés átláthatóságát, az incidensek jelentését, a bejelentők védelmét és a modellek viselkedésének specifikációit.
A javaslatcsomag szerint a Center for AI Standards and Innovation, vagyis a CAISI legalább évi 84 millió dolláros költségvetést kapna, és közvetlenül adhatna tanácsot vezető kormányzati tisztviselőknek és vezető AI-cégeknek. A szerzők egy AI Verification Consortium, AIVEC létrehozását is javasolják az iparággal közösen. A konzorcium hardverteszt-környezeteket, ellenőrizhető adatközpontot és AI-ellenőrzési kutatási programokat koordinálna.
A további ajánlások között szerepel a kiberbiztonsági és biológiai védekezési ellenálló képesség erősítése, az AI-chipek és modellek védelmének javítása, az amerikai elektromos kapacitás bővítése, valamint az adatközpontok építésének támogatása. A jelentés Kínával és más országok nemzeti AI-intézeteivel folytatott együttműködést is sürget a gyors képességnövekedés kockázatainak kezelésére.
Institute for Progress (AI): How Should the US Prepare for Increasingly Automated AI R&D?
