Adam Gleave AI2050-ösztöndíjat kapott az AI-biztonsági kutatására
Adam Gleave, a FAR.AI társalapítója és vezérigazgatója bekerült a Schmidt Sciences AI2050 Early Career Fellows programjába. Kutatásában olyan módszereket fejleszt, amelyekkel felismerhetők és eltávolíthatók a fejlett AI-rendszerek nem kívánt rejtett viselkedései.
- Adam Gleave, a FAR.AI társalapítója és vezérigazgatója AI2050-ösztöndíjat kapott.
- A program idei évfolyamában 28 kutató vesz részt 42 intézményből és nyolc országból.
- A résztvevők összesen több mint 18 millió dollár támogatásban részesülnek.
- Gleave rejtett AI-viselkedések felismerésére és eltávolítására fejleszt módszereket.
- A kutatás a modellbe ültetett hátsó ajtók és az AI nem megfelelő célhoz igazodásának kockázatát vizsgálja.
28 kutató kap támogatást
A FAR.AI közlése szerint Adam Gleave egyike annak a 28 kutatónak, akiket a Schmidt Sciences az AI2050 Early Career Fellows programban támogat. A résztvevők 42 intézményt és nyolc országot képviselnek, és összesen több mint 18 millió dollárt kapnak kutatásaik előmozdítására.
Az AI2050 Early Career Fellowship társelnökei Eric Schmidt és James Manyika. A program alapvető kérdése azt vizsgálja, hogy 2050-ben mi vezetett oda, hogy a mesterséges intelligencia jelentős előnyöket hozott a társadalom számára. Ennek részeként azt keresik, mely problémákat sikerült megoldani, és milyen lehetőségeket teremtett az AI úgy, hogy közben az eredmény társadalmilag kedvező legyen.
Öt év alatt 125 millió dollár jut a kezdeményezésre
Eric és Wendy Schmidt öt év alatt 125 millió dollárt ajánlott fel az AI2050 kezdeményezésre, amely 2022-ben indult. A támogatás mellett a program olyan kutatói közösség felépítését is célozza, amely a fejlett AI biztonságossá és mindenki számára előnyössé tételéhez szükséges problémákkal foglalkozik.
A Schmidt Sciences többek között egy, a mesterséges intelligencia nehéz kutatási kérdéseit felsoroló munkalistát is fenntart. Az AI2050 ösztöndíja olyan kutatási irányokat támogat, amelyek a fejlett rendszerek biztonságos és megbízható működéséhez kapcsolódnak.
Rejtett célok és hátsó ajtók felderítése
Gleave projektje a fejlett AI-rendszerekben megjelenő nem kívánt rejtett viselkedések felismerésére és megszüntetésére irányul. A kutatás célja olyan technikák kidolgozása, amelyekkel auditálhatók az AI-modellek, és feltárhatók azok a rejtett célok, amelyek káros cselekedetekhez vezethetnek.
A csapat a biztonsági kutatásban is használt „red-team/blue-team” megközelítést alkalmazza. Először kifinomult rejtett viselkedéseket mutató modelleket hoznak létre, majd olyan eszközöket fejlesztenek, amelyekkel ezeket azonosítani és eltávolítani lehet.
A FAR.AI szerint a munka kétféle kockázatra reagál. Az egyik, amikor rosszindulatú szereplők hátsó ajtókat ültetnek a modellekbe, a másik pedig a mesterséges intelligencia nem megfelelő célhoz igazodása. A létrejövő módszerek a közlés szerint hozzájárulhatnak ahhoz, hogy a nagyobb teljesítményű AI-rendszerek megbízhatóbbak legyenek, miközben a társadalom kezelni tudja a használatukból eredő lehetséges kockázatokat.
