Több mint 30 millió dollárt kapott a FAR.AI az AI-biztonsági kutatásokra
A FAR.AI több mint 30 millió dollárnyi támogatási kötelezettségvállalást szerzett 2025-ben, ami a szervezet szerint lehetővé teszi kutatási és szakmai programjainak jelentős bővítését. A nonprofit intézmény többek között megduplázza technikai kutatócsapatát, és új technológiai kormányzási részleget indít.
- A FAR.AI több mint 30 millió dollárnyi támogatási kötelezettségvállalást szerzett 2025-ben.
- A technikai kutatócsapat létszáma 15 főről több mint 30 főre nőhet.
- Új részleg foglalkozik majd az AI-biztonság technológiai kormányzásával.
- Évente több mint 20 ösztöndíjast támogatnának.
- A szervezet 2028-ig három-öt jelentős technikai áttörést céloz.
Több szervezet finanszírozza a bővítést
A FAR.AI közlése szerint a támogatási kötelezettségvállalások különböző vezető szervezetektől érkeztek. A fő támogatók között szerepel a korábban Open Philanthropy néven működő Coefficient Giving, a Schmidt Sciences, a Survival and Flourishing Fund, a Center for Security and Emerging Technology (CSET), valamint a Frontier Model Forum által támogatott AI Safety Fund.
A FAR.AI szerint a több finanszírozótól érkező támogatás bizalmat jelez a szervezet kutatási programja iránt. A diverzifikált finanszírozás egyúttal az intézményi ellenálló képességet is erősítheti, miközben a szervezet meg kívánja őrizni kutatási függetlenségét.
Megduplázzák a technikai kutatócsapatot
A szervezet a következő évben 15-ről több mint 30 főre növeli technikai kutatóinak számát. A bővítés olyan területeket érint, mint a robusztusság, a megtévesztés és a formális biztonsági esetek kidolgozása. A FAR.AI ezeket olyan kutatási irányokként írja le, amelyek a mesterséges intelligencia területén az emberi visszajelzésből történő megerősítéses tanuláshoz, vagyis az RLHF-hez hasonlóan meghatározóvá válhatnak.
Új, technológiai kormányzással foglalkozó kutatócsoportot is létrehoznak. Ennek feladata, hogy összekapcsolja a korszerű technikai eredményeket a szakpolitikai megoldásokkal. A csapat az Egyesült Királyság, az Egyesült Államok és az Európai Unió AI-biztonsági intézeteivel, kutatóintézeteivel és döntéshozóival dolgozna együtt. A cél többek között olyan ellenőrzési mechanizmusok és bizonyítékokon alapuló szabványok kidolgozása, amelyekkel értékelhetők az AI-fejlesztők biztonsági állításai.
A FAR.AI évente több mint 20 ösztöndíjast támogatna mentorálással, kutatási lehetőségekkel és a területre vezető pályákkal. Emellett az Alignment Workshop sorozat évi két eseményről háromra bővül, és új régiókat, köztük Ázsiát és a globális délt is elérné.
A kutatás és a szakmai közösség is bővül
A szervezet további technikai műhelyeket, hackathonokat és konszenzusépítő fórumokat indítana. Ezeken iparági, akadémiai és kormányzati szereplők dolgozhatnak együtt a fejlett AI-rendszerek biztonsági problémáin. A FAR.AI szerint az adverszariális robusztussággal kapcsolatos kutatásaik már azt mutatták, hogy a szuperemberi teljesítményre képes AI-rendszereknek is lehetnek kritikus sérülékenységeik.
A 2022-ben alapított szervezet közlése szerint az adverszariális robusztusság, az értelmezhetőség és a vörös csapatos tesztelés területén publikált kutatásai hatással voltak nagy AI-laborok biztonsági gyakorlataira. Eseményeiken több ezer AI-kutató és szakpolitikai döntéshozó vett részt, a Berkeley-ben működő közös munkatér pedig AI-biztonsági innovációs központként szolgál.
A FAR.AI 2028-ig három-öt jelentős technikai áttörést szeretne elérni, hatással kíván lenni a vezető AI-laborok biztonsági szabványainak alkalmazására, és tájékoztatni szeretné a fontos döntéshozókat. A szervezet szerint a támogatás hosszabb távú kutatói állásokat, önállóbb működést és több éven át építhető programokat tesz lehetővé.
FAR.AI: FAR.AI Secures Over $30 Million in Multi-Funder Support to Scale Frontier AI Safety Research | FAR.AI
