Az NVIDIA gyorsított hozzáférést adna az objektumtárolókhoz

RDMA az objektumtárolók eléréséhez

Az NVIDIA szeptember 30-i közlése szerint az AI-munkafolyamatokhoz egyre gyorsabb hozzáférésre van szükség a fájlokban és objektumtárolókban elhelyezett adatokhoz. Ezeket az adatokat a modellek betanításához, finomhangolásához, következtetéshez, kereséshez, eszközhívásokhoz és adatbázis-lekérdezésekhez is használják.

A cuObject API-kat és RDMA-alapú vezetékprotokollt biztosít gyorsított objektumtárolási alkalmazások és szerverek fejlesztéséhez. Az RDMA lehetővé teszi, hogy az adatátvitel a hálózati kártya vagy DPU gyorsítását használja, és az adatok ne a szerver CPU által vezérelt memórián keresztül haladjanak.

Az NVIDIA szerint ez nagyobb átviteli sebességet, alacsonyabb késleltetést és kisebb CPU-terhelést tehet lehetővé az adatok olvasásakor és írásakor. A vezérlési protokoll HTTPS és TCP felett működik, az objektumadatok átvitele pedig RDMA-n történik.

Bővül az xio-sig szerepe

Az xio-sig eddig a cuFile köré szerveződött, most pedig a cuObject is bekerül az együttműködésbe. A kezdeményezés célja, hogy a cuObject kliens együtt tudjon működni minden olyan szerveroldali megvalósítással, amely megfelel a közös vezetékprotokollnak.

A Google Cloud, amely a cuFile egyik karbantartójaként vesz részt az xio-sig munkájában, a cuObject kapcsán részvételének bővítését vizsgálja. A Microsoft jelezte, hogy csatlakozni kíván az xio-sig igazgatótanácsához, azzal a céllal, hogy javítsa a tárolási I/O együttműködési lehetőségeit.

A projekt tárházának felépítése külön kezeli a cuFile és a cuObject elemeit. A fejlécek, a cuObject vezetékprotokollja, valamint a libxFile és az xFilekernel megvalósítási kódja akkor lesz megosztva, amikor a gyártásra kész szoftvercsomag teljesíti a megfelelőségi teszteket. A kormányzási dokumentumokat a leendő igazgatósági tagok jelenleg felülvizsgálják.

SCADA-szervereket építhetnek a tárolószolgáltatók

Az NVIDIA új Scaled Accelerated Data Access, röviden SCADA Server SDK-ja azt teszi lehetővé, hogy a tárolószolgáltatók olyan szervereket fejlesszenek, amelyek GPU-alapú SCADA-kliensektől érkező kéréseket fogadnak. A szerverek ezeket helyi vagy távoli tárolóból teljesíthetik, majd az eredményt RDMA-n továbbíthatják.

Az SDK mellett a kezdeményezés része a Storage Lender Service és egy SCADA parancssori segédprogram is, amely a SCADA telepítését és konfigurálását támogatja. Ezek közös felületet adnak a SCADA-kliensekkel együttműködő tárolószerverek fejlesztéséhez.

Az IBM Storage egy prototípust is bemutatott, amelyben egy SCADA-kliens az új SDK-ra épülő, kezdeti Storage Scale SCADA-szerverhez küldött kéréseket. Az NVIDIA szerint ez olyan infrastruktúra kialakítását segítheti, amely nagy adathalmazokhoz biztosít hozzáférést például szemantikus keresés, ajánlórendszerek és csalásfelderítés számára.

Közös szabványokat céloz az NVIDIA Storage-Next

A cuObject és a SCADA az NVIDIA Storage-Next kezdeményezéséhez is kapcsolódik. A vállalat közlése szerint ebben több mint 40 gyártó és ügyfél vesz részt, köztük NAND- és vezérlőgyártók, tárolószolgáltatók, felhőszolgáltatók és alkalmazásfejlesztők.

A csoport azt vizsgálja, hogyan működjön a GPU-k által kezdeményezett, kis méretű és finom szemcsézettségű I/O, amely az NVIDIA szerint nem illeszkedik jól a hagyományos tárolóeszközökhöz és protokollokhoz. A SCADA ennek a nagy áteresztőképességű, GPU-kezdeményezésű hozzáférésnek a szoftveres infrastruktúráját adja.

A fejlesztők a cuObject dokumentációját és a cuObject Server 2.0.0 verzióját használhatják az értékelés megkezdéséhez. Az NVIDIA szerint az xio-sig és a SCADA együtt több lehetőséget adhat az AI-alkalmazások, a tárolópartnerek és a felhőszolgáltatók számára a közös API-kra és protokollokra épülő, gyorsított tárolási hozzáférés kialakítására.