Az NVIDIA szabványosítaná a GPU-k közvetlen tárhelyelérését

Közvetlenebb út az objektumtárhelyhez

Az NVIDIA szeptember 30-i közlése szerint a cuObject kliens- és szerveroldali könyvtárai általánosan elérhetővé váltak. A fejlesztők szabványos API-kat és RDMA-alapú vezetékes protokollt használhatnak gyorsított objektumtárolási alkalmazások és szerverek építéséhez.

A megoldás célja, hogy az adatok átvitele ne a szerver központi processzor által vezérelt memóriáján keresztül történjen. A GPU-k, TPU-k és más gyorsítók így közvetlenebb hozzáférést kaphatnak a távoli fájl- és objektumtárhelyekhez, miközben a hálózati kártya vagy a DPU végzi az adatátvitel gyorsítását. Az NVIDIA szerint ez nagyobb átviteli sebességet, alacsonyabb késleltetést és kisebb CPU-terhelést tehet lehetővé olvasás és írás közben.

A vállalat szerint erre az AI-modellek tanítása, finomhangolása, következtetése, valamint a keresések, eszközhívások és adatbázis-lekérdezések miatt van szükség. Az ezekhez használt adatok jelentős része helyszíni és felhős fájl- vagy objektumtárolókban található.

Az xio-sig a cuObjecttel is bővül

Az NVIDIA a cuObject támogatásával bővíti az xio-sig konzorciumot, amelyben a cuFile is szerepel. A kezdeményezés olyan irányt kínál, amelyben a cuObject kliens együttműködhet minden olyan szerveroldali megvalósítással, amely megfelel a közös vezetékes protokollnak.

Az objektumtárhely vezérlési protokollja HTTPS és TCP felett működik, az objektumadatok átvitele viszont RDMA-n keresztül történik. Ez a felosztás lehetőséget ad arra, hogy a fejlesztők különböző objektumkezelési protokollokkal és SDK-kkal dolgozó szerverekhez készítsenek gyorsított alkalmazásokat.

A Google Cloud, amely a cuFile egyik karbantartója az xio-sigben, a cuObjecttel kapcsolatos részvételét értékeli. A Microsoft jelezte, hogy csatlakozni kíván az xio-sig igazgatótanácsához, azzal a céllal, hogy javítsa a tárolási I/O együttműködési lehetőségeit. Az xio-sig tárházának felépítése már elkészült a cuFile és a cuObject számára, a fejlécek, a cuObject protokollja és egyes könyvtári megvalósítások pedig a megfelelőségi tesztek után válhatnak elérhetővé.

SCADA szervereket építhetnek a tárhelyszolgáltatók

Az NVIDIA új SCADA Server SDK-ja lehetővé teszi, hogy a tárhelyszolgáltatók olyan szervereket készítsenek, amelyek GPU-alapú SCADA-kliensektől érkező kéréseket fogadnak. A szerverek ezeket helyi vagy távoli tárhely használatával teljesíthetik, majd az eredményeket RDMA-n keresztül küldhetik vissza.

A csomag része a Storage Lender Service és egy SCADA parancssori segédprogram is, amelyek a SCADA beállítását és telepítését támogatják. Az NVIDIA Storage-Next kezdeményezése közben több mint 40 gyártót és ügyfelet fog össze, köztük NAND- és vezérlőgyártókat, tárhelyszolgáltatókat, hyperscalereket és alkalmazásfejlesztőket. A cél a GPU-k által kezdeményezett, finom szemcséjű tárhely-hozzáférés interoperábilis, nyílt iparági szabványainak kialakítása.

Az IBM Storage egy prototípust is bemutatott, amelyben egy SCADA-kliens az új SDK-ra épülő, kezdeti Storage Scale SCADA-szerverhez küldött kéréseket. Az NVIDIA szerint ez olyan infrastruktúra alapja lehet, amely nagy adathalmazok elérését támogatja például szemantikus keresésnél, ajánlórendszereknél és csalásfelderítésnél.

A fejlesztők a cuObject dokumentációját és a cuObject Server 2.0.0 verzióját használhatják az értékelés megkezdéséhez. Az xio-sig tárházában a cuFile és a cuObject együttműködésével kapcsolatos további fejlemények várhatók.