A Nutanix felvásárolta a Ryax Technologies vállalatot az AI-munkafolyamatok javítására

A felvásárlás célja a hibrid AI-infrastruktúra kezelése

A Nutanix szeptember 22-én jelentette be a Ryax Technologies felvásárlását. A vállalat közlése szerint az ügylet felgyorsítja azt a törekvését, hogy a vállalatok bárhol felépíthessék, futtathassák és szabályozhassák az ügynökalapú AI-rendszereket.

A Nutanix szerint a modern AI-munkaterhelések heterogén környezetekben futnak. Ezekben CPU-k és GPU-k, helyben működő infrastruktúrák, nyilvános és úgynevezett neo felhők, Kubernetes-környezetek, valamint nagy teljesítményű számítástechnikai, HPC-rendszerek is szerepet kapnak. A vállalat úgy látja, hogy a számítási kapacitás jelentős része kihasználatlan marad, miközben a hardverhatékonyság és a számítási költségek kezelése elsődleges üzemeltetési feladat.

Automatikus elhelyezés és dinamikus méretezés

A Ryax technológiáját a Nutanix Kubernetes Platform, az NKP, valamint a Nutanix Enterprise AI, vagyis az NAI jövőbeli kiadásaiba tervezi beépíteni. A cél az infrastruktúra széttagoltságának csökkentése, hogy a fejlesztők inkább az alkalmazások és modellek készítésére koncentrálhassanak.

A tervezett rendszer több klaszter, nyilvános felhő és HPC-környezet között irányíthatná a feladatokat. A statikus erőforrás-kiosztást a korábbi futások telemetriai adatai alapján végzett folyamatos méretezés válthatná fel. A Nutanix egy egységes vezérlési réteget is kialakítana, amelyből a vállalati AI-rendszerek telepítése, működtetése és skálázása kezelhető.

A tervezett funkciók között szerepel a GPU-k pontosabb kiosztása, a kifogyó memória miatti hibák automatikus felismerése és kezelése, valamint a VRAM méretezése és a feladatok újrapróbálása. A rendszer korábbi erőforrásprofilokból tanulna. Emellett részleges GPU-szeletekkel több konténeres munkaterhelést helyezhetne ugyanarra a hardverre, a szerver nélküli GPU-k pedig csak az aktív számítás idejére foglalnának kapacitást.

A Ryax tesztjeiben csökkent a kapacitásigény

A Nutanix által ismertetett, Ryax által végzett tesztben egy 30 futásból álló mélytanulási terhelésnél a futásonkénti méretezés 62 százalékkal csökkentette a csomópontórák számát, miközben a feladatok 5,7 százalékkal gyorsabban fejeződtek be. Egy dokumentumintelligencia-folyamatban a szerver nélküli kiosztás órákról percekre csökkentette a GPU-k futásonkénti lefoglalási idejét.

A tesztben az NVIDIA MIG alapú, részleges GPU-k négy párhuzamos végrehajtást tettek lehetővé egyetlen H100-as GPU-n. A forrás szerint ez futásonként 52 százalékkal csökkentette a költséget. Ezek az eredmények a Ryax tesztjeihez kapcsolódnak, és nem a Nutanix általános teljesítményígéretei.

Költség és energia alapján is dönthet a rendszer

A Ryax technológiája az NAI mellett globális metaütemezési réteget is adna a Nutanix elképzelése szerint. Ez a tanítási, kötegelt és következtetési feladatokat teljesítmény-, költség- és energiafogyasztási célok alapján értékelné, majd kiválasztaná a megfelelő célcsomópontot.

A tervezett megoldás NVIDIA- és AMD-rendszerek, nyilvános felhők, valamint Slurm HPC-klaszterek között is irányíthatná a munkaterheléseket. A Nutanix szerint így a szervezetek előbb használhatnák ki meglévő helyi és HPC-beruházásaikat, mielőtt további felhőkapacitást vásárolnának. Az energiafogyasztás alapján történő elhelyezés a klasztereket hardveres fogyasztási modellek szerint rangsorolná, a korábbi futási adatokra épülő automatikus skálázás pedig CPU-, memória- és részleges GPU-erőforrásokat oszthatna ki.

A bejelentés alapján a képességek az NKP és az NAI jövőbeli kiadásaiban jelenhetnek meg. A Nutanix nem közölt konkrét megjelenési dátumot.