A Factory helyben futtatná az autonóm fejlesztést NVIDIA Nemotronnal
A Factory az NVIDIA DGX Spark platformjára viszi autonóm szoftvergyárát, amelyet az NVIDIA Nemotron 3.5 Lightning modell működtet. A megoldás célja, hogy a forráskód, az üzemeltetési környezet és a végrehajtás biztonságérzékeny szervezetek saját környezetében maradjon.
- A Factory autonóm szoftvergyárát NVIDIA DGX Sparkra telepíti.
- A megoldás az NVIDIA Nemotron 3.5 Lightning modellt és más nyílt modelleket is támogathat.
- A forráskód, a modell és a végrehajtás a szervezet saját környezetében maradhat.
- A szoftvergyár hibákat vizsgálhat, kódot módosíthat, tesztelhet és változtatásokat készíthet elő.
- A Factory szabályozott, kormányzati és légréses környezetekhez is kínál telepítési útvonalat.
Helyben maradhat a fejlesztési folyamat
A Factory augusztus 11-i közleménye szerint a vállalat az autonóm szoftvergyárat a DGX Sparkra építi, az NVIDIA Nemotron 3.5 Lightning használatával. A megoldást olyan csapatoknak szánják, amelyeknél a szoftveres munka nem hagyhatja el a saját környezetet.
A Factory szoftvergyára átfogó mérnöki feladatokat végezhet el: értelmezi a hibákat és feladatokat, módosítja a kódot, teszteket futtat, majd felülvizsgálatra előkészíti a változtatásokat. A csapatok meghatározzák a szándékot, a végrehajtást pedig a szoftvergyár végzi. A DGX Spark ezt a folyamatot közelebb viszi a kódhoz.
A vállalat szerint a megoldás különösen alkalmas lehet örökölt rendszerek korszerűsítésére, kritikus infrastruktúrában, pénzügyi szolgáltatásoknál, kormányzati és közszférabeli környezetekben, ahol az adatok érzékenyek, a munkaterhelés pedig folyamatos.
A nyílt súlyok helyi telepítést tesznek lehetővé
A Factory közlése szerint a helyben futó telepítésekhez olyan modellre van szükség, amelyet a szervezetek saját hálózatukon belül futtathatnak, irányíthatnak és testre szabhatnak. Ezért fontosak a nyílt súlyú modellek, amelyek helyi telepítésben is használhatók.
A Factory csatlakozhat a DGX Sparkkon futó, jóváhagyott NVIDIA Nemotron 3.5 Lightning-telepítéshez vagy más nyílt forráskódú modellhez. A vállalat szerint az együttműködés reprodukálható szoftverfejlesztési munkafolyamatokat támogat, amelyekkel a nyílt modellek értékelhetők és fejleszthetők.
Az NVIDIA Nemotron 3.5 Lightning egy 30B MoE modell, amelyben 3B aktív paraméter működik. Az NVIDIA állítása szerint kategóriájában ez a leggyorsabb nyílt modell a folyamatosan működő ügynökökhöz és a specializált munkaterhelésekhez. A közlemény legfeljebb négyszer nagyobb áteresztőképességet és 30 százalékkal gyorsabb feladatvégzést említ nagy volumenű, ügynökalapú munkafolyamatokban.
Önálló ügynökök érzékeny rendszerek mellett
A folyamatosan működő ügynökök összetett, több lépésből álló feladatokat végeznek önállóan. Kontextust gyűjtenek, megfigyelik a környezetüket, mérlegelik a rendelkezésre álló információkat, majd cselekszenek. A Factory szerint minden lépés nyelvi modell meghívásával jár, de az egyes feladatokhoz nem feltétlenül ugyanaz a modell a legmegfelelőbb.
A nagy teljesítményű modellek összetett következtetésben és koordinációban erősek, míg a specializált modellek a nagy volumenű, ismétlődő vagy egy adott területhez kötődő feladatokra lehetnek alkalmasabbak. Az ügynökalapú mesterséges intelligencia hatékony működéséhez ezért olyan modellrendszerre van szükség, amely az egyes feladatokat a megfelelő modellhez irányítja.
A Factory és az NVIDIA együttműködése helyi alternatívát kínálhat az adatközponti számításra, miközben a szoftvergyár az érzékeny kód és infrastruktúra közelében működik. A közlemény szerint ez telepítési útvonalat adhat szabályozott, szuverén és magas biztonsági követelményű környezetekhez.
Banki és kormányzati példák
A Factory egy szabályozott bank példáján azt mutatja be, hogy a pénzintézet a DGX Sparkkon, saját környezetében futtathatja az NVIDIA Nemotron 3.5 Lightning modellt, majd összekapcsolhatja azt a Factoryval. Ha hiba jelenik meg egy fizetési, kockázatkezelési vagy jelentési rendszerben, a Factory megvizsgálhatja a kapcsolódó kódot, módosíthatja a megvalósítást, teszteket futtathat, és mérnöki jóváhagyásra előkészítheti a változtatást.
A bank közben megtartja az irányítást a DGX Spark telepítése, a modell hozzáférése és a kiadási folyamat felett. Egy kormányzati szervezet érzékeny működési információk kezelésére jóváhagyott környezetben telepítheti a DGX Sparkot, és a Nemotron 3.5 Lightning vagy más engedélyezett nyílt forráskódú modell segítségével korszerűsíthet örökölt alkalmazást, javíthat hibát, illetve belső munkafolyamatot építhet.
A Factory szerint légréses, vagyis külső hálózattól elszigetelt telepítésekhez is biztosítható a megfelelő telepítési útvonal. A használat a Factory regisztrációs és Quickstart útmutatóján keresztül kezdhető meg, helyszíni és légréses telepítéshez pedig a [email protected] címen lehet kapcsolatba lépni a vállalattal.
Factory: Factory Enables Autonomous Software Engineering for High-Security Environments with NVIDIA Nemotron
