Tíz új projekt csatlakozott a PyTorch ökoszisztéma-térképéhez
Tíz új nyílt forráskódú projekt került fel a PyTorch Ecosystem Landscape térképére. A bővítés a modelltréninget, a megerősítéses tanulást, a multimodális adatok kezelését és a nagy nyelvi modellek kiszolgálását lefedő eszközöket is érinti.
- Tíz új projekt került fel a PyTorch Ecosystem Landscape térképére.
- Az AReaL és az RLinf megerősítéses tanulási infrastruktúrát kínál.
- A Perforated a tréning adathatékonyságát javítja PyTorch-modelleknél.
- Az SMG több modellkiszolgáló motort egy OpenAI-kompatibilis végpont mögé kapcsol.
- A FiftyOne multimodális adatok keresését, válogatását és modellkiértékelését támogatja.
A PyTorch ökoszisztémájának új tagjai
A PyTorch Ecosystem Working Group augusztus 26-án jelentette be, hogy tíz új projektet fogadott be a PyTorch Ecosystem Landscape-be. A térkép olyan nyílt forráskódú mesterségesintelligencia-projekteket mutat be, amelyek kiterjesztik, integrálják vagy a PyTorch-ra építik működésüket.
Az újonnan felsorolt projektek a Perforated, az AReaL, a TorchJD, az RLinf, a Miles, az SMG, a FiftyOne, a TokenSpeed, a VisualTorch és a TorchSurv. A forrás szerint a kezdeményezés célja, hogy a PyTorch közösségében láthatóbbá tegye azokat az eszközöket, amelyek a modellek fejlesztésének különböző szakaszait támogatják.
Adathatékonyság, többcélú tanítás és megerősítéses tanulás
A Perforated PyTorchhoz készült adathatékonysági könyvtár. A projekt neurononkénti megerősítéses tanulási jeleket ad a tréninghez, és a visszaterjesztés könnyű módosításával segíti, hogy a modellek több értéket nyerjenek ki a rendelkezésre álló adatokból. A fejlesztők szerint használatához nem kell módosítani a modell alapvető architektúráját. A könyvtárat eddig különösen élintelligencia- és számítógépes látási feladatokon ellenőrizték, a Perforated állítása szerint egyes alkalmazók a hibát 70 százalékkal csökkentették meglévő adatok mellett.
Az AReaL nyílt forráskódú, moduláris megerősítéses tanulási infrastruktúra, amely az alapmodellek tréningjét kapcsolja össze a nagy nyelvi és vizuális nyelvi modellekre épülő ügynökalkalmazásokkal. Aszinkron tanítási megközelítést használ, és külön szolgáltatásokra bontja a megerősítéses tanulás feladatait, így az egyes részek önállóan skálázhatók és optimalizálhatók.
A TorchJD több veszteségfüggvény együttes használatára kínál módszereket. A könyvtár egyetlen skaláris veszteséggé egyesítheti a célokat, vagy kiszámíthatja a veszteségek Jacobi-mátrixát, majd közös frissítési irányt képezhet belőle. Az RLinf ezzel szemben a megtestesült és ügynökalapú mesterséges intelligencia megerősítéses tanulási keretrendszere. Robotokat, érzékelőket, szimulátorokat, eszközöket, webkörnyezeteket és többügynökös munkafolyamatokat is kezelő tréningfolyamatokhoz biztosít újrahasználható építőelemeket.
Skálázás, adatelemzés és modellkiszolgálás
A Miles a RadixArk által fejlesztett, nagy léptékű modellek utótréningjét támogató nyílt forráskódú keretrendszer. A projekt nyílt Mixture of Experts modellekhez, többcsomópontos fürtökhöz és hosszú ideig futó feladatokhoz készült. A forrás kiemeli az SGLang-integrációt, az új modellarchitektúrák és hardverplatformok támogatását, valamint a LoRA, a TITO és az alacsony pontosságú tréning használatát.
Az SMG, vagyis Shepherd Model Gateway, motorfüggetlen modellútválasztó átjáró nagy léptékű nyelvimodell-telepítésekhez. Rust nyelven írták, és több önállóan üzemeltetett következtetési motort, köztük a vLLM-et, a TensorRT-LLM-et, a TokenSpeedet, az SGLangot és az MLX-et, valamint felhőszolgáltatókat kapcsol egy OpenAI-kompatibilis végpont mögé. A rendszer a KV-gyorsítótár állapotát is figyeli az útválasztás során, továbbá többek között jogosultságkezelést, több-bérlős működést és Prometheus-metrikákat kínál.
A FiftyOne multimodális ad-platform képek, videók, LiDAR- és radaradatok keresését, válogatását, címkézését és kiértékelését támogatja. A fejlesztők PyTorch Hubról közvetlenül tölthetnek be előre betanított modelleket, a FiftyOne-adatkészleteit pedig PyTorch-alapú tréningfolyamatokban is használhatják. A TokenSpeed a forrásban nyílt forráskódú nyelvimodell-következtetési motorként szerepel, amely különválasztja a vezérlési és a végrehajtási síkot.
Az új projektek befogadása a fejlesztők számára olyan közösségi környezetet kínál, amelyben a PyTorchra épülő tréning-, adatkezelési és kiszolgálási munkafolyamatokhoz több, egymással összekapcsolható nyílt forráskódú eszköz válik elérhetővé.
