Egy kattintással vihetők a Hugging Face modelljei a SageMaker Studioba

Közvetlen út a modellkereséstől a kísérletezésig

A Hugging Face július 7-én bejelentett, mélyhivatkozásokon alapuló integrációt indított az Amazon SageMaker AI szolgáltatással. A fejlesztők a támogatott modelloldalakon két új műveletet láthatnak: a Customize on SageMaker AI a SageMaker Studio modell-testreszabási oldalát nyitja meg, a Deploy on SageMaker AI pedig a végponttelepítési munkafolyamatba vezet.

A kiválasztott modell mindkét esetben előre betöltve érkezik, ezért a felhasználónak nem kell újra megkeresnie a SageMaker Studioban. A folyamat a Hugging Face modelloldalán a Deploy menü, majd az Amazon SageMaker AI kiválasztásával indul. Ha a modell támogatott, megjelennek a testreszabási és telepítési gombok.

Az Amazon szerint korábban több lépésre volt szükség a SageMaker Studio használatának megkezdéséhez. A fejlesztőknek meg kellett nyitniuk az Amazon SageMaker AI-t az AWS Console-ban, létre kellett hozniuk egy domaint, be kellett állítaniuk az IAM jogosultságokat, és bizonyos esetekben GPU-kvótát is kellett kérniük.

A Studio automatikusan előkészíti a környezetet

Az új folyamatban a felhasználó az AWS-be jelentkezik be meglévő hitelesítő adataival. Aktív konzolmunkamenet esetén ez a lépés automatikusan kimarad. Ezután közvetlenül a SageMaker Studio modell-testreszabási vagy telepítési oldalára kerül, ahol a kiválasztott modell már be van állítva.

Az új Studio-környezetekhez a rendszer másodpercek alatt új domaint hoz létre, előre konfigurált jogosultságokkal. A beállítások a SageMaker AI több funkciójára kiterjednek, köztük a modell-testreszabásra, a tanítási feladatokra, a notebookos kísérletezésre és a végpontok telepítésére.

A folyamat automatikusan létrehozza és hozzárendeli az AmazonSageMakerModelCustomizationCoreAccess nevű kezelt házirendet. Ez jogosultságot biztosít szerver nélküli modell-testreszabási feladatokhoz, többek között felügyelt finomhangoláshoz, vagyis SFT-hez, közvetlen preferenciaoptimalizáláshoz, vagyis DPO-hoz, ellenőrizhető jutalmakon alapuló megerősítéses tanuláshoz, vagyis RLVR-hez, valamint mesterséges intelligenciától kapott visszajelzésen alapuló megerősítéses tanuláshoz, vagyis RLAIF-hez. A támogatott modellek a SageMaker AI vagy az Amazon Bedrock végpontjaira telepíthetők.

A már létező Studio-környezetekben a rendszer üzenetekkel és dokumentációra mutató közvetlen hivatkozásokkal vezeti végig a felhasználót a szükséges jogosultságok hozzáadásán.

A GPU-kvóták is láthatók a modell kiválasztásakor

Az integráció része az GPU-példányok kvótáinak közvetlen megjelenítése is. Amikor a felhasználó tanításhoz vagy telepítéshez példánytípust választ, a Studio felületén láthatóvá válik, hogy a G5 és G6 GPU-példányok közül melyek érhetők el az adott AWS-fiók aktuális korlátai mellett.

Ha egy példánytípushoz kvótaemelésre van szükség, a felület közvetlenül a megfelelő Service Quotas oldalra irányítja a felhasználót. Így az elérhetőség ellenőrzéséhez nem kell külön szolgáltatásba átlépni.

A kiválasztás után a fejlesztő beállíthatja a finomhangolás paramétereit, például a tanítási adatokat, a hiperparamétereket és a példánytípust, majd elküldheti a testreszabási feladatot. Telepítéskor áttekintheti a beállításokat, létrehozhatja a végpontot, majd annak következtetési működését közvetlenül a Studio végponttesztelő felületén ellenőrizheti.

A Hugging Face szerint a megoldás célja, hogy rövidebb legyen az út a modell felfedezésétől a vállalati környezetben történő kísérletezésig és telepítésig. A szolgáltatás a támogatott modelleknél érhető el, a kipróbáláshoz a Hugging Face modelloldalán a SageMaker AI-hoz tartozó Customize vagy Deploy lehetőséget kell választani.