AWS: SageMaker-szakértelmet kapnak a kódoló ügynökök
Az AWS új aws-ai-ml skillt mutatott be, amely Amazon SageMaker AI-inferencia optimalizálására tanítja a Kiro, Claude Code, Codex és más, MCP-kompatibilis kódoló ügynököket. Az eszköz benchmarkokat futtat, telepítési konfigurációkat ajánl, és végrehajtható Python-kódot generál.
- Az AWS bemutatta az aws-ai-ml agent skillt.
- A skill SageMaker AI-benchmarkokat és teljesítményjelentéseket készít.
- Az ügynök példánytípusokat és telepítési konfigurációkat rangsorol.
- A rendszer SageMaker Python SDK v3 kódot generál.
- A skill helyben és Amazon SageMaker Studióban is használható.
A cél az infrastruktúra kiválasztásának egyszerűsítése
Az AWS szerint az Amazon SageMaker AI többféle kiszolgálási módot támogat, köztük a valós idejű, kötegelt és aszinkron működést. A szolgáltatás igény szerinti és lefoglalt kapacitást, különböző hardveres példánytípusokat, virtuális privát felhős elkülönítést, automatikus skálázást, valamint a SageMaker AI tanítási útvonalainak integrációját is kínálja.
A lehetőségek széles köre miatt a fejlesztőknek sokszor nehéz eldönteniük, melyik példánycsalád vagy kiszolgálókonténer felel meg egy adott modellnek. Az új agentic élményben a felhasználó természetes nyelven írhatja le a célját, például egy teljesítménykövetelményt, költségkeretet vagy kiértékelendő modellt.
Az ügynök célzott kérdéseket tesz fel, majd valós benchmarkokra és mért teljesítményadatokra támaszkodó, áttekinthető SageMaker Python SDK v3 kódot készít. A folyamat minden lépése látható, a felhasználó pedig ellenőrizheti, módosíthatja és saját környezetében futtathatja a kódot.
Benchmarkok és telepítési javaslatok
Ha egy modell már fut SageMaker AI-végponton, az ügynök a megadott végpontot terheléses teszttel vizsgálhatja. Ehhez a SageMaker Python SDK Workload.synthetic() és start_benchmark() API-jait használó Python-jegyzetfüzetet generál. A benchmark előtt megerősítést kér, mivel a teszt valódi forgalmat küld az élő végpontra.
A jelentésben szerepelhet a másodpercenkénti kérésszám, a másodpercenként előállított tokenek száma, a p50 és p99 késleltetés, az első tokenig eltelt idő, a tokenek közötti késleltetés, valamint a támogatott párhuzamos kérések száma. Az AWS közlése szerint ezek valódi infrastruktúrán, valós terhelés mellett mért adatok, nem becslések. Az ügynök fejlesztési lehetőségeket is javasolhat, például a prefill decoding használatát.
A skill egy modellhez megfelelő példánytípus kiválasztásában is segít. A modell származhat Amazon S3-ból, az Amazon SageMaker JumpStart katalógusából vagy a Hugging Face Hubból. Az ügynök a jelölt példányokat és konfigurációkat kiértékeli, majd teljesítménymutatókkal, köztük áteresztőképességgel, késleltetési percentilisekkel, az első tokenig eltelt idővel és párhuzamossággal rangsorolt lehetőségeket mutat.
Telepítés helyben vagy SageMaker Studióban
Az aws-ai-ml skill az AWS Agent Toolkit for AWS eszközén keresztül telepíthető helyi gépre, illetve használható Amazon SageMaker Studio JupyterLab-környezetében is. Az AWS szerint a beállítás nulláról működő beszélgetésig 10 perc alatt elvégezhető. A helyi telepítéshez AWS CLI 2.35 vagy újabb verzió és az uv szükséges.
A skill olyan ügynökökhöz kapcsolható, mint a Kiro, a Claude Code és a Codex, valamint minden MCP-t támogató kódoló ügynök. A használathoz az AWS-hitelesítő adatoknak jogosultságot kell adni a SageMaker AI API-k, például végpontok létrehozásának és benchmarkfeladatok futtatásának meghívására. A skill saját működéséhez külön IAM-beállítás nem szükséges.
A SageMaker Studióban egy előre konfigurált képet kell kiválasztani egy privát JupyterLab-tér létrehozásakor. Ez a kép tartalmazza az aws-ai-ml skillt és a szükséges függőségeket. A környezet első indítása 5 és 10 perc közötti időt vehet igénybe.
AWS: New agent skill: Amazon SageMaker optimized generative AI inference for your coding agent
