Helyben maradnak a Claude-modellek az AWS szöuli és szingapúri régiójában

A feldolgozás egyetlen AWS-régióban történik

Az AWS szeptember 30-i bejelentése szerint az Amazon Bedrock régión belüli következtetést kínál az Anthropic modelljeihez az Asia Pacific (Seoul) és az Asia Pacific (Singapore) régióban. Szöulban a Claude Opus 5 és a Claude Sonnet 5, Szingapúrban pedig a Claude Sonnet 5 érhető el ezen a módon a bedrock-runtime végponton.

A régión belüli következtetés olyan alkalmazásokhoz használható, amelyeknél szigorú adatkezelési vagy adatlokalizációs követelmények vannak. Az AWS példaként a pénzügyi szolgáltatásokat, az egészségügyet és a közszférát említi. A szolgáltató szerint a felhasználó által küldött bemenetek és a modellek által előállított eredmények a kérés teljes életciklusa alatt a kiválasztott régióban maradnak.

Az eltérő, több régiót érintő következtetési profilokkal szemben ennél a megoldásnál nincs útválasztási réteg. A Szöulba vagy Szingapúrba küldött kérést kizárólag az adott régió szolgálja ki. Ennek következménye, hogy a teljesítmény az adott régió kapacitásához kötött, a kérésekre pedig régiónkénti szolgáltatási kvóták vonatkoznak.

A használat és a felügyelet részletei

Az in-region inference a bedrock-runtime végponton érhető el közvetlen modellazonosítókkal, például az anthropic.claude-opus-5 és az anthropic.claude-sonnet-5 azonosítóval. Az AWS új alkalmazásokhoz ezt a végpontot ajánlja.

A megoldás támogatja az Anthropic Messages API-ját, valamint az Amazon Bedrock InvokeModel és Converse API-ját. Használhatók mellette olyan Bedrock-funkciók is, mint az Amazon Bedrock Guardrails és az intelligens promptútválasztás. A kvótahasználat, az Amazon CloudWatch mérőszámai és az AWS CloudTrail naplóbejegyzései ugyanahhoz a régióhoz tartoznak, így a megfigyelésben nincs külön forrás- és célrégió.

A számlázás az igény szerinti, azaz on-demand árazást követi abban a régióban, amelyet az ügyfél meghív. Az AWS szerint a használat, a teljesítmény és a költségek az Amazon CloudWatch, illetve az AWS Cost Explorer segítségével követhetők.

Konzolból és kóddal is elindítható

A Claude-modellek kódolás és SDK-beállítás nélkül is kipróbálhatók az Amazon Bedrock konzoljának szöveges játszóterén. A felhasználó kiválaszthatja a használni kívánt régiót, megkeresheti például az anthropic.claude-opus-5 modellt, beállíthatja a következtetési paramétereket, majd egy prompt futtatásával választ kérhet.

Programozott hozzáféréshez az AWS példája szerint aktív AWS-fiókra, Amazon Bedrock-hozzáférésre, telepített és konfigurált AWS CLI-re, Python 3.8 vagy újabb verzióra, valamint a Boto3 csomagra van szükség. Az Anthropic Messages API használatához az Anthropic SDK és az Amazon Bedrock Token Generator telepítése is szerepel az előfeltételek között.

A fejlesztők a Boto3 segítségével az InvokeModel vagy a Converse API-t hívhatják meg. Az Anthropic SDK-val a Messages API is használható, miközben a kliens a szöuli vagy szingapúri bedrock-runtime végpontot éri el.

Mit jelent ez a felhasználóknak?

Az AWS bejelentése azoknak a szervezeteknek ad új lehetőséget, amelyek generatív mesterségesintelligencia-alkalmazásaiknál egyetlen régióban szeretnék tartani a következtetési folyamatot. Szöulban két Anthropic-modell, Szingapúrban egy modell használható régión belüli feldolgozással, a kapacitást és a kvótákat azonban az adott régió feltételei határozzák meg.

A modellrégiónkénti elérhetőség változhat, ezért az AWS a legfrissebb információkhoz az Amazon Bedrock felhasználói útmutatójának regionális modell-elérhetőségi oldalát jelöli meg.