Három Claude-modell érhető el indiai adatfeldolgozással az Amazon Bedrockon
Az Amazon Bedrock Indiában is elérhetővé tette az Anthropic Claude Opus 5, Claude Sonnet 5 és Claude Haiku 4.5 modelleket. Az indiai földrajzi régióközi inferencia a feldolgozást az országon belül tartja.
- Indiában elérhetővé vált a Claude Opus 5, a Claude Sonnet 5 és a Claude Haiku 4.5.
- Az inferencia az ap-south-1 és az ap-south-2 AWS-régiók között zajlik.
- A szolgáltatás támogatja a Messages, InvokeModel és Converse API-kat.
- Az AWS szerint az alapértelmezett adatmegőrzés nulla.
- A számlázás és a naplózás a forrásrégióhoz kötődik.
Indián belül marad a modellfuttatás
Az AWS szeptember 30-i bejelentése szerint az indiai Amazon Bedrock-ügyfelek mostantól hozzáférhetnek az Anthropic három modelljéhez úgy, hogy az inferencia az India régióiban zajlik. A szolgáltatás földrajzi régióközi inferenciát használ, amely az indiai Mumbai és Hyderabad régiók között továbbítja a kéréseket.
Az India geographic profile kizárólag az ap-south-1 és az ap-south-2 régiók között irányítja a forgalmat. Ennek megfelelően a bemeneti promptok és a kimeneti eredmények e két régió között mozoghatnak, de az ország határain belül maradnak. Ez azoknak az ügyfeleknek lehet fontos, akiknek meghatározott földrajzi területen kell feldolgozniuk az adatokat.
Kapacitásmegosztás két AWS-régió között
Az Amazon Bedrock régióközi inferenciaprofiljai lehetővé teszik, hogy a kérések több AWS-régió között legyenek elosztva. A hívás a forrásrégióból indul, majd a rendszer automatikusan a profilban meghatározott célrégiók egyikébe irányítja. Így az ügyfélnek nem kell külön kapacitást kezelnie minden régióban.
Az AWS szerint a két indiai régió együttes számítási kapacitása segíthet a terhelés alatti áteresztőképesség és a teljesítmény egyenletességének fenntartásában, különösen forgalmi csúcsok idején. A kommunikáció biztonságos AWS-hálózaton, a továbbított adatok végpontok közötti titkosításával zajlik.
Az AWS közlése szerint a régióközi inferencia használatakor az ügyféladatokat nem tárolják a célrégióban, azok kizárólag a forrásrégióban maradnak. Az Amazon Bedrock alapértelmezésben nulla adatmegőrzésű, vagyis nem tárolja a modell bemeneteit és kimeneteit. Az AWS ugyanakkor jelzi, hogy bizonyos, automatikus biztonsági osztályozók által megjelölt tartalmaknál emberi ellenőrzésre lehet szükség.
Konzolból és API-kon keresztül is használható
A Claude-modellek az Amazon Bedrock konzoljának szöveges játszóterén is elérhetők. Ehhez nincs szükség kódolásra vagy SDK-beállításra. A felhasználó promptokat küldhet, módosíthatja az inferencia paramétereit, és összehasonlíthatja a modellváltozatokat. A használathoz a kívánt forrásrégióban kell megnyitni a konzolt, majd a Playground felületen kiválasztani az adott indiai inferenciaprofilt.
Programozott eléréshez az indiai földrajzi inferenciaprofil-azonosító használható az Anthropic Messages API-val a bedrock-runtime végponton keresztül. Emellett támogatott az Amazon Bedrock InvokeModel és Converse API, az AWS parancssori felülete és az AWS SDK is. A szolgáltatás együtt használható többek között az Amazon Bedrock Guardrails és az intelligent prompt routing funkciókkal.
A beállításhoz aktív AWS-fiók, Amazon Bedrock-hozzáférés, telepített és konfigurált AWS CLI, Python 3.8 vagy újabb, valamint a szükséges SDK-k és jogosultságok kellenek. A számlázás és a kvótahasználat a forrásrégióhoz kapcsolódik, függetlenül attól, hogy a kérést ténylegesen melyik háttérrégió kezelte.
Egy helyen követhető a működés
Az AWS CloudWatch és az AWS CloudTrail naplóbejegyzései a forrásrégióban jelennek meg, így a monitorozás egy helyen marad. A használat, a teljesítmény és a költségek a CloudWatch, illetve az AWS Cost Explorer segítségével követhetők.
Az indiai elérhetőség azoknak a szervezeteknek ad új lehetőséget, amelyek Claude-modelleket szeretnének használni úgy, hogy az inferencia az országon belül maradjon, miközben két régió kapacitására támaszkodhatnak. A modellek aktuális régiónkénti elérhetőségét az Amazon Bedrock modellrégiós útmutatója tartalmazza.
