Az Amazon Bedrock Indiában is helyben futtatja a Claude modelleket
Az Amazon Bedrock Indiában is elérhetővé tette az Anthropic Claude Opus 5, Claude Sonnet 5 és Claude Haiku 4.5 modelleket. A kérések az országon belül, Mumbai és Hyderabad AWS-régiói között mozoghatnak.
- Indiában elérhető lett a Claude Opus 5, Claude Sonnet 5 és Claude Haiku 4.5.
- A kérések az ap-south-1 és ap-south-2 AWS-régiók között maradnak.
- A cross-Region inference titkosított AWS-hálózaton működik.
- A modellek konzolból és API-kon keresztül is használhatók.
- A számlázás és a naplózás a forrásrégióhoz kötődik.
Indián belül maradhat az inferencia
Az AWS szeptember 30-i bejelentése szerint az indiai ügyfelek mostantól az Amazon Bedrockon keresztül férhetnek hozzá a három Claude-modellhez úgy, hogy az inferencia Indián belül történik. A szolgáltatás földrajzi régiók közötti inferenciát használ, és az indiai profil kizárólag az ap-south-1 és az ap-south-2 régiók között továbbítja a kéréseket.
Ez azoknak a szervezeteknek lehet hasznos, amelyeknek egy meghatározott földrajzi területen kell feldolgozniuk az adatokat. A bemeneti promptok és a kimeneti eredmények a két indiai régió között mozoghatnak, miközben a feldolgozás nem kerül ki az országból.
Nagyobb kapacitás, egy helyen követhető működés
Az AWS cross-Region inference profiljai lehetővé teszik, hogy a kérések több régió számítási kapacitásából részesüljenek. A forrásrégióban indított API-hívást a rendszer automatikusan a profilban meghatározott célrégiók egyikére irányítja. Az AWS szerint ez terhelés alatt is segíthet a megfelelő áteresztőképesség és az egyenletes teljesítmény fenntartásában, különösen forgalmi csúcsok idején.
A forgalom az AWS biztonságos hálózatán, az átvitel során végpontok közötti titkosítással halad. Az ügyféladatokat a cross-Region inference nem tárolja a célrégióban, azok kizárólag a forrásrégióban maradnak. Az Amazon Bedrock alapértelmezés szerint nem tárolja a modell bemeneteit és kimeneteit, ezt az AWS nulla adatmegőrzésű, ZDR-modellként írja le. Az AWS ugyanakkor jelzi, hogy bizonyos, automatikus biztonsági osztályozó által megjelölt tartalmaknál emberi felülvizsgálatra lehet szükség.
A számlázás és a kvótahasználat a forrásrégióhoz kötődik, függetlenül attól, hogy a kérést ténylegesen melyik háttérrégió kezelte. Az Amazon CloudWatch és az AWS CloudTrail naplóbejegyzései szintén a forrásrégióban jelennek meg.
Konzolból és API-n keresztül is használható
Az ügyfelek az Amazon Bedrock konzoljának szöveges játszóterében kódolás és SDK-beállítás nélkül próbálhatják ki a modelleket. A forrásrégió kiválasztása után az Anthropic Claude Opus 5, a Claude Sonnet 5 vagy a Claude Haiku 4.5 választható ki az inferenciaprofilok között, majd prompt küldhető és módosíthatók az inferenciaparaméterek.
A programozott hozzáférés az indiai földrajzi inferenciaprofil azonosítójával működik. Támogatott az Anthropic Messages API az Anthropic SDK-n keresztül, valamint az Amazon Bedrock InvokeModel és Converse API-ja az AWS parancssori felületén és SDK-in keresztül. A funkció elérhető a bedrock-runtime végponton, és használható többek között az Amazon Bedrock Guardrails, valamint az intelligens promptútválasztás mellett is.
A használathoz aktív AWS-fiók és Amazon Bedrock-hozzáférés, beállított AWS CLI, Python 3.8 vagy újabb, továbbá a szükséges SDK-k és jogosultságok kellenek. Az AWS példája szerint a Claude Sonnet 5 az in.anthropic.claude-sonnet-5 modellazonosítóval hívható meg az indiai profil használatával.
Mit jelent ez az indiai felhasználóknak?
Az indiai ügyfelek a három Claude-modellt úgy építhetik be generatív AI-alkalmazásokba, hogy az inferencia az országon belül maradjon. A több régió kapacitását használó működés a skálázást és a terhelés alatti rendelkezésre állást támogatja, miközben a használat, a teljesítmény és a költségek az AWS CloudWatch és az AWS Cost Explorer segítségével követhetők.
