Kanadából is elérhetők az OpenAI GPT-modellek az Amazon Bedrockon

Három OpenAI modellcsalád vált elérhetővé

Az AWS október 20-i bejelentése szerint a kanadai szervezetek a Canada (Central), vagyis a ca-central-1, valamint a Canada West (Calgary), azaz a ca-west-1 régióból érhetik el az OpenAI új modelljeit az Amazon Bedrockon keresztül.

A kínálatban a GPT-5.6, a GPT-6 és a GPT-6.1 modellcsalád szerepel. A GPT-5.6 változatai a Sol, a Terra és a Luna. A GPT-6 esetében az Astra, a Sol és a Luna érhető el, míg a GPT-6.1-ből a Sol változat szerepel a listán.

Az AWS által megadott pozicionálás szerint a GPT-6.1 Sol olyan feladatokra készült, ahol a teljesítmény és a költség egyaránt fontos. A GPT-6 Astra összetett, végponttól végpontig tartó következtetési és ügynöki feladatokra szolgál. A GPT-6 Sol rendszeres használatra szánt, erős következtetési és kódolási modell, a GPT-6 Luna pedig gyors, alacsony költségű modell nagy mennyiségű, ismétlődő feladatokhoz.

Észak-Amerikán belül irányíthatók a kérések

A cross-Region inference kapacitáskezelési mechanizmus. Az alkalmazás a forrásrégió Amazon Bedrock Runtime végpontját hívja meg, a Bedrock pedig egy támogatott célrégióba továbbítja a kérést feldolgozásra. Így a fejlesztőknek nem kell saját alkalmazásukban kezelniük a célrégiók kiválasztását.

Kanadából kétféle inference profile használható. Az US geographic profilok a kanadai forrásrégió és az Egyesült Államok régiói között továbbítják a kéréseket. Ezt az AWS akkor javasolja, ha a feldolgozásnak Észak-Amerikán belül, Kanadában és az Egyesült Államokban kell maradnia. A Global profilok a modell által támogatott kereskedelmi AWS-régiók közül választanak, így szélesebb kapacitáskészletet vehetnek igénybe.

A profilok és a modellrégiók elérhetősége változhat. A GPT-5.6 modellek globális profilja jelenleg csak a ca-central-1 régióból érhető el, Calgaryból ehhez a modellcsaládhoz az US geographic profilt kell használni. Az AWS azt javasolja, hogy éles telepítés előtt a fejlesztők az AWS CLI-ben vagy a konzolon ellenőrizzék az aktív profilokat.

Három API-val és egymillió tokenes kontextussal használhatók

A GPT-5.6, GPT-6 és GPT-6.1 modellek szöveges és képi bemenetet fogadnak, szöveget adnak vissza, és egymillió tokenes kontextusablakot támogatnak. Elérhető a következtetési mód és az eszközhívás is. A modellek az Amazon Bedrockon promptgyorsítótárat is támogatnak.

A hozzáférés az OpenAI Responses API-n, az OpenAI Chat Completions API-n és az Amazon Bedrock Converse API-n keresztül működik a bedrock-runtime végponton. Az OpenAI-kompatibilis API-k a végpont /openai/v1 útvonalait használják. A hitelesítés AWS Signature Version 4-gyel vagy Amazon Bedrock API-kulccsal történhet.

Az AWS útmutatója kitér a jogosultságok beállítására, az AWS Identity and Access Management szerepköpeire és felhasználóira, valamint a szervezeti szolgáltatási vezérlő házirendekre is. A példák Python 3.9-es vagy újabb környezetet, továbbá az openai, a boto3 és az aws-bedrock-token-generator csomagokat használják. A dokumentáció a kvótanövelés, a forrásrégióban elérhető megfigyelési jelek és a használat utáni erőforrás-takarítás lépéseit is bemutatja.

Mit jelent ez a kanadai felhasználóknak?

A kanadai Amazon Bedrock-felhasználók így a saját kanadai forrásrégiójukból indíthatják az OpenAI modellek használatát, miközben a Bedrock a kiválasztott profil szabályai szerint kezeli a feldolgozási régiót. A megoldás nagyobb kapacitáskészlethez adhat hozzáférést, ami az AWS szerint segíthet a forgalmi csúcsok alatti áteresztőképesség fenntartásában.

A régiókorlátozásokat alkalmazó szervezeteknek külön ellenőrizniük kell, hogy a kiválasztott profil minden célrégiója engedélyezett legyen. Az AWS szerint a profilok tagsága és a modellek elérhetősége módosulhat, ezért telepítés előtt szükséges az aktuális állapot ellenőrzése.