A Snowflake központi vezérlőréteget épít a vállalati AI-hoz
A Snowflake nyilvános előzetesben elérhetővé tette a Cortex AI Gatewayt, amely egyetlen végponton keresztül kezeli a vállalati AI-modellekhez és MCP-szerverekhez való hozzáférést. A platform célja az egységes láthatóság, irányítás, biztonság és költségkontroll megteremtése a szétszórt AI-infrastruktúrában.
- A Cortex AI Gateway egyetlen végpontot ad a vállalati AI-modellekhez.
- A szolgáltatás nyilvános előzetesben érhető el.
- Az RBAC segítségével szabályozható, mely modellek használhatók.
- A dinamikus modellválasztás hamarosan privát előzetesbe kerül.
- Az MCP-eszközök katalógusa több mint 100 szervert tartalmaz.
Egy központi réteg a széttagolt AI-infrastruktúrához
A Snowflake szerint a vállalati AI-környezetek az elmúlt években összetett és széttagolt rendszerekké váltak. Vektoraadatbázisok, megfigyelőrendszerek és munkafolyamatok kapcsolódnak kódoló ügynökökhöz, beágyazott ügynökökhöz, valamint Model Context Protocol, vagyis MCP-szerverekhez. Eközben a használható modellek kínálata néhány hetente változhat.
A különböző csapatok eltérő időpontokban vezetnek be új komponenseket, ami a Snowflake szerint biztonsági és irányítási hiányosságokat okozhat. Sok szervezet így nehezen válaszolja meg, hogy mely modelleket hívják meg, ki indítja ezeket a hívásokat, milyen műveleteket végeznek az ügynökök, és mekkora költség kapcsolódik hozzájuk.
A Cortex AI Gateway ezt egy központi vezérlőréteggel kezeli. A Snowflake hat területet emel ki: az egységes, szabályozott következtetést, a dinamikus modellválasztást, az MCP- és eszközkezelést, a központi megfigyelhetőséget, a biztonsági szabályokat és korlátokat, valamint a költségek irányítását.
Egy végpont több modellhez
A Cortex AI Gateway egyetlen végpont mögé vonja össze a modellekhez vezető különböző hozzáférési útvonalakat. A platform az OpenAI, Grok, GLM, Gemini, Llama, Mistral és DeepSeek modelljeihez a Chat Completions API-t, a Claude-hoz pedig a Messages API-t valósítja meg.
A Snowflake szerint a streamelés, az eszközhívás, a strukturált kimenet, a promptgyorsítótárazás, a képbemenet és a következtetés ugyanúgy működik, mint natív használat esetén. Egy meglévő kliens átállításához így elegendő lehet egy másik alap-URL és egy token. Az OpenAI Responses API támogatása a vállalat közlése szerint hamarosan érkezik.
A hozzáférést a Snowflake meglévő szerepköralapú hozzáférés-vezérlése, az RBAC szabályozza. Az adminisztrátorok meghatározhatják, mely modellek érhetők el a gatewayen keresztül, így csak a szervezet által jóváhagyott modellek használhatók.
Dinamikus modellválasztás és MCP-eszközök felügyelete
A Cortex AI Gatewayhez hamarosan privát előzetesben érkező dinamikus modellválasztás az adott feladathoz legolcsóbb, a feladatot várhatóan megfelelő minőségben elvégző modellt választja ki. A Snowflake kutatócsapata által finomhangolt rendszer az egyszerűbb és ismétlődő munkát hatékonyabb modellekhez, a mélyebb gondolkodást igénylő feladatokat pedig fejlettebb modellekhez irányítja.
A Snowflake belső értékelése szerint a megoldás egy dbt-folyamatot akár háromszor nagyobb tokenhatékonysággal teljesített a kizárólag csúcsmodellekre épülő megközelítéshez képest, hasonló minőség mellett. Egy külön kódolási tesztben a mérnöki csapatok a pull requestek ütemét nagyjából 25 százalékkal kevesebb token használatával tartották fenn.
Az MCP-eszközök kezelését a Snowflake a Natoma felvásárlását követően építette be a Cortex AI Gatewaybe. A jelenleg privát előzetesben lévő funkció több mint 100 MCP-szerverből álló katalógust kínál, és az OAuth-kezelést is elvégzi. Az adminisztrátorok egyes eszközöket, minden jelenleg közzétett eszközt, vagy az aktuális és jövőbeli eszközöket is engedélyezhetik. A letiltott eszközök nem jelennek meg a kliens számára, és nem hívhatók meg.
Snowflake: Building the Modern AI Infrastructure Stack with Cortex AI Gateway
