A Tailscale saját modellroutert épített a Vercel AI Gateway-re
A Tailscale Aperture nevű modellroutere a vállalati tailnet hálózati identitásához köti az AI-modellek és ügynökök használatát. A rendszer a Vercel AI Gateway és Vercel Sandbox szolgáltatásaira épül, így a cég szerint hónapok alatt eljutottak a prototípustól a fizető ügyfelekig.
- Az Aperture a tailnet identitásához köti az AI-modellek használatát.
- A rendszer több száz modellhez biztosít egységes hozzáférést a Vercel AI Gatewayen keresztül.
- Az ügynökök Vercel Sandboxban futnak, szolgáltatói API-kulcs kiadása nélkül.
- A Tailscale saját vállalati AI-rétegét megszakítás nélkül migrálta az AI Gatewayre.
- Az Aperture új célja, hogy a felhasználók tíz percen belül alkalmazást készítsenek és osszanak meg.
A hálózati identitás szabályozza a modellhozzáférést
A Tailscale olyan privát hálózatot, tailnetet kínál, amely egy vállalat laptopjait, szervereit, felhőpéldányait és személyes eszközeit kapcsolja össze. Az Aperture ugyanezt a megközelítést terjeszti ki az AI használatára. A vállalatoknak nem kell külön szolgáltatói API-kulcsot adniuk minden munkatársnak, ügynöknek vagy eszköznek. Ha valakit hozzáadnak a tailnethez, azonnal használhatja az engedélyezett modelleket, eltávolításakor pedig a hozzáférés megszűnik.
Az Aperture mögött a Vercel AI Gateway és a Vercel Sandbox működik. Az AI Gateway egyetlen API-t biztosít több száz modellhez, a Sandbox pedig elkülönített környezetet ad az ügynökök futtatásához. Így a Tailscale az ügyfelek privát hálózatán belül kínálhat modellhozzáférést és ügynök-végrehajtást anélkül, hogy minden szükséges AI-infrastruktúrát házon belül kellene megépítenie.
A szolgáltatói réteg összetettebb volt a vártnál
A Tailscale kezdetben maga akarta elkészíteni az útválasztási és végrehajtási réteget, később azonban a mérnöki munka összetettsége miatt más megoldást választott. David Carney társalapító szerint a Vercel AI-infrastruktúra vállalatként, a Tailscale pedig hálózati infrastruktúra-szolgáltatóként egészíti ki egymást: a Tailscale az identitás- és kapcsolati réteget építette a Vercel átjárójára.
A Tailscale szerint a különböző szolgáltatók végpontjai nem működnek azonos módon. Az AI Gateway minden kérésnél visszaadja a költséget és a használati adatokat, ezért az Aperture ügyfelei számára meg tudja jeleníteni a kiadásokat anélkül, hogy a Tailscale minden szolgáltatóhoz külön árlistát tartana fenn.
Az adatmegőrzés is fontos szempont volt. Az AI Gateway maga nem őriz adatot, a Tailscale pedig globálisan beállíthatja a nulla adatmegőrzést, vagy kérésenként használhatja a zeroDataRetention jelzőt. Ez automatikusan a nulla adatmegőrzést támogató szolgáltatókra korlátozza az útválasztást.
Ügynökök futtatása kulcsok kiadása nélkül
Az Aperture ügynökei egy elkülönített sandboxban futnak. A folyamat során a sandbox elindul és csatlakozik az Aperture-höz, az Aperture az AI Gatewayhez kapcsolódik, a Tailscale ellenőrzi az identitást, majd az ügynök elvégzi a feladatát. Ezután a sandbox leáll. Az ügynök soha nem kap szolgáltatói API-kulcsot.
A Tailscale korábban más szolgáltatónál is készített működő sandbox-megoldást, mégis a Vercelre váltott. Remy Guercio, az Aperture termékvezetője szerint a céljuk az volt, hogy a hálózati identitásra összpontosítsanak, ne a sandbox biztonsági határainak kialakítására. A Vercel AI Gateway költségei a Tailscale és ügyfelei számára nem tartalmaznak felárat, a vállalatok ugyanazt a díjat fizetik, mintha közvetlenül az adott modellhez kapcsolódnának.
A belső átállás megszakítás nélkül zajlott
A Tailscale saját AI-használata korábban több közvetlen szolgáltatói fiókra és felhőalapú végpontra épült. Az Aperture bevezetése után a mérnökök egy kapcsolót készítettek, amely a különálló szolgáltatói API-k helyett az AI Gateway felé irányítja a kéréseket. A munkatársak számára semmi sem változott, mivel továbbra is az Aperture maradt a használt végpont, és az általuk használt modellek mind szerepeltek az AI Gateway katalógusában.
Guercio szerint a teljes vállalati átállás másodpercek alatt megtörtént, és ezt senki sem vette észre. A Tailscale most ezt a saját migrációt használja mintaként azoknak a nagyvállalati ügyfeleknek, amelyek több tucat szolgáltatói fiókot és kulcsot kezelnek.
Az Aperture időközben chatfelületet, MCP-csatlakozókat és ideiglenes csomópontként elindítható sandboxokat is kapott. A Tailscale következő célja, hogy a felhasználók a regisztrációtól számítva legfeljebb tíz perc alatt promptot futtassanak, alkalmazást készítsenek és megosszák azt.
