Biztonságosabb AI-ügynököket kínál az Ollama és a Fly.io

Linuxos sandboxokban futtathatók az ügynökök

Az Ollama október 13-i bejelentése szerint az Ollama Cloud már a Fly.io Sprites környezetében is működik. A Sprite a Fly.io által biztosított sandbox, vagyis elkülönített futtatási környezet. Minden Sprite egy teljes Linux virtuális gép saját lemezzel, amely a munkamenetek között is megmarad.

A környezetet kifejezetten AI-ügynökök futtatására tervezték. A Claude Code, a Codex és a Gemini CLI támogatása alapból elérhető, így ezek az eszközök sandboxban futtathatnak parancsokat. Az Ollama Connector révén a Sprites az Ollama Cloud modelljeit is használhatja, köztük a kimi-k3, a glm-5.3 és a deepseek-v4.1-flash modelleket.

A Fly.io rejti el az API-kulcsot

A használathoz az Ollama API-kulcsát hozzá kell adni a Fly.io-szervezethez. A Fly.io titkosítja a kulcsot, és azt az API-n keresztül sem adja vissza. Amikor egy Sprite-ban futó kód az Ollamához fordul, a kérés egy Fly.io gatewayen halad át.

A gateway ellenőrzi, melyik Sprite küldi a kérést, majd hozzáadja az API-kulcsot. Maga a Sprite csak a gateway URL-jét és egy kapcsolatazonosítót ismer. Az Ollama szerint ennek köszönhetően az ügynök nem tudja kiszivárogtatni a kulcsot.

Az új connectorok alapértelmezés szerint minden Sprite számára tiltva vannak. A hozzáférés címke, névprefix vagy az összes Sprite alapján engedélyezhető. A hívások kizárólag Sprite-on belülről működnek.

Beállítás a Fly.io irányítópultján

A használathoz Ollama API-kulcsra és legalább egy Sprite-ra van szükség. A Fly.io irányítópultján a Sprites, majd a Connectors menüpontban kell Ollama connector létrehozni, és megadni az API-kulcsot. Az Access Configuration résznél kiválaszthatók azok a Sprites, amelyek hozzáférhetnek a connectorhoz.

A kapcsolat a Sprite mellett található Test reachability gombbal ellenőrizhető. A connector oldala egy, a kapcsolatazonosítót már tartalmazó parancsot is megjelenít. A kérésekhez nem kell Authorization fejlécet hozzáadni, mert ezt a gateway kezeli.

Az Ollama közlése szerint bármely OpenAI SDK használható Pythonból is. Ilyenkor a kliens base_url értékét kell a gateway címére állítani, az api_key mezőbe pedig tetszőleges érték kerülhet. Az Ollama natív, /api/* útvonalai szintén működnek a gatewayen keresztül.

Kódolóügynökök és több modell együtt

A Fly.io Sprites olyan képességgel érkeznek, amely tájékoztatja a Claude Code, a Cursor, a Codex és a Gemini CLI eszközöket az Ollama használatáról. Ha a Sprite hozzáférést kapott, az ügynök külön beállítás nélkül használhatja az Ollama modelljeit.

A Fly.io egyik példája a fuzzing, vagyis a hibás vagy szokatlan bemenetekkel végzett tesztelés. Ebben egy kisebb modell, például a nemotron-3-nano:30b, rosszul formázott bemeneteket készít, a Sprite lefuttatja ezeket a programon, egy nagyobb modell, például a kimi-k3 pedig elemzi az összeomlásokat. A modellváltáshoz a model mezőt kell módosítani.

A megoldás így azoknak lehet hasznos, akik kódolóügynököket futtatnának tartós Linux-környezetben, miközben az Ollama API-kulcsát elkülönítve szeretnék kezelni. A hozzáférés Sprite-onként szabályozható, és az Ollama Cloud modelljei ugyanazon a gatewayen keresztül érhetők el.