Az OpenRouter terminált és fájlkezelést ad bármely modellnek
Az OpenRouter béta állapotban elérhetővé tette a shell eszközt és a Files API-t, így a tool callingot támogató modellek hosztolt Linux-konténerben futtathatnak parancsokat, illetve fájlokkal dolgozhatnak.
- Az openrouter:shell bármely tool callingot támogató modellhez használható.
- A parancsok elkülönített Linux-konténerben futnak.
- A Files API fájlok feltöltését, csatolását és a kimenetek letöltését támogatja.
- A shell webes kereséssel és más szerveroldali eszközökkel is kombinálható.
- A sandbox használata 0,0001 dollárba kerül aktív másodpercenként.
Hosztolt Linux-konténerben futhatnak a parancsok
Az OpenRouter szeptember 8-i bejelentése szerint az új openrouter:shell szerveroldali eszköz bármely, eszközhasználatot támogató modell számára hozzáférést adhat egy hosztolt Linux-konténerhez. A funkció és a Files API jelenleg béta állapotban érhető el.
A modelltől függ, mikor van szüksége terminálra, és mikor indítja el azt. A modell parancsokat küld a konténernek, amelyek külön futtatásokban hajtódnak végre. Az eredményben megkapja a szabványos kimenetet, a hibakimenetet és a kilépési kódot, így a kapott hibák alapján módosíthatja a munkát. Az OpenRouter példája szerint egy modell ellenőrizheti a Python verzióját, létrehozhat egy programot az első 20 prímszám kiírására, majd futtathatja is.
A rendszer az OpenAI-kompatibilis Shell eszközt a Responses és az Anthropic Messages API-n, az Anthropic-kompatibilis openrouter:bash eszközt pedig a Messages API-n támogatja. Az engine: "openrouter" beállítás mindkét eszköznél garantálja, hogy a parancsok az OpenRouter szerveroldali, elkülönített környezetében fussanak.
A konténerek és a Files API együtt kezelik az adatokat
A konténer az OpenRouter infrastruktúráján futó, a munkaterülethez kötött elkülönített Linux-környezet. A hálózati hozzáférés alapértelmezés szerint ki van kapcsolva. Szükség esetén engedélyezési listával lehet meghatározni az elérhető domaineket, például a PyPI kiszolgálóit. A hálózatpolitika a konténer elindítása után már nem módosítható.
A Files API munkaterületi tárhelyként működik. A felhasználó feltölthet fájlokat, ezeket konténerhez csatolhatja, majd letöltheti a futtatás során létrehozott kimeneteket. A csatolt fájlok írható másolatként jelennek meg a konténerben, az ott végzett módosítások pedig nem változtatják meg az eredeti munkaterületi fájlt.
A konténerben létrehozott vagy módosított fájlok 30 napig maradnak meg. Hosszabb megőrzéshez a fájl a munkaterületre emelhető, ekkor új, or_file_ azonosítóval válik elérhetővé. A konténerek alapértelmezés szerint öt perc tétlenség után alvó állapotba kerülnek. Egy konténerben legfeljebb 20 csatolt fájl lehet, a Files API teljes tárhelykerete pedig 10 GiB.
Webes kereséssel és más eszközökkel is kombinálható
Az OpenRouter a shellt a szerveroldali eszközök egyikeként mutatja be. A webes kereséssel együtt például a modell megkeresheti a hét három legnagyobb nyílt forráskódú AI-megjelenését, majd egy forráslinkeket tartalmazó Markdown-fájlt készíthet a konténerben.
Ez a felállás akkor is használható, ha a konténer számára nem szeretnének internet-hozzáférést adni. A webes keresés a konténeren kívül fut, így a modell a keresés eredményét átadhatja a parancsoknak, miközben a konténer hálózati hozzáférése kikapcsolva marad. A létrehozott fájlok a chatroomban letöltésként jelennek meg.
A használat díja a sandboxban töltött aktív idő alapján számolódik: ez másodpercenként 0,0001 dollár. Hideg indításkor, vagyis új, illetve korábban tétlen konténer esetén legalább 30 másodperc kerül felszámításra. A Files API-nak nincs külön díja. A költség a tokenhasználatból és a sandbox idejéből áll, a részletek pedig a Logs oldal idővonalán láthatók.
OpenRouter: Give any model a terminal and files
