A Modal teljes értékű Linux-gépeket ad az AI-ügynököknek

Teljes Linux-környezet egy kapcsolóval

A Modal október 1-jén jelentette be, hogy általánosan elérhetővé teszi a VM Sandboxes szolgáltatást. A vállalat szerint a megoldás azoknak készült, akik egy hagyományos számítógép képességeit szeretnék biztosítani AI-ügynökeik számára.

A runtime="vm" beállítással létrehozott Sandbox teljes értékű Linux virtuális gépet indít. A Modal példakódja szerint a környezet Linux 7.2.6 rendszermagot futtat. A VM Sandboxes ugyanazokat az API-kat és Modal Image lemezképeket használja, mint a korábbi Sandboxok, emellett támogatja a másodperc tört része alatti hidegindítást, a CPU- és memória-erőforrások rugalmas növelését, valamint a nagy számú párhuzamos Sandbox futtatását.

Docker, adatbázisok és fejlesztői környezetek

A Modal közlése szerint az ügynökök egyre gyakrabban igényelnek olyan környezetet, amely közelebb áll egy valódi számítógéphez. Ilyen lehet egy Docker-stack, helyi adatbázis, fejlesztői szerver, grafikus környezet, mobil-szimulátor vagy akár a Linux-kernel speciális funkcióinak használata.

A VM Sandboxes Docker-in-Docker környezetek futtatására is használható. A vállalat ehhez egy Docker-lemezképet és készenléti ellenőrzést mutatott be, amely után a Sandboxban elindítható a Docker „hello-world” példája.

A háttérben a Modal saját futtatási környezetet épített a Rust nyelven készült Cloud Hypervisor projektre alapozva. A vállalat több fejlesztést kapcsolt hozzá, köztük a gazdagépi fájlrendszerek, a késleltetett lemezkép-betöltés, a memória-erőforrások rugalmas kezelése és a pillanatképek támogatását.

Korai ügyfelek már több mint 20 millió virtuális gépet indítottak

A Modal szerint a korai ügyfelek az elmúlt hónapokban több mint 20 millió VM-et indítottak. A Linear minden Coding Session munkamenetben VM Sandboxt használ, így az ügynök a felhasználó teljes fejlesztői környezetében dolgozhat. A rendszer cgroups és hálózati névterek segítségével választja el egymástól az ügynököt, a fejlesztői szervert és a Linear saját folyamatát.

A Legora jogi ügynökök órákig tartó értékelésére használja a technológiát. A teljes alkalmazást felépítik a Sandboxban, Postgres-adatbázissal, DOCX-szerkesztővel és az ügynök kódkörnyezetével együtt. A vállalat szerint így megszűntek azok a hálózati és FUSE-fájlrendszeres kerülőmegoldások, amelyekre korábban szükségük volt.

A Snorkel havonta több millió ügynökszimulációt futtat Harborral. Ezekben például leállás nélküli adatbázis-migrációkat, terhelés alatti szolgáltatáscserét és több szolgáltatásra támaszkodó alkalmazások hibakeresését vizsgálják. A Modal szerint minden szimulációhoz teljes gépet kapnak, így az összetett környezetek a valós működéshez hasonlóan futnak.

A meglévő Modal Sandbox-feladatok továbbra is a gVisor-alapú, alapértelmezett futtatókörnyezetben működnek. A VM opciót a Modal azokhoz az esetekhez ajánlja, amikor a felhasználók Dockerrel, FUSE-fájlrendszerrel vagy speciális Linux-kernel-funkciókkal találkoznak korlátokba. A két futtatókörnyezet közös API-kat, lemezképeket és használatalapú árazást alkalmaz, ezért a váltáshoz a közlemény szerint elég a beállítás módosítása.