A Modal teljes Linux-gépeket ad az ügynökök alá

A Modal általánosan elérhetővé tette VM Sandbox szolgáltatását, amely teljes értékű Linux virtuális gépet biztosít mesterségesintelligencia-ügynökök számára. A megoldás a meglévő Sandbox API-kat, lemezképeket és erőforrás-kezelési lehetőségeket is megtartja.
- A Modal általánosan elérhetővé tette VM Sandbox szolgáltatását.
- A VM Sandbox teljes Linux virtuális gépet indít a runtime="vm" beállítással.
- A környezet Docker-stacket, helyi adatbázisokat és fejlesztői szervereket is támogat.
- A korai ügyfelek több mint 20 millió virtuális gépet indítottak.
- A gVisor marad az alapértelmezett futtatókörnyezet.
Teljes számítógép egyetlen beállítással
A Modal október 1-jén jelentette be, hogy a VM Sandbox általánosan elérhetővé vált a platformján. A szolgáltatás egyetlen beállítással, a runtime="vm" értékkel teljes értékű Linux virtuális gépet indít. A cég bemutatója szerint a környezetben a uname -srn parancs Linux modal 7.2.6 eredményt ad.
A VM Sandboxok ugyanazokat az API-kat, modal.Image lemezképeket, szubmásodperces hidegindítást és CPU-, illetve memóriafelpörgetési lehetőségeket kínálják, mint a korábbi Sandbox környezetek. A Modal szerint a rendszer több százezer párhuzamos Sandbox kezelését is támogatja.
Docker, adatbázisok és fejlesztői környezetek
A Modal azért fejlesztette ki a VM-alapú futtatást, mert az ügynökök egyre gyakrabban igényelnek olyan környezetet, amely valódi számítógépre hasonlít. Ilyen lehet egy Docker-stack, helyi adatbázis, fejlesztői szerver, grafikus környezet vagy mobil-szimulátor. Egyes feladatoknál az ügynöknek a Linux kernel képességeire is szüksége lehet.
A vállalat a Cloud Hypervisor Rust nyelven írt projektjére építette saját futtatókörnyezetét. Ehhez a gazdagépes fájlrendszerek, a lusta lemezkép-betöltés, a memóriafelpörgetése és a pillanatképek kezelése terén is fejlesztéseket készített. A Modal példakódja Docker-in-Docker lemezképet indít VM Sandboxban, majd a Docker készenléti állapotának ellenőrzése után lefuttatja a hello-world konténert.
Korai felhasználók millió feletti VM-indítással
A Modal közlése szerint a korai ügyfelek az elmúlt hónapokban több mint 20 millió virtuális gépet indítottak. A Linear minden Coding Session munkamenetét VM Sandboxban futtatja, így a felhasználó teljes fejlesztői környezete is elindulhat. A Linear a cgroups és a hálózati névterek segítségével különíti el a kódoló ügynököt, a fejlesztői szervert és saját folyamatát.
A Legora jogi ügynökök több órán át tartó tesztelésére használja a VM Sandboxokat. Minden környezetben a teljes alkalmazást felépítik, PostgreSQL-lel, DOCX-szerkesztővel és az ügynök saját kódkörnyezetével együtt. A cég szerint a Docker így a szokásos Linux-géphez hasonlóan működik, ezért korábbi hálózati és FUSE-megoldásaikat elhagyhatták.
A Snorkel havonta több millió ügynökszimulációt futtat a Harbor rendszerrel. Ezekben például adatbázisok leállás nélküli migrációját, terhelés alatti szolgáltatáscserét és több szolgáltatásra épülő alkalmazások hibakeresését vizsgálják.
Mikor érdemes VM-re váltani?
A VM Sandbox nem váltja fel automatikusan a Modal alapértelmezett futtatókörnyezetét. A gVisor-alapú Sandbox marad az alapértelmezett, és a vállalat szerint azok a munkafolyamatok, amelyek jelenleg megfelelően működnek rajta, továbbra is használhatók ugyanígy.
A runtime="vm" beállítás akkor lehet indokolt, ha a feladat a felhasználói tér korlátaiba ütközik, például Docker, FUSE-fájlrendszerek vagy speciális Linux-kernel-képességek miatt. A két futtatókörnyezet közös API-kat, lemezképeket és használatalapú árazást alkalmaz. A Modal szerint a VM Sandboxok jelenlegi formájukban szándékosan konténeres használati módot követnek, a jövőben pedig új, a virtuális gépek kibővített képességeire építő vezérlőelemeket terveznek.
Modal: VM Sandboxes: Full computers for agents


