A DigitalOcean MicroVMs elszigetelt környezetet ad AI-ügynököknek

Izolált környezet minden munkamenethez

A DigitalOcean MicroVMs olyan virtuális gépeket kínál, amelyek az open source Firecrackerre épülnek. A szolgáltatás célja, hogy a fejlesztőknek ne kelljen saját virtualizációs réteget létrehozniuk és üzemeltetniük kódolóügynökök, homokozók vagy kódvégrehajtó szolgáltatások számára.

Egy kódolóügynök munkamenete során az ügynök beolvassa a tárolót, kódot ír, majd lefuttatja a kódot és az ahhoz tartozó teszteket. A DigitalOcean példájában minden munkamenethez külön MicroVM készül a fejlesztő által megadott konténerképből. Ez tartalmazza az ügynököt, az eszközkészletét és a függőségeit.

A MicroVM saját kernellel indul, és hardveres virtualizációs határ választja el a gazdagéptől és más ügyfelektől. Az ügynök szabadon írhat és futtathat kódot, az esetleges hibás lépések pedig a szolgáltatás leírása szerint az adott MicroVM-re korlátozhatók. A munkamenet hitelesített HTTPS-végponton érhető el, amelyhez csak érvényes DigitalOcean API-token használható.

Szüneteltetés, gyors indulás és mentett állapot

A MicroVM-ek ezredmásodpercek alatt elindulnak, és ugyanilyen gyorsan folytathatják a működést szüneteltetés után. Ha a gép egy előre beállított ideig tétlen, a szolgáltatás szünetelteti. Ilyenkor a felhasználó nem fizet számítási kapacitásért, miközben a memória, a fájlok és a futó folyamatok megmaradnak.

Ez különösen olyan munkameneteknél lehet hasznos, amelyek sok időt töltenek várakozással a modell válaszára, a kód futására vagy egy fejlesztői ellenőrzésre. Új kérés érkezésekor a MicroVM ott folytatja, ahol abbahagyta. A DigitalOcean szerint a hirtelen megnövekvő munkamenetszámhoz a rendszer igény szerint további MicroVM-eket indít, a csapat számára beállított korlátig.

A környezet előkészítése egyszer elvégezhető, majd ellenőrzőpontként menthető. Az új munkamenetek ebből az előmelegített állapotból indulhatnak, így nem kell minden alkalommal újjáépíteni az ügynök környezetét.

Helyreállítás, hálózat és díjszabás

Ha egy már futó terhelés összeomlik, a MicroVM automatikusan újraindítja. Ha azonban a munkafolyamat hibás állapotban ismételten sikertelen, a rendszer leállítja az újrapróbálkozást, hogy a hibás lemezkép ne induljon újra vég nélkül. A MicroVM-ek VPC-ben is futtathatók, így elérhetik az adatbázisokat és belső szolgáltatásokat anélkül, hogy ezeket nyilvánossá kellene tenni. VPC hiányában a DigitalOcean létrehozhat egyet.

A szolgáltatás számítási díja futás közben 0,022 dollár vCPU-óránként és 0,0085 dollár GiB-óránként, másodperc alapú elszámolással. A tárhely díja a tényleges használat alapján 0,05 dollár GiB-havonta. A szüneteltetett MicroVM így csak a tárhelyért kerül pénzbe. Nyilvános hálózaton a kimenő adatforgalom díja 0,01 dollár GiB-onként.

A DigitalOcean példája szerint egy 2 vCPU-val és 4 GiB memóriával futó MicroVM egy teljes órára 0,078 dollár számítási költséget jelent. Ha ugyanilyen beállítás mellett egy kódolóügynök 15 percig fut, majd az óra hátralévő részében szünetel, a számítási költség 0,0195 dollár, a használt tárhely díján felül.

Elérhetőség és lehetséges felhasználások

A MicroVMs nyilvános előnézetben érhető el. A DigitalOcean szerint a technológia használható megbízhatatlan kódok homokozására, kiértékelési és megerősítéses tanulási környezetekhez, CI/CD-futtatókhoz, valamint pull requestek előnézeti környezetéhez is.

Az első MicroVM a Control Panelből, a doctl parancssori eszközzel vagy API-n keresztül hozható létre. A DigitalOcean Managed Agents szintén MicroVM-ekre épül, és nyilvános előnézetben érhető el. Ebben a felállásban a MicroVM biztosítja a virtuális gépet és annak életciklusát, a Managed Agents pedig magasabb szintű vezérlést ad az ügynök kezeléséhez, a fájlokhoz, a munkamenet állapotához és az eszközökhöz való szabályozott hozzáféréshez.