Helyben futó AI-modelleket támogat az Antigravity SDK
A Google Antigravity SDK már helyi AI-modellekkel és többféle végrehajtási móddal is használható. A fejlesztők így internetkapcsolat és felhőalapú API-hívás nélkül építhetnek ügynöki munkafolyamatokat, elsőként a Gemma 4 26B A4B LiteRT-integrációjával.
- Az Antigravity SDK helyi, teljesen offline AI-munkafolyamatokat támogat.
- A kezdeti integráció a LiteRT-re és a Gemma 4 26B A4B modellre épül.
- A Google bemutatójában a tokenek 97,2 százaléka helyben futott le.
- Az SDK Ollama, LM Studio és vLLM használatát is támogatja OpenAI-kompatibilis szervereken keresztül.
Offline működés és helyben maradó adatok
A Google Developers Blog szeptember 23-i bejelentése szerint az Antigravity SDK támogatja a helyi munkafolyamatokat a helyben futó modellek széles körével és többféle végrehajtási lehetőséggel. A kezdeti támogatás a Google AI Edge LiteRT technológiájára épül, és a Gemma 4 26B A4B modellre terjed ki.
A fejlesztők a Google Antigravity ügynöki képességeire építve hozhatnak létre olyan alkalmazásokat, amelyek teljesen offline működnek. A Google szerint a helyi futtatás API-költségek és sebességkorlátok nélkül használható, miközben a kód és a felhasználói kérések a gépen maradnak. Ez adatvédelmi vagy megfelelési követelményekkel működő vállalati környezetekben lehet fontos, illetve ott, ahol nincs stabil internetkapcsolat.
A helyi és felhőalapú modellek kombinálhatók is. A tokenhatékony helyi folyamatok mellett szükség esetén nagyobb felhőmodellek is bevonhatók.
Gemma 4 26B A4B LiteRT-vel
A Google útmutatója szerint a kipróbáláshoz 24 GB-nál több videomemóriával vagy egységes memóriával rendelkező gép ajánlott. A fejlesztők Python virtuális környezet létrehozása után telepíthetik a google-antigravity és a litert-lm csomagot, majd letölthetik a Gemma 4 26B A4B modellt a Hugging Face-ről.
Az SDK-ban a LiteRTAgentConfig beállításával adható meg a helyben tárolt modell útvonala. A Google példakódja egy olyan ügynököt indít, amely lekérdezi, milyen fájlok találhatók az aktuális könyvtárban, majd a választ tokenenként írja ki. A vállalat szerint a LiteRT-re és a Gemma 4 26B modellre optimalizált munkafolyamat a helyi GPU-t és RAM-ot használja.
Hibrid ügynöki munkafolyamatok
A Google egyik bemutatójában egy felhőalapú Gemini 3.8 Flash modell tervezőként és koordinátorként működik, miközben helyben futó Gemma 4 26B példányok végzik a feladatokat. A bemutatott rendszer három sérülékeny Python-modult, az auth.py, a billing.py és a database.py fájlokat auditálja és javítja.
A Google közlése szerint a felhőmodell kizárólag fájlneveket és feladatleírásokat kapott, a forráskód nem hagyta el a gépet. A tervezéshez 95 felhőtoken fogyott, miközben az összes token 97,2 százaléka, 3322 token helyben és offline futott le. A helyi modellek reprodukálták a biztonsági hibákat, javításokat készítettek, ellenőrizték a javításokat, majd regressziós tesztekkel validálták az eredményt. A Google szerint a bemutató futtatása ellenőrzött, sikeres javításokat adott.
Az SDK egy másik példája egy helyben létrehozott, terminálban futó erőforrásfigyelő. Az ügynök a psutil és a rich könyvtárakat használó Python-szkriptet, valamint a szükséges requirements.txt fájlt készíti el, majd teszteli a kódot.
Az Antigravity SDK a LocalOpenAIAgentConfig beállítással OpenAI-kompatibilis szervereket, köztük Ollamát, LM Studio-t és vLLM-et is támogat. Így a fejlesztők különböző helyi következtetési háttérrendszereket próbálhatnak ki anélkül, hogy módosítaniuk kellene az ügynökök összehangolását, eszközeit és munkafolyamatait.
Google for Developers: Introducing Support for Local AI Models in the Antigravity SDK- Google Developers Blog
