Az Exowatt kisebb, finomhangolt modellel előzte meg a frontier modelleket

AI-rendszer energia-infrastruktúrához

Az Exowatt moduláris, igény szerint vezérelhető napelemes rendszereket fejleszt energiaigényes alkalmazásokhoz, például AI-adatközpontokhoz. Fő terméke, az Exowatt P3 optikai lencsékkel gyűjti a napenergiát, hőtároló akkumulátorban tárolja, majd hőerőgéppel alakítja villamos energiává. A rendszer közvetlenül, a mérő mögött látja el az adatközpontokat, így az üzemeltetőknek nem kell a hálózati csatlakozásra várniuk.

A vállalat energiafelügyeleti rendszere folyamatosan riasztásokat generálhat például hibásan működő hardverelemekről, megszakadt kapcsolatról vagy határértéken kívüli feszültségről. Az Exowatt olyan AI-ügynököt akart, amely képes ezeket értelmezni, majd önállóan meghozni vagy javasolni a következő lépést. A feladat saját hardverhez, adatokhoz és működési logikához kötődik, ezért egy általános célú frontier modell önmagában nem volt megfelelő.

Egy modell az edge-re, egy a felhőbe

Az Exowatt a SageMaker AI szerver nélküli modelltestreszabását választotta. A megoldás igény szerint biztosít kapacitást a tanításhoz, így a csapatnak nem kell előre GPU-típust választania, kapacitásra várnia, illetve saját tanítókonténert és egyedi receptet készítenie. Az AWS szerint ez a kísérletezést a korábbi, hónapokig tartó folyamat helyett napok alatt ismételhető munkafolyamattá tette.

Az első feladathoz, az edge riasztáskezeléshez a Qwen3-1.7B modellt finomhangolták. A modellből GGUF formátumú, tömörített változat készül, amely llama.cpp segítségével, Kubernetes-podokban fut az egyes helyszínek vezérlőin. A működéshez nincs szükség GPU-ra vagy internetkapcsolatra, ami a korlátozott vagy időszakos hálózati eléréssel rendelkező telephelyeken fontos.

A második feladathoz, az energiapiaci elemzéshez a Qwen3-14B modellt alkalmazták. Ez Amazon Bedrock Custom Model Import segítségével érhető el, és az AWS közlése szerint csak akkor keletkezik használati költsége, amikor a modell aktív. A két modell ugyanannak a tanítási és értékelési folyamatnak az első eredménye.

A kisebb modell jobban teljesített a szűk feladaton

Az Exowatt először a Qwen3-8B modellt próbálta ki utasításokkal és korlátozó szabályokkal. A beállítás 0,735-ös macro-F1 értéknél megállt a riasztáskezelési feladaton. Ezután a vállalat egy finomhangolt Qwen3-1.7B modellt használt, amely az AWS beszámolója szerint felülmúlta a nagyobb, utasításokkal ellátott modellt, miközben hozzávetőleg az ötödét használta a paraméterszámnak.

A Qwen3-8B tizenhárom finomhangolt jelöltje, tizenkét adatkészlet-verzióval, egyszer sem múlta felül az utasításokkal használt 8B-alapvonalat. A kisebb modell változatosabb adatokkal jobb eredményt ért el. A tanítóadatok 684 ellenőrzött döntésből és 1838 hitelesített átfogalmazásból álltak, összesen 2522 példával. Az átfogalmazásokat az Amazon Bedrockon futó Qwen3-235B készítette, mintegy 3,72 dollárért. Egy példány csak akkor maradt a készletben, ha az ellenőrzések szerint változatlanok maradtak a döntés, a címkék, a bizonyítékokra mutató hivatkozások és valamennyi szám.

A megközelítés a teljes modellfolyamatot szabványosítja

Az AWS szerint az Exowatt nem kizárólag két modellt kapott eredményül. A tartósabb eredmény egy ismételhető folyamat, amely a nyers működési adatokból hitelesített tanítóhalmazt, finomhangolt modellt és kiértékelt telepítési artefaktumot állít elő. A folyamatban az Amazon S3 tárolja az adatokat, jegyzékeket, modellartefaktumokat és tesztkészleteket, a SageMaker Model Registry pedig nyilvántartja a befejezett finomhangolásokat, a bizonyítékokat és a mérőszámokat.

A szerver nélküli megközelítés az Exowatt számára azt jelenti, hogy az edge-en futó, kis méretű modelleket és a felhős elemzésekhez használt nagyobb modelleket ugyanazon az úton készítheti el. A vállalat tervei szerint ezt a módszert további, kisebb és feladatspecifikus modellekhez is felhasználja az energia-infrastruktúra flottájában. Az AWS példája azt mutatja, hogy szűk, saját adatokra épülő műveleti feladatoknál a célzott finomhangolás a nagy általános modellek alternatívája lehet, különösen akkor, ha a működésnek kapcsolat nélküli edge környezetben és nagy flottán kell skálázódnia.