Az Axelera AI saját modellek futtatását teszi lehetővé új nyelvével

Közvetlen hozzáférés az Axelera gyorsítóihoz

Az Axelera AI szeptember 15-én jelentette be az AxScriptet. A vállalat szerint hardverei a konvolúciós hálózatokat, a látási transzformereket, a nagy nyelvi modelleket, a látás és nyelv modelleket, a látás és nyelv és cselekvés modelleket, valamint a diffúziós modelleket is képesek kezelni. A támogatott adatformátumok között videó, kép, hang, szöveg és idősor is szerepel.

Az AxScript Python-alapú, doménspecifikus nyelv, amely közvetlen programozást biztosít az Axelera AI Cores számára. Egy AxScript-program a teljes modellt megvalósítja, beleértve a műveleteket, az adatok mozgatását és a gyorsítón végzett ütemezést. A fejlesztők így saját modelleket készíthetnek fel a hardverre, nem csak olyan modelleket használhatnak, amelyek már szerepelnek a gyártó által támogatott listán.

Kézi portolás és automatikus fordítás

Az AxScript kétféleképpen használható. A fejlesztők közvetlenül is megírhatják vele egy teljes modell programját. Az Axelera ehhez dokumentációt és egy ügynökalapú eszközt is kiad, amely elemzi a forrásmodellt, majd segít a modellhez illeszkedő AxScript elkészítésében. A végeredmény felett továbbra is a fejlesztő rendelkezik.

A nyelvhez értékelési és kvantálási eszközök is tartoznak, így a portolás során mérhető a pontosság és a teljesítmény. A másik út az AxGraph használata. Ez a gráffordító szabványos formátumokat, köztük az ONNX-et és a PyTorchot fogadja, majd automatikusan lefordítja a modelleket. Ez az Axelera szerint elsősorban a szabványos architektúrákhoz kínál egyszerűbb munkafolyamatot.

A fejlesztők AxScriptben egyedi operátorrétegeket is készíthetnek, amelyeket az AxGraph beépít a fordításba. A két megközelítés ugyanazt az optimalizáló hátteret és kódgenerálási folyamatot használja. A vállalat szerint a kézzel írt AxScriptben bevált teljesítményjavításokat rendszeresen visszaépítik az automatikus fordítóba.

Egy nyelv több gyorsítógenerációhoz

Az Axelera AI szerint az AxScript célja nem pusztán az, hogy lefordíthatóvá tegye a modelleket, hanem az is, hogy azok nagy teljesítménnyel és megfelelő pontossággal fussanak. A közvetlen adatút-hozzáférés lehetővé teszi a célzott optimalizálást, miközben a teljes modell portolását a vállalat szerint egyetlen mérnök számára is kezelhetővé teszi.

Az Axelera belső tesztjeiben a Qwen3.5 modellt egyetlen mérnök, AI segítségével, egy nap alatt portolta AxScript-programként. Ioannis Koltsidas, a vállalat szoftverért felelős alelnöke szerint „a teljesítmény melletti programozhatóság az, ami ezt elsőként teszi”. Manuel Botija termékért felelős alelnök azt mondta, hogy az AxScript belső kiadása óta exponenciálisan nőtt a támogatott modellek száma.

Ugyanaz az AxScript-kód célozza a jelenleg szállított Metis és Europa gyorsítókat, és a jövőbeli generációkkal, köztük a már bejelentett Titaniával is továbbvihető. A modellek AxScripttel készített változatai a Voyager SDK 1.9 szeptemberi kiadásában kezdenek megjelenni. A nyelvhez először kiválasztott ügyfelek kapnak hozzáférést, a nyilvános elérhetőséget pedig az év vége előttre ígéri a vállalat.