Az Arm új mobilplatformja az ügynökszerű AI-feladatokra épít

Az AI-feladatokhoz a teljes rendszer összehangolása kell

Az Arm szeptember 8-i közleménye szerint az ügynökszerű AI a mobilokon a kérdések megválaszolásán túl a felhasználói szándék cselekvéssé alakítására törekszik. Ehhez a rendszernek releváns környezetet kell összegyűjtenie, meg kell terveznie a lépéseket, majd a felhasználó nevében alkalmazásokat és szolgáltatásokat kell összehangolnia.

Az ilyen munkafolyamatokban egyszerre vesz részt a processzor, a grafikus vezérlő, a memória, a szoftver és az alkalmazásvezérlés. A CSS for Mobile 2 ezért ezeket egy teljes platformként kezeli. Az Arm szerint így a teljes folyamat során együtt vizsgálható a teljesítmény, az energiahatékonyság és az adatok mozgása.

A platform egyes elemei önállóan is használhatók, vagy egy nagyobb CSS-konfiguráció részeként egyedi és külső fejlesztésű komponensekkel is kombinálhatók. Az optimalizálás a fizikai megvalósításra is kiterjed, így a teljesítmény, a fogyasztás és a lapkaterület már a rendszerchip integrációja előtt figyelembe vehető.

C2 CPU-klaszter, SME2 gyorsítással

A platformon belül az Arm C2 CPU-klaszter biztosítja a programozható számítási kapacitást és az ügynökszerű munkafolyamatok vezérlését. A klaszter C2-Ultra és Arm C2-Pro CPU-kat, valamint két SME2 egységet tartalmaz. Az Arm szerint ez a korábbi generációs konfigurációhoz képest megduplázza az SME2-kapacitást, és nagyobb helyi AI-teljesítményt kínál többek között beszédfeldolgozáshoz, információ-visszakereséshez és modellfuttatáshoz.

Az Arm által közölt adatok szerint a C2-klaszter a legújabb AI-modelleken akár 1,7-szeres teljesítménynövekedést érhet el. Az egyszálas teljesítmény legfeljebb 15 százalékkal, a webböngészés sebessége 15 százalékkal, az alkalmazások indítása 12 százalékkal javulhat. Klaszterszinten a többszálas teljesítmény 12 százalékkal lehet magasabb.

Az Arm egy reprezentatív, beszédfeldolgozást, memóriából történő visszakeresést, következtetést, alkalmazásfuttatást és webböngészést magában foglaló munkafolyamatban 24 százalékkal gyorsabb végrehajtást közölt az előző generációhoz képest. A C2-Ultra egyes AI-feladatokban akár 70 százalékos csúcsteljesítmény-növekedést kínálhat.

Neurális gyorsítók kerülnek a mobilgrafikába

A grafikus feladatokhoz a CSS for Mobile 2 az Arm Mali G2-Ultra NX GPU-t használja. A grafikus vezérlő neurális gyorsítókat tartalmaz, amelyek közvetlenül a GPU-ba, a shader magok mellé integrálva működnek. A rendszer új végrehajtómotort és harmadik generációs sugárkövető egységet is kapott.

Az Arm szerint a Mali G2-Ultra NX az ügynökszerű AI-feladatokhoz használt C2 CPU-klasztert egészíti ki, és a neurális grafikához biztosít dedikált GPU-s gyorsítást. A vállalat közlése szerint ez az AI-alapú grafikai munkaterhelések mobilos futtatását támogatja.

A platform rendszerösszeköttetését az SI L2 biztosítja. Ez alacsonyabb késleltetésű hozzáférést és nagyobb sávszélességet kínál, miközben koherenciát és szolgáltatásminőségi képességeket ad a több számítási erőforrást használó feladatok kezeléséhez. Ennek akkor lehet szerepe, amikor a CPU, a GPU és más rendszerelemek párhuzamosan dolgoznak, illetve ugyanazokhoz az adatokhoz és memóriához férnek hozzá.

A fejlesztői eszközöket is a platformhoz igazították

A CSS for Mobile 2 szoftveres támogatását az Arm több mint 22 millió fejlesztőt elérő ökoszisztémára építi. A KleidiAI, a különböző AI-keretrendszerekkel való integrációk és az új Arm AI Portal összekapcsolják a hardver képességeit a fejlesztők által használt modellekkel és szoftverekkel.

A KleidiAI és a népszerű AI-keretrendszerek integrációi optimalizált útvonalakat kínálnak az Arm CPU-khoz, köztük az SME2-t használó munkaterhelésekhez. Az Arm AI Portalon optimalizált és validált modellek, teljesítmény- és pontossági adatok, kódpéldák, valamint telepítési erőforrások érhetők el. Az Arm MCP Server ezeket a képességeket ügynökszerű fejlesztési környezetekbe is bekapcsolja.

Az Arm szerint a platform célja, hogy a fejlesztők könnyebben kiválaszthassák a munkaterhelésükhöz megfelelő modellt, megértsék annak Arm-alapú teljesítményét, majd gyorsabban jussanak el az értékeléstől a telepítésig. A CSS for Mobile 2 így a CPU-s SME2-gyorsítást és a Mali G2-Ultra NX integrált neurális gyorsítását egyaránt elérhetővé teszi az eszközön futó AI-alkalmazások számára.