ExecuTorch
Az ExecuTorch a PyTorch ökoszisztémájához kapcsolódó technológia, amely a mesterséges intelligencia modelljeinek helyi, közvetlen futtatását segíti különféle eszközökön. Jelentősége, hogy az MI használata nem feltétlenül felhőalapú szolgáltatásokhoz kötött: a számítás egy kompatibilis készüléken vagy chipen is történhet.
Ezen a címkeoldalon az ExecuTorch gyakorlati alkalmazásáról szóló hírek jelennek meg. A cikkek azt mutatják be, hogyan futhatnak PyTorch modellek Arm Cortex chipeken, illetve miként válhat helyben futtathatóvá egy nagy, 30 milliárd paraméteres Muse Glimmer modell. A válogatás az eszközoldali MI fejlődését követi.
A PyTorch az Arm chipeken futó streaming beszédfelismerést vizsgálta
A PyTorch a Nemotron 3.5 streaming beszédfelismerő modell eszközoldali futását elemezte egy Google Pixel 11 telefonon. A vizsgálat szerint a nagyobb hangdarabok javítják…
Az Arm vizuálisan keresi az edge MI-modellek hibáit
Az Arm nyílt forráskódú adaptereket készített a Google AI Edge Model Explorerhez, hogy a fejlesztők vizuálisan ellenőrizhessék az edge eszközökre szánt MI-modellek…
A PyTorch modeljei közvetlenül futhatnak Arm Cortex-M chipeken
A PyTorch modellek közvetlenül futhatnak Arm Cortex-M processzorokon az ExecuTorch új háttérrendszerével. A megoldás CMSIS-NN gyorsítást használ, és egyetlen…
FejlesztőknekA PyTorch szerint helyben is futtatható a 30 milliárd paraméteres Muse Glimmer
A Meta bemutatta a Muse Sparkból lepárolt, nyílt súlyú Muse Glimmer modellt, amelyet helyi, ügynökalapú munkafolyamatokra szán. A PyTorch közlése szerint az ExecuTorch…