Az MIT nyolc éve követi az AI-gyorsítók gyors fejlődését

2018 óta követik az AI-hardverek változását

Az AI-gyorsítók olyan speciális rendszerek, amelyek többek között a neurális hálózatok, a mélytanulás és a gépi tanulás feladatait gyorsítják. Az MIT Lincoln Laboratory Supercomputing Center (LLSC) csapata 2018 óta készíti a Lincoln AI Computing Survey, röviden LAICS nevű felmérést. A sorozat legújabb tanulmánya a hatodik publikáció.

A kutatók szerint az elmúlt években gyorsan nőtt az új kutatási és kereskedelmi AI-gyorsítók száma. Albert Reuther, az LLSC munkatársa szerint a felmérés elindítását az is ösztönözte, hogy a laboratórium kormányzati támogatóitól egyre több kérdés érkezett az új technológiákról. Az LLSC a laboratórium kutatói által használt nagy teljesítményű számítástechnikai rendszereket üzemelteti és optimalizálja.

A felmérésben a központi feldolgozóegységeket (CPU), a grafikus feldolgozóegységeket (GPU), az alkalmazásspecifikus áramköröket (ASIC), a programozható kapumátrixokat (FPGA) és az adatfolyam-gyorsítókat is vizsgálják. Ezek eltérő rugalmasságot kínálnak. A CPU-k általános célú számításokra használhatók, míg az ASIC-ek nagyon konkrét feladatokra készülnek. A GPU-k, az FPGA-k és az adatfolyam-gyorsítók többféle munkaterheléshez konfigurálhatók.

Teljesítmény, energiaigény és architektúra

A LAICS főként a gyorsítók csúcsteljesítményét és csúcsteljesítmény-felvételét hasonlítja össze. Az eszközöket ezután aszerint is csoportosítják, hogy chipként, kártyaként vagy teljes rendszerként jelennek meg. Az első tanulmány 57 gyorsítót vizsgált, a legújabb már több mint 120-at.

Az elemzések nyilvánosan elérhető adatokra támaszkodnak, ami nehézséget okoz, mivel egyes vállalatok nem teszik közzé a teljesítményre és az energiaigényre vonatkozó adataikat. Reuther naponta keres új technikai sajtóanyagokat, vállalati bejelentéseket és iparági előadásokat, hogy a felmérés követni tudja a változásokat.

A tanulmányok minden alkalommal egy új szemponttal is foglalkoznak. A 2022-ben megjelent elemzés például azt vizsgálta, honnan származtak a teljesítménynövekedések. A kutatók szerint ezekben szerepet játszottak a kisebb, sűrűbb tranzisztorok és az alacsonyabb numerikus pontosság, amely kevesebb értékes számjeggyel végzett számításokat jelent.

A legfrissebb tanulmány az elérhető architekturális megoldásokat elemezte. Azt vizsgálta, hogyan változna egy rendszer működése bizonyos elemek, például a processzoronkénti magok számának vagy a párhuzamos teljesítménynek a növelésével.

A felmérés a beszerzési döntéseket is segíti

Az AI-gyorsítók nem kizárólag gépi tanulási feladatokra használhatók. Párhuzamos működésük révén molekulák működésének modellezését és folyadékdinamikai szimulációkat is gyorsíthatnak, amelyek számításigényes feladatok.

A Reuther által vezetett csapatban az LLSC munkatársai, Michael Jones, Peter Michaleas, Jeremy Kepner és Vijay Gadepally vesznek részt. A kutatók a Lincoln Laboratory más részlegeivel is együttműködnek, hogy megértsék, miként támogatják a gyorsítók a kutatási és fejlesztési feladatokat.

Reuther szerint az elmúlt hónapokban hat új startup jelentette be első AI-gyorsítóját, ezért a felmérést a belátható jövőben is folytatni kívánja. Az MIT közlése szerint a LAICS eredményei segítettek a támogatóknak és a kormányzati partnereknek jobban megérteni a piacot, valamint kutatási és beszerzési döntéseket hozni.

A felmérés az LLSC jövőbeli rendszerbeszerzéseit is támogatja, például annak eldöntésében, mely GPU-kat érdemes számításba venni. A teljes tanulmánysorozat és a hozzá tartozó adatkészletek elérhetők az MIT által hivatkozott gyűjteményben.