Harvardi kutatók 20, 60 százalékkal csökkentették a gyorsítótárazás műveleteit

A gyorsítótárazás hatvan éve alig változott

A gyorsítótárazás, vagyis a gyakran használt adatok számítógépes memóriában való ideiglenes tárolása, alapvető szerepet játszik a gyors weboldalbetöltésben és az operációs rendszerek működésében. A Harvard John A. Paulson School of Engineering and Applied Sciences kutatócsoportja szerint az erre szolgáló algoritmusok az 1960-as évek óta csak kis mértékben változtak.

A csoportot Juncheng Yang, a Harvard számítástechnikai tanszékének adjunktusa vezeti. A kutatás jelentőségét az adja, hogy az adatközpontok az AI-korszakban egyre több információt dolgoznak fel, miközben a gyorsítótárak működtetése és a hozzájuk használt memória előállítása is energiát igényel.

Yang a Harvard SEAS közleménye szerint úgy fogalmazott, hogy a gyorsítótárazás több mint hatvan éve létezik, és a számítástechnika egyik alapvető elképzelése. Hozzátette, hogy munkájuk mérésekre, valamint a modern rendszerek működésének megértésére épül.

Két új módszer a gyorsítótárak hatékonyabb működéséhez

A kutatók a Demystifying and Improving Lazy Promotion in Cache Eviction című tanulmányban a szoftveres gyorsítótárazás jelenleg használt technikáit elemezték. A munkát Yang vezette, a társszerzők a Carnegie Mellon Egyetem kutatói, ahol Yang a doktori fokozatát szerezte.

A gyorsítótárak működését úgynevezett kilakoltatási algoritmusok irányítják. Ezek határozzák meg, mely adatok maradjanak a gyorsítótárban, és melyeket kell eltávolítani. Az egyik elterjedt megoldás a Least Recently Used, vagyis az LRU. Ennél minden adathozzáférés az adott elemet a sor elejére helyezi, ezt a műveletet nevezik promóciónak.

Yang szerint ezek a műveletek energiaigényesek, és nagy rendszerekben nehezen skálázhatók. A kutatók ezért bevezették a promotion efficiency, vagyis a promóciós hatékonyság mérőszámát. Ez azt mutatja meg, hogy átlagosan hány sikeres gyorsítótár-találatot eredményez egyetlen promóció.

Az elemzés alapján két technikát javasoltak: a Delayed FIFO Re-Insertiont és az Age-Guided Evictiont. Ezek a meglévő algoritmusokat fejlesztik úgy, hogy kevesebb promóciós műveletre legyen szükség, miközben megőrzik a gyorsítótár hatékonyságát.

Díjazott kutatás, amely adatközpontokban is hasznosulhat

A csapat értékelései szerint az új technikák 20, 60 százalékkal csökkentették a gyorsítótárak promóciós műveleteit. A Harvard közleménye alapján a hatékonyabb működés a gyorsabb alkalmazásokon túl további előnyökkel is járhat, mivel a gyorsítótárak a számítógépes rendszer több szintjén jelen vannak, a processzoroktól és az operációs rendszerektől az adatbázisokon, felhőszolgáltatásokon és peremhálózati infrastruktúrán át.

A tanulmány a Bostonban rendezett VLDB számítástechnikai konferencián Best Paper Honorable Mention elismerést kapott. Ez a kutatócsoport ötödik, gyorsítótárazással foglalkozó díjazott tanulmánya különböző számítástechnikai konferenciákon 2023 óta.

Yang csoportjának korábbi gyorsítótárazási algoritmusait a Harvard szerint több száz nyílt forráskódú szoftverkönyvtárban, valamint olyan nagy technológiai vállalatoknál is alkalmazzák, amelyek naponta petabájtnyi adatot dolgoznak fel. A most bemutatott eredmények így az adatközpontok és más nagy léptékű informatikai rendszerek energiafelhasználásának mérsékléséhez adhatnak új eszközöket.