Gyorsabb újrarangsorolást mutatott be a NAVER LABS Europe
A NAVER LABS Europe olyan újrarangsoroló rendszert mutatott be, amely a dokumentumokat többutas, rögzített méretű beágyazási reprezentációkká tömöríti. A cég szerint az RRK 8 milliárd paraméteres modellje a kisebb, 0,6 és 4 milliárd paraméter közötti újrarangsoroló rendszereknél 3-szor és 18-szor gyorsabban fut.
- A NAVER LABS Europe bemutatta az RRK nevű listaszintű újrarangsorolót.
- A rendszer a dokumentumokat rögzített méretű, többutas beágyazási reprezentációkká tömöríti.
- Az RRK 8 milliárd paraméteres modellje a közlemény szerint 3-szor és 18-szor gyorsabb a kisebb összehasonlított modelleknél.
- Hosszú dokumentumokat vizsgáló benchmarkokon az RRK tovább növelte előnyét.
Az RRK a keresési találatok második lépcsőjét gyorsítja
Az újrarangsorolás, vagyis a reranking, az első lépésben visszaadott keresési eredmények finomítása. A folyamat különösen nagy nyelvi modellek használatakor lehet számításigényes. A költségek mérséklésére gyakran kisebb nyelvi modelleket alkalmaznak, vagy korlátozzák a modell bemenetének hosszát.
A NAVER LABS Europe kutatói, Hervé Déjean és Stéphane Clinchant, az RRK nevű rendszert olyan megközelítésként mutatták be, amely a dokumentumokat többutas, rögzített méretű beágyazási reprezentációkká tömöríti. A megoldást a visszakeresést kiegészítő generálás, vagyis a RAG területén elért, dokumentumtömörítéssel kapcsolatos újabb eredmények inspirálták.
A tömörítés és a listaszintű rangsorolás együtt működik
Az RRK listaszintű újrarangsoroló. Ez azt jelenti, hogy a rendszer a találati listát egészként kezeli, miközben a dokumentumokat tömörített reprezentációk formájában dolgozza fel. A kutatók szerint a gazdag, tömörített reprezentációk és a listaszintű újrarangsorolás kombinációja egyszerre eredményez hatékony és eredményes rendszert.
A modell betanításához egyszerű, tudásdesztillációra épülő eljárást használtak. Ennek során egy modell tudását egy másik modell tanítására használják fel. A NAVER LABS Europe közlése szerint az RRK a kisebb, 0,6 és 4 milliárd paraméteres újrarangsoroló modellekkel összevetve hatékonyságban 3-szor és 18-szor gyorsabb, miközben azok eredményességével megegyező vagy annál jobb teljesítményt nyújt.
Hosszú dokumentumoknál tovább nő az előny
A közlemény szerint a sebességelőny a hosszú dokumentumokat vizsgáló tesztelési környezetekben még nagyobb. Ezeken a benchmarkokon az RRK tovább növeli az előnyét a kisebb újrarangsoroló rendszerekkel szemben.
A kutatást az Empirical Methods in Natural Language Processing, röviden EMNLP konferencián mutatják be Budapesten, 2026. október 24. és 29. között. A publikációt a NAVER LABS Europe oldalán 2026. október 24-én tették közzé. A bejelentés alapján az eredmény a nagy nyelvi modelleket használó keresési és visszakeresési folyamatok egyik számításigényes lépésére kínál tömörítésre épülő megközelítést.
NAVER LABS Europe: Efficient listwise reranking with compressed document representations
