Új időkeretes vektorkeresést és rugalmasabb skálázást kapott a Vespa

Időkerethez igazítható vektorkeresés

A Vespa új lehetőséget ad a közelítő legközelebbi szomszéd keresés, vagyis az ANN-keresés késleltetésének kezelésére. A rendszer korábban olyan paraméterekkel, például a targetHits és a filterFirstExploration értékével szabályozta, milyen mélyen járja be a HNSW-gráfot.

Az új ranking.matching.anntimebudget lekérdezési paraméterrel közvetlenül megadható, mennyi idő állhat rendelkezésre az ANN-kereséshez. A Vespa a megadott időkorláton belül keresi meg a legjobb egyezéseket, majd leáll, így nincs szükség a késleltetési cél közvetett beállítására a keresési paraméterek folyamatos hangolásával.

A teljesítmény követéséhez a Vespa a query_approximate_nns_time mérőszám használatát javasolja. A vállalat szerint ez csak azokat a lekérdezéseket számolja, amelyek ténylegesen ANN-keresést hajtanak végre, ezért a mérőszám darabszáma azt is megmutatja, hány lekérdezés használta ezt a keresési módot, illetve hány tért át pontos keresésre.

Rugalmasabb erőforrás-kezelés a Vespa Cloudban

A Vespa Cloud új max-cost-factor beállítása akkor segíthet, amikor a felhőszolgáltatónál nem érhető el a megadott erőforrásokhoz pontosan illeszkedő példánytípus. Ilyenkor a rendszer nagyobb példányt is választhat, ahelyett hogy blokkolná a fürt újraméretezését.

A Vespa példája szerint a max-cost-factor=2 beállítás mellett egy 32 vCPU-t, 64 GB memóriát és 1900 GB lemezt kérő konfigurációhoz egy 64 vCPU-s, 128 GB memóriával és 3800 GB lemezzel rendelkező példány is megfelelhet.

A Vespa Cloudban alapértelmezés szerint engedélyezett az optimális példánytípusokra történő automatikus migráció. Ez a karbantartási időablakban fut, és a vállalat szerint a nagyobb teljesítményű csomópontok, valamint a kedvezőbb költség és teljesítmény arány elérését szolgálja. Ha egy alkalmazás átmenetileg nagyobb példányt kap az alacsony kapacitás miatt, a rendszer később visszamigrálhatja a költséghatékonyabb típusra.

Több kontroll a lekérdezések rangsorolása felett

A Vespa új címkézési lehetőségeivel a lekérdezés egyes részei külön pontozhatók. A címkék használhatók például arra, hogy egy alternatív kifejezés kisebb súllyal járuljon hozzá a rangsoroláshoz, vagy hogy külön BM25-érték készüljön a lekérdezés egyes részeire.

A bm25(field, label) funkció csak az adott címkéhez tartozó kifejezések pontszámát veszi figyelembe. A bm25_for_labels(name) egy címkézett tenzort ad vissza, így több lekérdezési rész pontszámai külön kezelhetők. A labeled() operátor tetszőleges al-lekérdezéshez címkét és pontszámot rendelhet, amelyet az itemRawScore rangsorolási funkcióval lehet felhasználni.

Az új lehetőségek a Vespa 8.738, illetve a labeled() és itemRawScore esetében a Vespa 8.748.3 verziójától érhetők el. A vállalat emellett három új rangsorolási funkciót is bemutatott: a tensorFromLabelsWithOffset tömbattribútumból készít tenzort, az averageFieldLength egy indexelt mező átlagos hosszát adja meg, a queryTermDocumentFrequency pedig azt mutatja meg, hány dokumentumban szerepelnek az egyes lekérdezési kifejezések.

Személyes közösségi eseményt is szervez a Vespa

A termékfrissítések mellett a Vespa bejelentette első személyes közösségi találkozóját, a Vespa.ai Live eseményt. A rendezvény mérnököknek, építészeknek, kutatóknak és a keresési, illetve rangsorolási rendszereken dolgozó szakembereknek szól.

A programban technikai előadások, valós felhasználói történetek, szakértői panelek és interaktív beszélgetések szerepelnek. Trey Grainger és Doug Turnbull is részt vesz az eseményen. A megelőző napon kezdő és haladó képzés is lesz, amely a résztvevők Vespa-ismereteinek fejlesztését szolgálja.