Az AWS ügynöki keresést épített a Bedrock tudásbázisaira
Az AWS olyan Amazon Bedrock-architektúrát mutatott be, amely egy ügynökkel több tudásbázis között választ, szükség esetén többször is keres, majd forrásokkal alátámasztott választ állít elő. A teljes rendszert egyetlen Python-alapú AWS CDK-alkalmazás telepíti, a működését pedig CloudWatch-műszerfalak és értékelések követik.
- Az ügynök több tudásbázis között választ, és szükség esetén többször keres.
- Az AgenticRetrieveStream idézett, forrásokra alapozott választ állít elő.
- Az agentic retrieval csak a Managed Knowledge Base használatával érhető el.
- A rendszer két CloudWatch-műszerfalat és kétféle értékelést tartalmaz.
- A teljes architektúra egyetlen Python-alapú AWS CDK-alkalmazással telepíthető.
A hagyományos RAG korlátai
A klasszikus visszakereséssel támogatott szöveggenerálás, vagyis a RAG, általában egyetlen indexből keresi ki a kérdéshez legközelebbi szövegrészleteket, majd ezeket átadja a modellnek. Ez sok kérdésnél megfelelő megoldás, összetettebb esetekben azonban hiányos válaszhoz vezethet.
Ha egy kérdésre két külön korpusz tartalma alapján kell válaszolni, az egyszeri keresés csak az egyikből hozhat eredményt. Akkor is gondot okoz a felépítés, ha a kérdés alapján kellene kiválasztani a megfelelő forrást, vagy ha az első találatok után újabb keresésre lenne szükség.
Az AWS által bemutatott vállalati ügynöki keresésben egy következtető ügynök dönti el, hogy kell-e keresni, melyik tudásbázist érdemes használni, illetve szükséges-e újabb lekérdezés. A rendszer csak ezután állítja össze a hivatkozásokkal ellátott, forrásokra alapozott választ.
A Managed Knowledge Base szerepe
Az Amazon Bedrock Managed Knowledge Base kezeli a betöltést, a tárolást, az indexelést és a visszakeresést. Alapértelmezés szerint a beágyazást és az újrarangsorolást is a szolgáltatás által kezelt modellek végzik. Így ebben a felépítésben nincs szükség vektortároló létrehozására, méretezésére vagy javítására.
Az ügynöki visszakereséshez az AWS az AgenticRetrieveStream API-t kínálja. A szolgáltatás többfordulós tervezést végez, végrehajtja a keresést, belsőleg újrarangsorol, majd idézett választ ad. Az agentic retrieval és az AgentCore Gateway integrációja kizárólag a Managed Knowledge Base esetén támogatott.
Az Amazon Bedrock AgentCore biztosítja az ügynöki oldalt. A Gateway minden tudásbázist Model Context Protocol, vagyis MCP-eszközként tesz elérhetővé, a Runtime pedig a következtető ügynök futtatására szolgál. A bemutatott rendszer két tudásbázis között képes útvonalat választani.
Megfigyelhetőség és értékelés egyetlen CDK-alkalmazásban
Az ügynöki működés összetettebb az egyszeri keresésnél, mivel minden kérdés eltérő keresési útvonalat eredményezhet. Emiatt az AWS szerint a megfigyelhetőség a rendszer működésének ellenőrzéséhez szükséges. A megoldás két Amazon CloudWatch-műszerfalat tartalmaz, amelyek hét telemetriai réteget fednek le.
A telepítés kétféle értékelést is biztosít: igény szerint futtatható és folyamatos értékelést. Ezek többek között a válaszok hűségét és helyességét vizsgálják. Az idézetek lehetővé teszik, hogy a válaszok visszakövethetők legyenek a forrásrészletekhez.
A rendszer Amazon S3-alapú korpuszokra, Managed Knowledge Base-ekre, AgentCore Gatewayre, Runtime-ra és az AgenticRetrieveStream API-ra épül. Az AWS CDK négy verembe szervezi az infrastruktúrát, és automatikusan kezeli a függőségi sorrendet, valamint a vermek között átadott értékeket. Az AWS szerint egyetlen parancs elegendő a teljes alkalmazás telepítéséhez.
Mit jelent ez a felhasználóknak és az üzemeltetőknek?
A felhasználók olyan kérdésekre is kaphatnak forrásokkal alátámasztott választ, amelyek több tudásbázis tartalmát vagy egymást követő kereséseket igényelnek. A válasz előállítása előtt az ügynök kiválaszthatja a releváns tudásbázist, és szükség esetén újra lekérdezheti a korpuszt.
Az üzemeltetők számára a megoldás legfontosabb eleme, hogy a keresési és következtetési folyamat mellett a teljesítmény, a hívások száma, a tokenhasználat, valamint a válaszok minősége is mérhető. A Managed Knowledge Base emellett leveszi a vektortároló kezelésének feladatát, miközben az AWS által bemutatott architektúra a telepítést és a függőségek kezelését is automatizálja.
