Berkeley kutatói szerint az olcsó AI új adatkezelési rendszereket kíván

Hamarosan közel ingyenessé válhat az intelligencia

A Berkeley Artificial Intelligence Research Lab július 7-én közzétett elemzése szerint a mesterséges intelligencia következtetési költségei gyors ütemben esnek. A forrás alapján a GPT-4 szintű képességek használata 2023 elején nagyjából 30 dollárba került egymillió tokenenként, ma pedig 1 dollár alatt van. Egyes szolgáltatók 0,10 dollár alatti költséget is céloznak.

Az elemzés szerint a következtetés ára a különböző mérési teszteken évente 9 és 900-szoros ütemben csökkent, a medián visszaesés pedig közel 50-szeres volt. A Berkeley kutatói úgy látják, hogy a mindennapi tudásalapú munkához már ma is rendelkezésre áll a szükséges intelligenciaszint, és ez hónapról hónapra olcsóbbá válik.

A bejegyzés Aditya G. Parameswaran, a Berkeley-i Kaliforniai Egyetem EECS tanszékének docense és az EPIC Data Lab társigazgatója vezetésével készült munkára épül. A szerzők szerint ez az új helyzet alapvetően felveti az adatkezelési rendszerek újragondolásának kérdését.

Az ügynökök másképp használják az adatbázisokat

A kutatók szerint az ügynökök hamarosan az adatkezelési rendszerek meghatározó munkaterhelését jelenthetik. Egyetlen felhasználói kérésre akár több ezer ügynök is elindulhat, amelyek különböző lehetőségeket vizsgálnak meg.

Az ügynökök adatbázis-lekérdezése eltér az emberi felhasználók vagy az üzleti intelligenciaeszközök működésétől. A Berkeley elemzése ezt ügynöki találgatásnak nevezi. A folyamat magában foglalhatja a séma feltérképezését, az oszlopok vizsgálatát, valamint a lekérdezések részleges, majd teljes összeállítását.

Az olyan feladatok, mint annak kiderítése, miért csökkent a kávéeladás Berkeleyben, vagy mely felhasználói csoportok hajlamosak leginkább a lemorzsolódásra, kombinációk nagy terét nyithatják meg. A szerzők által idézett szöveg, SQL-re épülő teszten az alterveknek csak 10, illetve 20 százaléka volt különböző, így a részlekérdezések 80, illetve 90 százaléka ismételt munkát végzett. A több próbálkozás ugyanakkor javította a feladatok sikerességét.

Az ügynökökre szabott adatkezelési rendszer újrahasznosíthatná az átfedő eredményeket, közelítő válaszokat adhatna, illetve fokozatosan továbbíthatná a részeredményeket. A kutatók szerint a rendszer előre jelezhetné egy lekérdezés várható késleltetését, kapcsolódó eredményeket adhatna, vagy előre elkészített nézeteket biztosíthatna az ügynök számára.

Memória és koordináció több ezer ügynök számára

A második kihívás az ügynökök működéséhez szükséges alapréteg kialakítása. Ebbe tartozik, hogy hol futnak az ügynökök, hogyan őrzik meg az információkat, miként hangolják össze a munkájukat, és hogyan kezelik egymás hibáit.

A jelenlegi gyakorlatban az ügynökök gyakran strukturálatlan Markdown-fájlokba írják a tanulságaikat, amelyeket kereséssel vagy beágyazásokon alapuló visszakereséssel lehet megtalálni. A Berkeley kutatói szerint a fájlrendszerek, a parancsfájlok és a Markdown-fájlok továbbra is fontosak lesznek, nagy léptékben azonban ez a megközelítés korlátokba ütközik.

A korlátozott kontextusablak miatt nem lehet minden lehetségesen releváns információt egyszerre betölteni. A tudásgráfok önmagukban szintén nem oldják meg a strukturált keresés problémáját. A szerzők olyan strukturált memóriát vázolnak fel, amely több szempont, például a modul, a programozási nyelv, a keretrendszer és a hibamód szerint képes releváns emlékeket visszakeresni. Egy adatügynöknél ezek a szempontok az érintett táblák, oszlopok és művelettípusok lehetnek, kiegészítve természetes nyelvű, javító utasításokkal.

Három irány az ügynökök korában

A Berkeley elemzése három összefüggő kutatási és fejlesztési irányt jelöl ki. Az ügynökökért létrehozott adatkezelési rendszerek az ügynöki találgatás nagy mennyiségű, ismétlődő munkáját kezelnék hatékonyabban. Az ügynökökről szóló adatkezelési rendszerek a hosszú feladatok állapotát, a memóriát, az együttműködést és a hibakezelést biztosítanák. Az ügynökök által létrehozott rendszerek pedig lehetővé tennék, hogy az ügynökök egy-egy munkaterheléshez teljes, egyedi adatkezelési rendszereket állítsanak elő.

Ez utóbbi esetben különösen fontos kérdés lesz annak ellenőrzése, hogy a létrehozott rendszer valóban úgy működik-e, ahogyan szándékolták. A szerzők szerint az olcsóbb következtetés miatt az ügynökök egyre nagyobb szerepet kaphatnak a tudásalapú munkában, ehhez azonban olyan adatkezelési alapokra lesz szükség, amelyek képesek a sok ügynök munkáját megbízhatóan irányítani és támogatni.