Az AI-ügynök maga döntheti el, mikor kell rövidítenie az előzményeit
Az Apple kutatói SELFCOMPACT néven olyan módszert mutattak be, amelyben a nyelvi modell maga dönti el, mikor és hogyan tömörítse hosszú munkamenetének előzményeit. A NeurIPS konferenciára készült tanulmány szerint a megoldás a rögzített időközönkénti összefoglalásnál kevesebb tokennel is hasonló vagy jobb eredményt érhet el.
- Az Apple kutatói SELFCOMPACT néven adaptív kontextustömörítési módszert mutattak be.
- A modell maga dönthet a tömörítés időzítéséről egy eszköz és egy szabályrendszer segítségével.
- A módszert hat teszten és hét modellen vizsgálták.
- A matematikai teszteken legfeljebb 18,1 pontos javulást mértek az összefoglalás nélküli alaphoz képest.
- A kérdésenkénti költség 30 és 70 százalék között csökkent a vizsgálatban.
A hosszú ügynöki munkamenetek problémája
Az AI-ügynökök munkamenetei gyakran gondolatmenetekből és eszközhívásokból álló hosszú nyomokat, úgynevezett agent trace-eket tartalmaznak. Ezekben idővel elavult tartalmak halmozódhatnak fel, amelyek befolyásolhatják a későbbi generálást. A munkamenet végül a modell kontextusablakát is kinőheti.
A jelenlegi megoldások egy része rögzített időközönként, illetve egy meghatározott tokenszám elérésekor tömöríti az előzményeket. Az Apple kutatói szerint ez figyelmen kívül hagyja a munkamenet szerkezetét. Emiatt előfordulhat, hogy a rendszer egy részfeladat megoldása vagy egy keresési folyamat közben dob el még szükséges információkat.
A SELFCOMPACT működése
A tanulmányban bemutatott SELFCOMPACT egy következtetési időben használható módszer, amely két elemet kapcsol össze. Az első egy tömörítő eszköz, amelyet maga a modell hívhat meg az addig felhalmozott kontextus összefoglalására.
A második egy könnyű szabályrendszer, amely útmutatást ad a döntéshez. A tömörítést akkor érdemes elindítani, amikor egy részfeladat lezárult, vagy a munkamenet egyértelműen közeledik a megoldáshoz. A rendszernek viszont vissza kell fognia a tömörítést, ha a modell még egy levezetés közepén tart, vagy éppen elakadt.
A kutatók szerint mindkét elemre szükség van. Az eszköz önmagában a nyílt súlyú modelleknél egyenetlenül működik: a modellek időnként rossz pillanatban használják, máskor pedig egyáltalán nem hívják meg. A szabályrendszer önmagában nem tudja végrehajtani a tömörítést. Együtt viszont adaptív tömörítést tesznek lehetővé finomhangolás és külső felügyelet nélkül.
Kevesebb token, jobb eredmények a teszteken
Az Apple oldalán 2026 októberében közzétett, NeurIPS-konferenciára készült tanulmány hat mérési teszten és hét modellen vizsgálta a módszert. A tesztek között versenyszerű matematikai feladatok és ügynöki keresési feladatok szerepeltek.
A kutatók eredményei alapján a SELFCOMPACT a rögzített időközönkénti összefoglalással azonos vagy annál jobb teljesítményt ért el, miközben a tokenköltség töredékét használta. Az összefoglalás nélküli alapmódszerhez képest a javulás matematikai feladatoknál legfeljebb 18,1 pont, ügynöki keresésnél pedig 5 és 9 pont közötti volt. A kérdésenkénti költség közben 30 és 70 százalékkal csökkent.
A módszer jelentősége az AI-ügynökök számára
A kutatás egyik megállapítása szerint a modellek külső útmutatás nélkül nem tudják megbízhatóan felismerni, mikor romlik a saját kontextusuk minősége. A kutatók ezt meta-kognitív résnek nevezik. A könnyű szabályrendszer ezt a hiányosságot képes áthidalni, így a megfelelő időzítés a modell betanítása helyett az ügynököt körülvevő rendszerrel is biztosítható.
Ez a felhasználók számára elsősorban hosszú, több lépésből álló feladatoknál lehet fontos, ahol a gondolatmenetek és eszközhívások miatt gyorsan nő az előzmények mérete. A tanulmány eredményei szerint a SELFCOMPACT az ilyen feladatok költségét csökkentheti, miközben a rögzített tömörítési ütemezéshez képest a munkamenet szerkezetéhez igazodó döntést alkalmaz.
Apple: Self-Compacting Language Model Agents
