A Salesforce kisebb, célzott modellekkel csökkenti az Agentforce költségeit

A Salesforce több, egy-egy feladatra optimalizált modellt épített be az Agentforce mögötti rendszerbe, hogy mérsékelje a következtetési költségeket és gyorsítsa az ügynök működését. A vállalat szerint ezzel a fejlesztők nagyobb kontrollt kapnak a biztonság, a válaszminőség és a modellválasztás felett.
- A Salesforce az Agentforce feladatait több, célzott modell között osztja szét.
- A HyperClassifier körülbelül 26 ezredmásodperc alatt válaszol, szemben az általános modell körülbelül 1446 ezredmásodpercével.
- A biztonsági témák pontossága a Salesforce szerint 95 százalékról 99 százalékra javult.
- Külön modellek vizsgálják a promptbefecskendezést, a toxikus tartalmat, a válaszminőséget és a keresési eredményeket.
- A Salesforce szerint a felépítés csökkenti a költségeket és mérsékli az egyetlen modellbeszállítótól való függést.
Egyetlen modell helyett feladatokra bontott rendszer
A Salesforce 2026. július 8-i beszámolója szerint az Agentforce másfél évvel korábban még teljes egészében egy bérelt modellen futott. A tokenköltség a forgalommal együtt lineárisan nőtt, ezért a vállalat úgy döntött, hogy nem az ügyfelekre hárítja a növekvő számlát, hanem átalakítja a rendszert.
A megközelítés lényege, hogy a különböző feladatokat külön modellekre bízzák. Egy általános, határmodellnek nevezett rendszer továbbra is a többlépéses alapvető következtetést végzi, a köré épített vezérlőréteg, vagyis a harness azonban a többi munkát célzott modellekhez irányítja. Ilyen feladat az intent felismerése, a támadások kiszűrése, a válaszok biztonsági ellenőrzése, a források rangsorolása és a válasz minőségének értékelése.
A Salesforce szerint a célzott modellek már a rendszer egyre nagyobb részét kezelik. A vállalat nem egyetlen szolgáltatótól függő, zárt felépítést akar fenntartani, így az ügyfelekkel együtt szabadabban cserélheti az alapul szolgáló modelleket.
A telemetria mutatta meg, mely feladatokat érdemes leválasztani
A Salesforce közel három évtizede vállalati munkafolyamatokhoz kapcsolódó rendszerként működik, ezért saját ügyfélfolyamataira, adataira, jogosultságaira és üzleti logikájára építette az agentikus vezérlőréteget. A vállalat közlése szerint ez a réteg több százezer szolgáltatási, értékesítési és kereskedelmi felhasználási esetben futott.
Minden következtetés nyomot hagyott a telemetriában. A Salesforce ezekből a nyomokból azonosította a visszatérő lépéseket: a kérés támadás szempontjából történő vizsgálatát, a felhasználói szándék felismerését, a válasz valós adatokkal való megalapozását és a kész válasz ellenőrzését. Ezután az egyes feladatokra külön nyílt forráskódú modelleket hangoltak.
A vállalat állítása szerint a modelleket nem a nulláról tanították. A hangolás a vezérlőréteg által korábban feldolgozott munkák millióinak mintáira épült.
Gyorsabb osztályozás és külön biztonsági ellenőrzések
A HyperClassifier minden kérés előtt felismeri a témát, legfeljebb 200 címke között osztályoz, majd a megfelelő alügynökhöz irányítja a kérést. A Salesforce mérése szerint a modell válasza körülbelül 26 ezredmásodperc alatt érkezik meg, míg egy általános frontier modellnél ez körülbelül 1446 ezredmásodperc. A vállalat ezt nagyjából 55-szörös gyorsulásként írja le.
A HyperClassifier az OpenAI GPT-OSS-20B modelljére épül, amelyet a Salesforce finomhangolt és kvantálva, gyors futtatásra alakított. A vállalat szerint a biztonsági témák pontossága 95 százalékról 99 százalékra javult, a többfordulós beszélgetésekben jelentkező témavesztés pedig körülbelül 20 százalékról 10 százalékra csökkent. A modell az állítás szerint csak a felhasználói megnyilatkozásokat és a szándék jeleit elemzi, a CRM-adatokkal kiegészített teljes promptot nem.
A HyperClassifier a Salesforce szerint 2026 tavaszán vált általánosan elérhetővé, és alapértelmezett szándékfelismerő, illetve útválasztó modell lett az Agentforce Service és Employee Agent sablonokban. Az Agentforce Voice szemantikai végpontészlelésre is használja, vagyis annak felismerésére, hogy a beszélő befejezte-e a gondolatát, vagy csak röviden megállt.
A rendszer további külön modelleket is használ. A promptbefecskendezés elleni modell CRM-mezők, beérkező e-mailek, űrlapok és átiratok támadási mintáira készült, és hat támadási típust osztályoz. Minden prompt kap egy támadási pontszámot, amely bekerül az auditnaplóba. A Salesforce blokkoló mód fejlesztésén is dolgozik.
A toxikussági modell minden LLM-választ átvizsgál erőszakos, szexuálisan explicit, gyűlöletkeltő és fizikailag káros tartalom után, majd pontszámot rendel hozzá és naplózza azt az Einstein Trust Layer Audit Trailben. A TextEval modell a válasz megalapozottságát, hivatkozásait, minőségét, a feladat lezárását és az utasítások követését értékeli. A TextRerank pedig a keresésből visszakapott találatokat rangsorolja nagy áteresztőképességre optimalizálva.
Salesforce: How We Cut Inference Spend by Right-Sizing Our Models


